发布时间:2024-11-30
点击次数: 中山大学、香港科技大学、上海交通大学和华为诺亚方舟实验室的研究人员提出了一种名为 atomthink 的新框架,旨在提升多模态大语言模型 (mllm) 解决高级数学推理问题的能力。该框架通过将“慢思考”策略融入mllm,显著提高了模型在基准数学测试中的性能,并具有良好的可迁移性。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

AtomThink 框架的核心在于其对“原子步骤”的关注。“原子步骤”指的是语义上不可再分的最小推理单元。该框架包含三个关键组件:多模态注释引擎、原子步骤指令微调和策略搜索。
挑战与创新:
现有方法通常依赖于精心设计的提示来激发模型的思维链 (CoT),但忽略了推理链中中间步骤的质量。AtomThink 则通过原子步骤质量评估策略,对每个步骤进行细致分析,从而识别并改进薄弱环节。该策略借鉴了GPT-4o的推理行为,构建了一个规范的推理能力集合,并利用结果监督和重映射来评估模型在不同能力项上的得分。

AtomThink 框架详解:

神笔马良
神笔马良 - AI让剧本一键成片。
320
查看详情
原子步骤微调: 该步骤对 MLLM 进行指令微调和过程监督训练 (PRM),以增强其解码能力,并使其学习近似马尔可夫决策过程的输出格式。
策略搜索: 为了从多个候选步骤中选择最佳路径,AtomThink 框架采用了路径维度搜索 (多数投票、Best-of-N) 和步骤维度搜索 (贪心算法、Beam Search)。
实验结果与结论:
实验结果表明,AtomThink 框架在 MathVista 和 MathVerse 两个基准测试中显著提升了模型的性能。与基线模型相比,AtomThink 在 QuickThink (快速推理) 模式下已经取得了显著改进;而在 SlowThink (慢速推理,利用 Beam Search) 模式下,性能提升更为显著,甚至超过了一倍。 Best-of-N 策略结合平均得分聚合,取得了最佳性能。 研究还验证了 Test-time scaling law 在多模态数学推理任务中的存在。
该研究为构建更强大的慢思考模型提供了新的思路,也为解决复杂数学推理问题提供了有效的解决方案。论文及代码即将开源:
以上就是多模态慢思考:分解原子步骤以解决复杂数学推理的详细内容,更多请关注其它相关文章!
# 华为
# 海珠seo优化外包
# 新闻营销推广文案案例
# 白城外贸seo优化
# 重庆主城电器网站建设
# 安溪营销推广定制
# 哪个网络推广营销收费便宜
# 平潭网络推广营销排名
# 临沂线上seo优化
# 象山营销推广价格
# 诸城有做网站推广的吗
# 工程
# 取得了
# 操作流程
# 中山大学
# 迁移性
# 开源
# 慢速
# 诺亚方舟
# 多个
# 多模
# git
相关栏目:
【
行业新闻62819 】
【
科技资讯67470 】
相关推荐:
微软AR/VR专利提出使用时间复用谐振驱动产生双极性电源
生成式AI与云结合,机遇与挑战并存
微幼科技晨检机器人与人工晨检相比,有何优势
一次购买全年省心,入手科沃斯这几台机器人,省下时间就是金钱
金山办公宣布与英伟达团队合作,加速WPS AI服务
上新7款产品,美图继续“蹭”AI
出门问问亮相2025世界人工智能大会,展示AI CoPilot解决方案
百度创始人、董事长兼首席执行官李彦宏:AI原生应用比大模型数量更重要
AI技术改变*,新骗局来袭,*成功率接近100%
参考封面|人工智能“淘金热”
苹果AR头显商标与华为撞车,在中国或改名
探索人工智能在物联网领域的影响与改变
AI大举入侵内容行业,哪些上市*及动漫公司进行了布局?
丰田汽车研究院推出生成式人工智能汽车设计工具
扎克伯格吐槽苹果Vision Pro:社交落后Meta太多,无法建设元宇宙
值得买科技入选“北京市通用人工智能产业创新伙伴计划”应用伙伴
电力人工智能数据集目录首次发布
AI框架生态峰会本周开幕 华为昇腾“朋友圈”再聚首 全球首个全模态大模型将登场
到中国科技馆体验“一滴油的奇妙旅行”,线上元宇宙展厅同步开启
华为推出两款商用 AI 大模型存储新品,支持 1200 万 IOPS 性能
Databricks 发布大数据分析平台 Spark 用 AI 模型 SDK:一键生成 SQL 及 FySpark 语言图表代码
WHEE上线时间介绍
传字节内测对话式 AI 产品,代号「Grace」;马斯克嘲讽苹果 头显;比亚迪 F 品牌定名「方程豹」
世界人工智能大会高合发表演讲,HiPhi Y即将全球上市
阿里云AI绘画创作大模型通义万相发布 已开启定向邀测
GPT-4不能在麻省理工学院获得计算机科学学位
挤爆服务器,北大法律大模型ChatLaw火了:直接告诉你张三怎么判
NVIDIA垄断AI市场90%份额:AMD性能追上80% 软件太不能打
“智能体动作生成技术”现身WAIC:游戏AI技术为机器人科创注入新动力
【搞事】时隔4年 谷歌更新安卓logo 机器人头更饱满了
OpenAI 引入个性化指令功能,消除对话中的重复偏好与信息
「电子果蝇」惊动马斯克!背后是13万神经元全脑图谱,可在电脑上运行
DreamAvatar数字人在哪里下载
微软向美国政府提供GPT大模型,如何保证安全性?
推动企业数字化转型升级!“松江智造”摘世界人工智能大会重磅奖项
支持跨语言、人声狗吠互换,仅利用最近邻的简单语音转换模型有多神奇
从谷歌到亚马逊,科技巨头们的AI痴迷
苹果2万5的AR遭遇砍单95%:不及预期
AI大模型时代,数据存储新基座助推教科研数智化跃迁
击败LLaMA?史上超强「猎鹰」排行存疑,符尧7行代码亲测,LeCun转赞
好莱坞面临全面停摆 好莱坞大罢工抵制“AI入侵”
阿里云全面支持Llama2训练部署,助力企业快速构建自有大型模型
「从未被制造出的最重要机器」,艾伦·图灵及图灵机那些事
人工智能如何与智能家居集成
人工智能正在弥合认知和表达之间的鸿沟
无需标注数据,「3D理解」进入多模态预训练时代!ULIP系列全面开源,刷新SOTA
【|直播|预告】人工智能高峰论坛将于7月2日13:30准时开播!
人工智能框架生态峰会即将召开,聚焦AI大模型技术与科学智能探索!
田渊栋新作:打开1层Transformer黑盒,注意力机制没那么神秘
映宇宙数字人“映映”亮相ChinaJoy,展示AI黑科技实现用户互动