400 128 6709

行业新闻

多模态慢思考:分解原子步骤以解决复杂数学推理

发布时间:2024-11-30点击次数:

中山大学、香港科技大学、上海交通大学和华为诺亚方舟实验室的研究人员提出了一种名为 atomthink 的新框架,旨在提升多模态大语言模型 (mllm) 解决高级数学推理问题的能力。该框架通过将“慢思考”策略融入mllm,显著提高了模型在基准数学测试中的性能,并具有良好的可迁移性。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

图片

AtomThink 框架的核心在于其对“原子步骤”的关注。“原子步骤”指的是语义上不可再分的最小推理单元。该框架包含三个关键组件:多模态注释引擎、原子步骤指令微调和策略搜索。

挑战与创新:

现有方法通常依赖于精心设计的提示来激发模型的思维链 (CoT),但忽略了推理链中中间步骤的质量。AtomThink 则通过原子步骤质量评估策略,对每个步骤进行细致分析,从而识别并改进薄弱环节。该策略借鉴了GPT-4o的推理行为,构建了一个规范的推理能力集合,并利用结果监督和重映射来评估模型在不同能力项上的得分。

图片

AtomThink 框架详解:

  1. 多模态注释引擎: 该引擎利用动态提示和短 CoT 增强策略,从现有数据集中生成高质量的长 CoT 数据。它通过GPT-4o辅助,将原始推理过程分解成多个原子步骤,并创建了 AtomMATH 数据集 (包括AMATH-SFT 和 AMATH-PRM 两个子集)。

图片

神笔马良 神笔马良

神笔马良 - AI让剧本一键成片。

神笔马良 320 查看详情 神笔马良
  1. 原子步骤微调: 该步骤对 MLLM 进行指令微调和过程监督训练 (PRM),以增强其解码能力,并使其学习近似马尔可夫决策过程的输出格式。

  2. 策略搜索: 为了从多个候选步骤中选择最佳路径,AtomThink 框架采用了路径维度搜索 (多数投票、Best-of-N) 和步骤维度搜索 (贪心算法、Beam Search)。

实验结果与结论:

实验结果表明,AtomThink 框架在 MathVista 和 MathVerse 两个基准测试中显著提升了模型的性能。与基线模型相比,AtomThink 在 QuickThink (快速推理) 模式下已经取得了显著改进;而在 SlowThink (慢速推理,利用 Beam Search) 模式下,性能提升更为显著,甚至超过了一倍。 Best-of-N 策略结合平均得分聚合,取得了最佳性能。 研究还验证了 Test-time scaling law 在多模态数学推理任务中的存在。

该研究为构建更强大的慢思考模型提供了新的思路,也为解决复杂数学推理问题提供了有效的解决方案。论文及代码即将开源:

  • 论文:https://www.php.cn/link/5c3165e90eb8727c7dd0f9434cbd2bba
  • 主页 (即将开源): https://www.php.cn/link/1852a2083dbe1c2ec33ab9366feb2862

以上就是多模态慢思考:分解原子步骤以解决复杂数学推理的详细内容,更多请关注其它相关文章!


# 华为  # 海珠seo优化外包  # 新闻营销推广文案案例  # 白城外贸seo优化  # 重庆主城电器网站建设  # 安溪营销推广定制  # 哪个网络推广营销收费便宜  # 平潭网络推广营销排名  # 临沂线上seo优化  # 象山营销推广价格  # 诸城有做网站推广的吗  # 工程  # 取得了  # 操作流程  # 中山大学  # 迁移性  # 开源  # 慢速  # 诺亚方舟  # 多个  # 多模  # git 


相关栏目: 【 行业新闻62819 】 【 科技资讯67470


相关推荐: 微软AR/VR专利提出使用时间复用谐振驱动产生双极性电源  生成式AI与云结合,机遇与挑战并存  微幼科技晨检机器人与人工晨检相比,有何优势  一次购买全年省心,入手科沃斯这几台机器人,省下时间就是金钱  金山办公宣布与英伟达团队合作,加速WPS AI服务  上新7款产品,美图继续“蹭”AI  出门问问亮相2025世界人工智能大会,展示AI CoPilot解决方案  百度创始人、董事长兼首席执行官李彦宏:AI原生应用比大模型数量更重要  AI技术改变*,新骗局来袭,*成功率接近100%  参考封面|人工智能“淘金热”  苹果AR头显商标与华为撞车,在中国或改名  探索人工智能在物联网领域的影响与改变  AI大举入侵内容行业,哪些上市*及动漫公司进行了布局?  丰田汽车研究院推出生成式人工智能汽车设计工具  扎克伯格吐槽苹果Vision Pro:社交落后Meta太多,无法建设元宇宙  值得买科技入选“北京市通用人工智能产业创新伙伴计划”应用伙伴  电力人工智能数据集目录首次发布  AI框架生态峰会本周开幕 华为昇腾“朋友圈”再聚首 全球首个全模态大模型将登场  到中国科技馆体验“一滴油的奇妙旅行”,线上元宇宙展厅同步开启  华为推出两款商用 AI 大模型存储新品,支持 1200 万 IOPS 性能  Databricks 发布大数据分析平台 Spark 用 AI 模型 SDK:一键生成 SQL 及 FySpark 语言图表代码  WHEE上线时间介绍  传字节内测对话式 AI 产品,代号「Grace」;马斯克嘲讽苹果 头显;比亚迪 F 品牌定名「方程豹」  世界人工智能大会高合发表演讲,HiPhi Y即将全球上市  阿里云AI绘画创作大模型通义万相发布 已开启定向邀测  GPT-4不能在麻省理工学院获得计算机科学学位  挤爆服务器,北大法律大模型ChatLaw火了:直接告诉你张三怎么判  NVIDIA垄断AI市场90%份额:AMD性能追上80% 软件太不能打  “智能体动作生成技术”现身WAIC:游戏AI技术为机器人科创注入新动力  【搞事】时隔4年 谷歌更新安卓logo 机器人头更饱满了  OpenAI 引入个性化指令功能,消除对话中的重复偏好与信息  「电子果蝇」惊动马斯克!背后是13万神经元全脑图谱,可在电脑上运行  DreamAvatar数字人在哪里下载  微软向美国政府提供GPT大模型,如何保证安全性?  推动企业数字化转型升级!“松江智造”摘世界人工智能大会重磅奖项  支持跨语言、人声狗吠互换,仅利用最近邻的简单语音转换模型有多神奇  从谷歌到亚马逊,科技巨头们的AI痴迷  苹果2万5的AR遭遇砍单95%:不及预期  AI大模型时代,数据存储新基座助推教科研数智化跃迁  击败LLaMA?史上超强「猎鹰」排行存疑,符尧7行代码亲测,LeCun转赞  好莱坞面临全面停摆 好莱坞大罢工抵制“AI入侵”  阿里云全面支持Llama2训练部署,助力企业快速构建自有大型模型  「从未被制造出的最重要机器」,艾伦·图灵及图灵机那些事  人工智能如何与智能家居集成  人工智能正在弥合认知和表达之间的鸿沟  无需标注数据,「3D理解」进入多模态预训练时代!ULIP系列全面开源,刷新SOTA  【|直播|预告】人工智能高峰论坛将于7月2日13:30准时开播!  人工智能框架生态峰会即将召开,聚焦AI大模型技术与科学智能探索!  田渊栋新作:打开1层Transformer黑盒,注意力机制没那么神秘  映宇宙数字人“映映”亮相ChinaJoy,展示AI黑科技实现用户互动 

400 128 6709
E-mail

contact@tlftec.cn

扫一扫,添加微信

©  云南淘乐房科技有限公司 版权所有  滇ICP备2025071560号  

云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司