CREATOR制造、使用工具，实现LLM「自我进化」

自古以来，工具的使用被视为区分人与其他物种的一大区别，也被视为是智能的一种根本体现。而当下，人工智能已不再局限于对工具的简单使用，它们已然能够根据问题创造性地建立自己的工具来寻求解决方案。在思维上，这代表着当下大模型已经能够掌握更高层次的抽象思维认知，并将其与具象思维划分，共同解决问题；而在能力上，工具创造的出现也意味着模型已经能够从 “学习” 中蜕变，去运用已知 “创造” 未来的无限可能。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

• 论文链接：https://arxiv.org/pdf/2305.14318.pdf

研究背景

近年来，大规模语言模型（Large Language Models）取得了显著的研究进展，包括 GPT-3、Codex、PaLM、LLaMA、ChatGPT 和最近发布的 GPT-4 等。这些模型在上下文学习（In-Context Learning）、代码生成（Code Generation）和各种其他自然语言处理任务方面表现出色，将模型的潜力进一步推向了通用人工智能。

尽管大模型在这些取得了巨大的成功，其当下仍然存在很多短板，包括无法识别或回答最新的实时信息、很难在大规模的数据计算上达到高准确性，在题干逻辑复杂时推理能力不稳定等等。针对这些短板，研究者开始致力于向当前模型架构中引入对外部资源的利用能力，例如引入计算器，问答系统，维基百科等等外部知识源，来增强模型能力。这一系列研究奠定了模型工具学习（Tool Learning）能力的基础。

然而，当下研究中利用的外部工具数量仍然有限，而在潜在的新任务类型几乎是无尽的。因此，在面对新的问题类型时，很难找到现有的适合解决问题的工具。此外，即使提供了有效的可利用的工具，模型需要在工具包文档中进行海量搜索、匹配并针对问题进行针对性地规划。这将给模型带来很大的认知负担，并需要较高的学习成本。

因此，研究团队提出了全新的一种研究范式：工具创造（Tool Creation）。其不再是简单利用大模型使用工具的能力，而是加入了全新的工具创造模块，让模型针对所面对的问题进行工具创造并寻求解决方案。

利用大模型创造工具能够提高工具的普适性、可复用性和多样性，超越给定 API 的限制。工具创造模块的设计还可以减轻大模型的认知负担，并解耦其进行抽象推理（创建可推广的具有普适性的工具）和具象推理（根据工具实现细节和工具使用文档进行决策）的能力。同时，该框架下模型以代码作为工具创造的媒介，这使得模型对于错误更加敏感，并能根据工具创造与使用中的问题进行回溯与修正。

工具创造范式相比工具使用更加灵活并对不同场景有更强的适应能力

CREATOR 研究框架

大模型进行工具创造来解决问题的框架 CREATOR 主要分为了以下四个阶段：

• 创造（Creation）：运用大模型对于问题的抽象推理能力，通过代码有针对性性地创造所需工具以及其使用说明。
• 决策（Decision）：运用大模型对于问题的具象推理能力，决策如何调用工具来解决当前问题。
• 执行（Execution）：根据创造的工具以及决策内容，进行决策的执行，并捕获执行过程中的输出信息。
• 修正（Rectification）：运用大模型对于错因推理以及自我修复的能力，对执行阶段捕捉到的问题进行修复。

大模型进行工具创造与决策的流程框架

大模型首先将根据问题创造所需要的工具以及其相关使用说明；此后，问题内容以及工具信息将同时再次返回给大模型，用以决策针对本问题的解决方案，以及如何使用这些工具。此后，模型将根据执行情况对工具及决策做出调整，以更好地适应问题并寻求解答。

整个工具创造框架灵活运用了大模型的不同思维能力：提取问题关键信息的抽象思维推理，根据任务实施方案决策的具象思维推理，以及根据问题寻求解决方案的自我修复推理。这些能力的解耦帮助大模型避免了在普通推理链（Chain-of-Thought, CoT）中的思维混乱而导致的失败现象，有效提升了大模型对于任务的适应能力及表现。

CREATOR 实验评测

作者将 CREATOR 框架与当前的普通推理链方法（CoT），程序推理链方法（Program-of-Thought, PoT）以及没有创造的简单工具使用（Tool Use）进行了比对。同时，为了验证框架中剥离抽象推理与具象推理的有效性，作者还额外引入了整体工具创造（Tool Create - whole）作为基线，该方法将 CREATOR 框架中的创造阶段与决策阶段合二为一，不再进行推理能力上的解耦。

Creation Challenge 数据集问题，标准工具及决策示例

在 MATH 数据集上 CREATOR 框架的表现高于其他推理方法以及简单的工具运用

在数据集的选取上，作者选择了 MATH 以及 TabMWP 数据集作为主要验证。其中前者包含了美国数学竞赛当中的高难度数学问题，而后者将问题与丰富的数据表结合，二者都考验了模型对于多样化场景的问题推理与解决能力。除此之外，作者还额外引入了全新构建的 Creation Challenge 数据集，其中的问题都无法直接套用现有工具或者代码包解决，从而考验了模型进行工具创造的能力。

在 TabMWP 数据集以及 Creation Challenge 上 CREATOR 框架效果也显著更强

从实验结果看来，CREATOR 框架的推理结果要明显好于所有基线，尤其相对于标准的推理方法以及程序推理方法，均达到了更好的效果。同时实验也证明了对抽象与具象推理能力进行解耦也可以有效帮助模型提高准确率。在 Creation Challenge 测试集上，作者还额外验证了在有创造什么样的工具的提示（hint）的情况下，模型将会对问题有着更强的解决能力。因此，提示与思维解耦这两点也成为了工具创造中的重要影响因素。

不同方法针对任务难度的准确率统计

在修正阶段的参与下效果的提升

Seede AI

AI 驱动的设计工具

713 查看详情

除此之外，作者还验证了不同方法对于任务难度的变化曲线，以及修正阶段参与轮次与大模型效果提升之间的联系。结果表明，CREATOR 框架面对有难度的问题能够保持更好的鲁棒性，以及修正阶段的参与能够让不仅是 CREATOR 框架，甚至是 PoT 推理方法都能得到大幅度提升，证实了在实验中引入修正阶段的合理性与有效性。

工具创造的其他优势

在主实验之外，文章作者也着重探讨了工具创造的其他优势以及当下大模型工具创造能力的不同展现形式。既然是创造工具，那么作为工具的一大优势必定是其可复用性。作者也顺此思路进一步展示了工具的复用对于任务效果的提升。

作者设计了 300 条问题并三个一组分为了 100 组。其中每一组的三个问题虽然场景不同，但都涉及相同的核心知识（Core Knowledge），即同类问题。作者验证了将对于一个问题创造的工具用于一组问题中的所有场景，是否都能够有效解决并提升准确率。

对于大模型创造的工具在其他问题上迁移，能够有效提高准确率

实验统计表明将模型创造的正确可用的工具迁移到其他同类问题场景，能够有效提升问题解决的正确率。这即表明大模型创造的工具具有良好的可复用性，对于同类问题也有着良好的普适性。

除此之外，作者还展示了大模型进行工具创造的三个维度：对已有工具进行封装以实现不同目的，将不同工具进行组合实现目标功能，以及进行层次化的工具创建。这三个维度由低到高展示了当下大模型工具创造的能力，而这些能力也帮助大模型能够更高效地适应不同场景。

大模型进行工具创造的三个维度

总结

CREATOR 框架通过工具创造实现了大模型抽象与具象思维能力的解耦，是继工具学习之后，对模型能力边际探索的又一大突破。相信未来的更多研究将会以此为基础，继续在工具的使用与创造上不断证明与增强模型潜力，为我们带来更多惊喜。

文章主要作者

钱成，清华大学大三年级本科生，THUNLP 实验室成员，导师刘知远。目前研究方向包括大模型预训练，大模型高效微调，以及工具学习等领域。曾获清华大学计算机综合优秀奖学金，并以共同一作身份在 EMNLP，ACL 等国际会议中发表论文。

个人主页：https://qiancheng0.github.io/

以上就是CREATOR制造、使用工具，实现LLM「自我进化」的详细内容，更多请关注其它相关文章！

# 框架  # chatgpt  # llama  # 解决问题  # 研究  # 消时乐新营销推广  # 网站建设商店怎么做  # SEO和链接  # 招聘网站的推广  # seo文档优化  # 布吉网站建设公司官网  # 广发网站推广  # 镇江抖音营销推广项目合作  # 对网站进行推广  # seo教程文库  # 开源  # 中国  # 展示了  # 一大  # 而在  # 华为  # 更强  # 复用  # 门店 

相关栏目： 【 行业新闻62819 】 【 科技资讯67470 】

相关推荐： 华为小艺AI助手将实现强大的大模型能力  腾讯TRS之元学习与跨域推荐的工业实战  DeepMind推惊世排序算法，C++库忙更新！  万兴播爆桌面端上线，支持AI数字人搜索、视频编辑等功能  如何用AI开创智慧能源新时代？固德威正让能源“通人性”！  AI技术加速迭代：周鸿祎视角下的大模型战略  微软宣布为 Azure AI 添加男性声线，增强文本转语音功能  亚马逊CEO：人工智能将成为公司未来战略的重中之重  真全息产品，亮相深圳文博会——dipal数伴拓展元宇宙非沉浸式体验  AI 助手 Copilot 上线，微软 Win11 Dev 预览版 Build 23493 发布  Dubbo负载均衡策略之 一致性哈希  7条线路感受智慧美好生活，“2025 世界人工智能大会民营企业社会开放日”主题活动启动  中国联通发布图文AI大模型，可实现以文生图、视频剪辑  WHEE上线时间介绍  万魔推出AI主攻的运动耳机，开启十年研发新纪元  Databricks推出人工智能模型共享机制，可令开发者与公司“双赢”  直击上影节 | 光线传媒董事长王长田谈新技术：未来VR放映效果可能媲美影院  谷歌旗下 DeepMind 开发出 RoboCat AI 模型，能控制多种机器人执行一系列任务  十个AI算法常用库J*a版  OpenAI夺冠：人工智能为云计算带来新变革  本届人工智能大会上的这个“镇馆之宝”，来自长宁企业西井科技！  五个IntelliJ IDEA插件，高效编写代码  2025VR&AR显示技术峰会视频解析： 歌尔光学展示最新一代VR/AR光学模组  Bing 聊天机器人现支持在桌面端用语音提问  人工智能框架生态峰会即将召开，聚焦AI大模型技术与科学智能探索！  智能手机应用中的人工智能的重要性  AI生成新闻网站数量激增，正在疯狂赚取广告收入  码刻 | 48小时Hackathon，源码见证新生代AI创新的发生  “痴迷”元宇宙，魔珐科技想做什么？  央广车联网亮相2025世界人工智能大会  优化系统韧性：故障恢复与监控在RabbitMQ中的应用  史玉柱谈AI：国内最缺是计算数学人才，曾给浙大数学系捐五千万  IBM将模拟计算用于人工智能，重塑AI计算  AI 模型 Stable Diffusion 升级：正常生成五指、图像更逼真  创新全场景清洁方案！海尔商用机器人首发上市  微软最新推出的NaturalSpeech2语音合成模型：提供更准确的语音重构，避免棒读效果  马斯克讽刺人工智能炒作：什么“机器学习”，其实就是统计  “具身智能”引爆机器人产业，看绝影Lite3/X20四足机器人有何特别之处？  揭晓2025年玻尔兹曼奖：Hopfield网络创始人荣获奖项  英伟达的AI领域垄断地位：一直无法撼动吗？  RoboNeo操作教程  智能客服进入AI 2.0时代 容联云发布语言大模型“赤兔”  统信深度deepin成立 AI SIG 社区，共同提升 Linux 下 AI 体验  利用AI探索抗体“钥匙”、加速药物研发——访百图生科团队  MetaGPT AI 模型开源：可模拟软件公司开发过程，生成高质量代码  定义人工智能的十个关键术语  优化J*a与MySQL合作：分享批处理操作的技巧  人工智能赋能广西自然资源领域监测监管  在这里见未来！杭州未来科技城全球AI盛会邀您共探最前沿  当TS遇上AI，会发生什么？