OpenAI宣布组建新团队 以控制“超级智能”人工智能

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

7月6日消息，美国当地时间周三，人工智能初创公司OpenAI宣布其正组建一个新的团队，以开发引导和控制“超级智能”（“superintelligent”）人工智能系统的方法。这个团队由OpenAI首席科学家、联合创始人伊利亚·苏斯克维尔(Ilya Sutskever)领导。

在博客文章中，苏斯克维尔和OpenAI协调团队的负责人简·莱克（Jan Leike）预测，智能超过人类的人工智能将在十年内出现。他们警告称，这种人工智能不一定对人类抱有仁慈之心，因此有必要研究控制和限制它的方法。

苏斯克维尔和莱克写道：“目前，我们还没有任何解决方案可以用来操纵或控制潜在的超级智能人工智能，并防止它失控。我们目前调整人工智能的技术，比如从人类反馈中强化学习，依赖于人类监督人工智能的能力。但人类将无法可靠地监督比我们聪明得多的人工智能系统。”

为了在“超级智能对齐”（Superintelligence Alignment）领域取得进展，OpenAI正在创建新的超级对齐团队，由苏斯克维尔和莱克共同领导，该团队将有权使用OpenAI高达20%的算力资源。这个团队将与OpenAI之前的对齐部门科学家和工程师以及公司其他机构的研究人员一起，致力于在未来四年解决控制超智能人工智能的核心技术挑战。

那么，我们如何确保比人类聪明得多的人工智能系统遵循人类的意图? 这需要苏斯克维尔和莱克所描述的“人类级别的自动对齐研究员”帮助。高级目标是使用人类反馈来训练人工智能系统，训练人工智能协助评估其他人工智能系统，并最终构建可以进行对齐研究的人工智能。这里的“对齐研究”指的是确保人工智能系统达到预期的结果，或者不会偏离研究轨道。

OpenAI的假设是，人工智能可以比人类更快、更好地进行对齐研究。

“随着我们在这方面取得进展，我们的人工智能系统可以接管越来越多的对齐工作，并最终构思、实施、研究和开发比我们现在更好的对齐技术，”莱克和他的同事约翰·舒尔曼（John Schulman）、杰弗里·吴（Jeffrey Wu）在之前的一篇博客文章中假设。“它们将与人类共同努力，以确保它们自己的继任者与人类始终保持一致。人类研究人员将越来越多地把精力集中在审查人工智能系统完成的对齐研究上，而不是自己进行这类研究。”

当然，没有任何方法是万无一失的，莱克、舒尔曼以及杰弗里·吴在他们的文章中承认，OpenAI的方法存在许多局限性。他们说，使用人工智能进行评估有可能扩大人工智能中的不一致、偏见或漏洞。结果可能是，对齐问题中最困难的部分可能根本与工程无关。

但苏斯克维尔和莱克认为值得一试。他们写道：“从根本上说，超级智能对齐是一个机器学习问题，我们认为优秀的机器学习专家（即使他们还没有开始研究对齐）对解决这个问题也至关重要。我们计划广泛分享这一努力的成果，并将促进非OpenAI模型的一致性和安全性视为我们工作的重要组成部分。”

以上就是OpenAI宣布组建新团队 以控制“超级智能”人工智能的详细内容，更多请关注其它相关文章！

# 将与  # 南庄seo优化技术  # seo暴富  # 西城网站建设免费咨询热线  # 西湖区营销推广商家  # 项目营销推广结语  # 宜宾全网营销推广定做  # 涟源农业机械网站推广  # seo工作技能  # 襄阳seo优化推广价格  # 盐城网站优化设计  # 人工智能  # 到你  # 得多  # 腾讯  # 太多  # 丰田  # 本田  # 斯克  # 莱克  # 维尔  # OpenAI 

相关栏目： 【 行业新闻62819 】 【 科技资讯67470 】

相关推荐： 提升工作效率的智能工具：Zapier 让工作变得更简单！  GPT-4最全攻略来袭！OpenAI官方发布，六个月攒下来的使用经验都在里面了  AI会帮我们把活干完吗？  《自然》杂志拒绝刊登人工智能生成的图片和视频  消息称字节机器人团队已有约50人，计划年底扩充到上百人  人工智能行业急缺人 AI人才年薪能达近42万元  南京制造的国产工业机器人：在外资品牌竞争中突围，年销售1.8万台  「社交达人」GPT-4！解读表情、揣测心理全都会  陈丹琦ACL学术报告来了！详解大模型「*」数据库7大方向3大挑战，3小时干货满满  华为推出两款商用 AI 大模型存储新品，支持 1200 万 IOPS 性能  人工智能驱动智能建筑会是未来趋势吗？  NVIDIA垄断AI市场90%份额：AMD性能追上80% 软件太不能打  乐天派桌面机器人加入小米米家生态系统，实现与其他智能设备的互联  跟着AI大热的“光模块”到底是什么？  「模仿学习」只会套话？解释微调+130亿参数Orca：推理能力打平ChatGPT  五个IntelliJ IDEA插件，高效编写代码  国宝级文物“铜兽驮跪坐人顶尊铜像”完成模拟拼接，腾讯AI立功  大模型训练成本降低近一半！新加坡国立大学最新优化器已投入使用  静安大宁功能区企业云天励飞亮相2025世界人工智能大会，秀出AI硬实力！  马斯克发推讽刺人工智能：机器学习的本质就是统计  苹果AR头显商标与华为撞车，在中国或改名  “痴迷”元宇宙，魔珐科技想做什么？  阿里云推出通义万相AI绘画大模型  GPT-4 模型架构泄露：包含 1.8 万亿参数、采用混合专家模型  探索人工智能在物联网领域的影响与改变  当TS遇上AI，会发生什么？  广州团建公司方案 | 绝密飞行 → X-PLANE无人机团建主题团建  斑马推出全新升级版思维机：以人工智能为核心的交互式学习体验  贫穷让我预训练  Vision Pro 太贵，苹果基于 iPhone 的 VR 头显专利曝光  AI大模型产品集体奔赴高考考场，教育赛道的讯飞星火能赢吗？  昌吉市利用无人机实现全天候河道动态巡检  编程版GPT狂飙30星，AutoGPT危险了！  曝索尼在开发新头显设备：游戏中使用AR技术  生成式人工智能如何改变云安全的游戏规则  纪录片 《寻找人工智能》全集1080P超清  AI创作广告文案等同2.47年工作经验，且消费者无法区分｜AI营销前沿  650亿参数，8块GPU就能全参数微调：邱锡鹏团队把大模型门槛打下来了  探索人工智能在居家养老方面的应用  280万条多模态指令-响应对，八种语言通用，首个涵盖视频内容的指令数据集MIMIC-IT来了  微软 Azure AI 文本转语音服务升级：新增男性声音和扩展语言支持  AI证件照生成器：实际测试中AI软件展现了绝无仅有的强大效能  自动驾驶汽车避障、路径规划和控制技术详解  奥比中光子公司和斯坦德机器人深度合作，共同推进新一代激光雷达的研发  两小时就能超过人类！DeepMind最新AI速通26款雅达利游戏  微软和谷歌面临的人工智能困境：需要投入大量资金才能获得盈利  测试框架-安全和自动驾驶  大模型新品出现井喷，AI产业迎来新时代  AI 大模型重塑软件开发，有哪些落地前景和痛点？| ArchSummit  华为小艺AI助手将实现强大的大模型能力