OpenAI宣布组建新团队 以控制“超级智能”人工智能

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

7月6日消息，美国当地时间周三，人工智能初创公司OpenAI宣布其正组建一个新的团队，以开发引导和控制“超级智能”（“superintelligent”）人工智能系统的方法。这个团队由OpenAI首席科学家、联合创始人伊利亚·苏斯克维尔(Ilya Sutskever)领导。

在博客文章中，苏斯克维尔和OpenAI协调团队的负责人简·莱克（Jan Leike）预测，智能超过人类的人工智能将在十年内出现。他们警告称，这种人工智能不一定对人类抱有仁慈之心，因此有必要研究控制和限制它的方法。

苏斯克维尔和莱克写道：“目前，我们还没有任何解决方案可以用来操纵或控制潜在的超级智能人工智能，并防止它失控。我们目前调整人工智能的技术，比如从人类反馈中强化学习，依赖于人类监督人工智能的能力。但人类将无法可靠地监督比我们聪明得多的人工智能系统。”

为了在“超级智能对齐”（Superintelligence Alignment）领域取得进展，OpenAI正在创建新的超级对齐团队，由苏斯克维尔和莱克共同领导，该团队将有权使用OpenAI高达20%的算力资源。这个团队将与OpenAI之前的对齐部门科学家和工程师以及公司其他机构的研究人员一起，致力于在未来四年解决控制超智能人工智能的核心技术挑战。

那么，我们如何确保比人类聪明得多的人工智能系统遵循人类的意图? 这需要苏斯克维尔和莱克所描述的“人类级别的自动对齐研究员”帮助。高级目标是使用人类反馈来训练人工智能系统，训练人工智能协助评估其他人工智能系统，并最终构建可以进行对齐研究的人工智能。这里的“对齐研究”指的是确保人工智能系统达到预期的结果，或者不会偏离研究轨道。

OpenAI的假设是，人工智能可以比人类更快、更好地进行对齐研究。

“随着我们在这方面取得进展，我们的人工智能系统可以接管越来越多的对齐工作，并最终构思、实施、研究和开发比我们现在更好的对齐技术，”莱克和他的同事约翰·舒尔曼（John Schulman）、杰弗里·吴（Jeffrey Wu）在之前的一篇博客文章中假设。“它们将与人类共同努力，以确保它们自己的继任者与人类始终保持一致。人类研究人员将越来越多地把精力集中在审查人工智能系统完成的对齐研究上，而不是自己进行这类研究。”

当然，没有任何方法是万无一失的，莱克、舒尔曼以及杰弗里·吴在他们的文章中承认，OpenAI的方法存在许多局限性。他们说，使用人工智能进行评估有可能扩大人工智能中的不一致、偏见或漏洞。结果可能是，对齐问题中最困难的部分可能根本与工程无关。

但苏斯克维尔和莱克认为值得一试。他们写道：“从根本上说，超级智能对齐是一个机器学习问题，我们认为优秀的机器学习专家（即使他们还没有开始研究对齐）对解决这个问题也至关重要。我们计划广泛分享这一努力的成果，并将促进非OpenAI模型的一致性和安全性视为我们工作的重要组成部分。”

以上就是OpenAI宣布组建新团队 以控制“超级智能”人工智能的详细内容，更多请关注其它相关文章！

# 将与  # 南庄seo优化技术  # seo暴富  # 西城网站建设免费咨询热线  # 西湖区营销推广商家  # 项目营销推广结语  # 宜宾全网营销推广定做  # 涟源农业机械网站推广  # seo工作技能  # 襄阳seo优化推广价格  # 盐城网站优化设计  # 人工智能  # 到你  # 得多  # 腾讯  # 太多  # 丰田  # 本田  # 斯克  # 莱克  # 维尔  # OpenAI 

相关栏目： 【 行业新闻62819 】 【 科技资讯67470 】

相关推荐： AI与5G的强强联合：唤醒数字时代的无尽潜能  CharacterAI - 也许会成为会话人工智能的未来  大厂出品！这个AI网站太顶了，所有功能免费用  标小智LOGO推出AI公司起名生成器“Name.GPT”  华为AI大模型将融入HarmonyOS 4  「电子果蝇」惊动马斯克！背后是13万神经元全脑图谱，可在电脑上运行  昇腾AI大模型训推一体化解决方案将在WAIC发布  世界人工智能大会机器人同台炫技！梳理A股相关业务营收占比超50%的个股名单  英特尔张宇：边缘计算在整个AI生态系统中扮演重要角色  改动一行代码，PyTorch训练三倍提速，这些「高级技术」是关键  马斯克预测：特斯拉全自动驾驶将在今年实现 对AI深度变化感到担忧  AYANEO 安卓掌机 Pocket AIR 配置公布：天玑 1200 + 5.5 英寸屏  长宁这家企业在世界人工智能大会上荣获“蓝鼎奖”  360°/180°双模式，佳能公布可折叠小体积的VR全景相机  科技赋能司法执行 阿里资产免费为全国法院升级VR新服务  特斯拉门店可能启动机器人卖车？也许不是你想的那样  这效果能打几分？AI真人化《名侦探柯南》  明略科技发布免费开源TensorBoard.cpp，促进大型模型的预训练工作  人工智能时代的科幻译者怎么办？“做好翻译工作的高端10%”｜文化观察  视觉中国推出AI灵感绘图功能，付费后可在“合法合规前提下使用”  云南首例达芬奇机器人微创心脏手术成功开展  "探索Meta发布的Quest MR/VR视频录制与拍摄指南"  OpenAI 向所有付费 API 用户开放 GPT-4  插画师对AI绘画软件的态度是怎样的？  RoboNeo操作教程  自己动手使用AI技术实现数字内容生产  Meta将VR头显最低年龄限制从13岁降至10岁  你们的开机第一屏画面要变了！安卓机器人首次3D化  苹果AI战略与微软谷歌大相径庭，到底是领先还是落后？  OpenAI CEO 山姆・阿尔特曼呼吁 AI 领域中美应当合作  小米创始人雷军将揭示小米AI在年度演讲中的最新进展  梦想实现！硬核科幻大片VR智能头盔即将问世  人工智能即将进入Windows：企业准备好安全策略设置了吗?  云米Smart 2E AI立式空调开启预售：新三级能效，到手价3899元  美图公司影像节或发布AI设计新品  人工智能助力林草行业高质量发展  海柔创新携手SAP，以机器人技术助力全球客户升级数智化竞争力  WHEE安装教程  抛媚眼给瞎子看？微软、谷歌的AI广告被广告主抵制  当孔子遇见AI｜尼山的“数字”  时间、空间可控的视频生成走进现实，阿里大模型新作VideoComposer火了  尼康尼克尔 Z 180-600mm f/5.6-6.3 VR 镜头发布，12499 元  掌阅科技对话式AI应用“阅爱聊”开启内测  联想举办2025创新开放日，展出260余项算力及AI产品技术  苹果头显降临，AI虚拟人的救星还是流星？  微软更新服务协议，以防止通过AI服务进行逆向工程和数据抓取  时隔 4 年：谷歌更新安卓机器人 LOGO，形象更立体  VR健身应用《FitXR》将取消Quest 1端会员服务  首届亚太网络法实务大会召开 九位大咖探讨元宇宙与人工智能发展  视觉中国推出AI灵感绘图功能