OpenAI宣布组建新团队 以控制“超级智能”人工智能

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

7月6日消息，美国当地时间周三，人工智能初创公司OpenAI宣布其正组建一个新的团队，以开发引导和控制“超级智能”（“superintelligent”）人工智能系统的方法。这个团队由OpenAI首席科学家、联合创始人伊利亚·苏斯克维尔(Ilya Sutskever)领导。

在博客文章中，苏斯克维尔和OpenAI协调团队的负责人简·莱克（Jan Leike）预测，智能超过人类的人工智能将在十年内出现。他们警告称，这种人工智能不一定对人类抱有仁慈之心，因此有必要研究控制和限制它的方法。

苏斯克维尔和莱克写道：“目前，我们还没有任何解决方案可以用来操纵或控制潜在的超级智能人工智能，并防止它失控。我们目前调整人工智能的技术，比如从人类反馈中强化学习，依赖于人类监督人工智能的能力。但人类将无法可靠地监督比我们聪明得多的人工智能系统。”

为了在“超级智能对齐”（Superintelligence Alignment）领域取得进展，OpenAI正在创建新的超级对齐团队，由苏斯克维尔和莱克共同领导，该团队将有权使用OpenAI高达20%的算力资源。这个团队将与OpenAI之前的对齐部门科学家和工程师以及公司其他机构的研究人员一起，致力于在未来四年解决控制超智能人工智能的核心技术挑战。

那么，我们如何确保比人类聪明得多的人工智能系统遵循人类的意图? 这需要苏斯克维尔和莱克所描述的“人类级别的自动对齐研究员”帮助。高级目标是使用人类反馈来训练人工智能系统，训练人工智能协助评估其他人工智能系统，并最终构建可以进行对齐研究的人工智能。这里的“对齐研究”指的是确保人工智能系统达到预期的结果，或者不会偏离研究轨道。

OpenAI的假设是，人工智能可以比人类更快、更好地进行对齐研究。

“随着我们在这方面取得进展，我们的人工智能系统可以接管越来越多的对齐工作，并最终构思、实施、研究和开发比我们现在更好的对齐技术，”莱克和他的同事约翰·舒尔曼（John Schulman）、杰弗里·吴（Jeffrey Wu）在之前的一篇博客文章中假设。“它们将与人类共同努力，以确保它们自己的继任者与人类始终保持一致。人类研究人员将越来越多地把精力集中在审查人工智能系统完成的对齐研究上，而不是自己进行这类研究。”

当然，没有任何方法是万无一失的，莱克、舒尔曼以及杰弗里·吴在他们的文章中承认，OpenAI的方法存在许多局限性。他们说，使用人工智能进行评估有可能扩大人工智能中的不一致、偏见或漏洞。结果可能是，对齐问题中最困难的部分可能根本与工程无关。

但苏斯克维尔和莱克认为值得一试。他们写道：“从根本上说，超级智能对齐是一个机器学习问题，我们认为优秀的机器学习专家（即使他们还没有开始研究对齐）对解决这个问题也至关重要。我们计划广泛分享这一努力的成果，并将促进非OpenAI模型的一致性和安全性视为我们工作的重要组成部分。”

以上就是OpenAI宣布组建新团队 以控制“超级智能”人工智能的详细内容，更多请关注其它相关文章！

# 将与  # 南庄seo优化技术  # seo暴富  # 西城网站建设免费咨询热线  # 西湖区营销推广商家  # 项目营销推广结语  # 宜宾全网营销推广定做  # 涟源农业机械网站推广  # seo工作技能  # 襄阳seo优化推广价格  # 盐城网站优化设计  # 人工智能  # 到你  # 得多  # 腾讯  # 太多  # 丰田  # 本田  # 斯克  # 莱克  # 维尔  # OpenAI 

相关栏目： 【 行业新闻62819 】 【 科技资讯67470 】

相关推荐： 创新科学家成功研发FAST激光靶标维护机器人  Databricks 发布大数据分析平台 Spark 用 AI 模型 SDK：一键生成 SQL 及 FySpark 语言图表代码  华为余承东表示：鸿蒙可能拥有强大的人工智能大模型能力  严打“黑飞”，无人机检测反制设备护航大运会净空安全  如何提高集群协作效率？中外团队合作研发基于均值偏移的机器人队形控制策略  人工智能和你聊天 成本有多高  亚马逊CEO：人工智能将成为公司未来战略的重中之重  探索AI前沿理念 2025全球人工智能技术大会在杭州开幕  阿里达摩院发布免费开放100项AI专利许可的动机是什么？  AI大模型时代，数据存储新基座助推教科研数智化跃迁  从GOXR到PartyOn，XRSPACE致力打造多元共赢的元宇宙世界  "探索Meta发布的Quest MR/VR视频录制与拍摄指南"  谷歌将使用公开信息训练 AI 模型，构建更强大的自家产品  第四范式「式说」大模型入选《2025年通用人工智能创新应用案例集》  XREAL Beam 投屏盒子正式发布：支持“可悬停 AR 空间屏”  人工智能大胆预测：银河系至少有2万个地球，36种外星文明  新华社联合北大发布AI大模型评测：安全可靠成重点，360智脑表现优异  深度学习模型综述：用于3D MRI和CT扫描的应用  生成式AI对云运维的3大挑战  即将到来：AI婚纱设计软件实际测试，人工智能即将开创婚纱设计新纪元  AI+游戏首度大范围公布实际应用成果，AI全面来临还有多远？  OpenAI 向所有付费 API 用户开放 GPT-4  云南首例达芬奇机器人微创心脏手术成功开展  国内阅读行业首款对话式AI应用“阅爱聊”封闭内测  电力人工智能数据集目录首次发布  写出优质文章的妙招：利用"稿见AI助手"的实用指南  美的推出 AI 双视精准避障的自动集尘扫拖机器人 V12，售价仅为2999元  谷歌AudioPaLM实现「文本+音频」双模态解决，说听两用大模型  DeepMind推惊世排序算法，C++库忙更新！  Meta推出VR订阅服务Quest +：每月免费玩两款游戏，7.99美元/月  宇宙探索下一阶段，机器代替人类，AI会在太空探索中取代人类吗？  “思享荟”沙龙热议AIGC与元宇宙 复旦大学赵星畅谈深度数字化  昇思开源社区理事会成立，基于昇思AI框架的全模态大模型“紫东.太初2.0”发布  百度创始人、董事长兼首席执行官李彦宏：AI原生应用比大模型数量更重要  微软必应聊天现已在Chrome和Safari浏览器上可用，但仍有许多限制存在  意大利警察拟用AI预测犯罪 该算法被指种族歧视严重  Meta Connect 2025已确定时间为9月27-28，主题涵盖Quest 3与AI技术  华为推出两款商用 AI 大模型存储新品，支持 1200 万 IOPS 性能  网易易盾 AI Lab 论文入选 ICASSP 2025！黑科技让语音识别越“听”越准  一次购买全年省心，入手科沃斯这几台机器人，省下时间就是金钱  郭帆谈ChatGPT：电影行业需要创新，否则人工智能将让电影变得平庸  OpenAI限制网络爬虫访问以保护数据免被用于AI模型训练  2025世界人工智能大会成功召开  上新7款产品，美图继续“蹭”AI  AI拉动PCB发展|行业发现  懒人必备的家居清洁好物，石头自清洁扫拖机器人G20  大厂出品！这个AI网站太顶了，所有功能免费用  官宣！爱康AI未来之夜三大亮点提前剧透！  J*a与人工智能结合：构建智能云服务  以分布式网络串联闲置GPU，这家创企称可将AI模型训练成本降低90%