AI教父Bengio：我感到迷失，对AI担忧已成「精神内耗」！

最近，图灵三巨头之一的Yoshua Bengio接受了BBC的采访。

Bengio在访谈中透出了一股浓浓的「忧郁风」，表示他对自己一生所追求的事业感到某种程度上的迷失。

往具体了说，他觉得如果自己能早点认识到AI可能的发展速度，那他可能就会倾向于AI的安全性优先，而非实用性优先。

要知道，Bengio刚刚签署了前几天公布的「AI可能灭绝人类」的公开信。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

迷失的Bengio

公开信的签署立场鲜明地表明了Bengio的态度。

这封只有22个字的公开信，将AI可能灭绝人类的风险和核战争、传染病等社会危机做对比。

在BBC的访谈中，Bengio详细地阐述了自己的观点。

他呼吁，我们应该对AI进行更严格地规范，举例来说，军方就绝对不应该被赋予使用AI的权力。

当然，政治机构也并不是对AI的发展熟视无睹。

欧盟可能就会是最早针对AI进行立法的组织。也是在最近，欧盟表示，AI相关的行为准则可能会在未来几周内创建。

这种担心不无道理。毕竟，AI的高性能可能被使用在对人类有害的目标上，比如开发新型化学武器。

Bengio表示，自己很担心那些「有恶意」的人掌握AI，尤其是在AI发展速度如此之快的情况下。

「可能是军方，可能是恐怖分子，也可能是精神情绪并不稳定的人。总之，如果这些人掌握了AI，让AI执行一些极度危险的事情，那么后果是不可预料的。」

另外，他表示，如果AI继续发展，我们可能无法中断进程中的AI。

接下来，Bengio又聊到了自己。

这些担忧无疑增加了他的内耗，对他的个人生活和工作产生了影响。

从前的Bengio是荣誉傍身的AI大牛（当然现在也是），当时的他，愿意为自己所热爱和擅长的事业奋斗终生。

AI事业曾经给他带来了身份感、认同感和人生方向。但现在，因为这些担忧的存在，这些东西对他来说已经不再清晰。

「对于那些身在AI行业的人来说，这在情感上是具有挑战性的。」

不过，忧郁的背后仍然是积极的态度。

「你可以说我感到迷失。但你必须坚持下去，你必须参与讨论，鼓励别人和你一起思考。」

马斯克也表达过类似的担忧。

虽然他并不认为AI一定会灭绝人类，但他认为AI可能会限制并控制人类。

Bengio认为，所有和AI产品相关的科技巨头公司都需要受管控，登记在册。

「政府需要追踪他们在做什么，他们需要能够审计他们。而这只是我们对其他任何行业（如建造飞机、汽车或制药）所做的最基本的事情。」

「我们还需要引入一种道德训练，而这通常来说都是计算机科学及不会接受到的。」

Huggingface的科学家Sasha Luccioni博士表示，社会应该关注诸如AI偏见，信息的错误传播等问题，她认为这些问题是具体的。

她的理念是，具体的问题应该被我们更多关注。灭绝人类什么的，有点虚，还聊不到。

而实际上，也有许多实例显示了AI为社会带来的诸多好处。

就在上周，凭借AI的力量，一个瘫痪的人只需靠意念控制就能再次尝试行走，这得益于使用AI开发的微芯片。

而在科技影响以外，AI对国家经济产生的深远影响也不能忽视。

很多公司已经开始用AI工具取代人工，这也正是好莱坞剧作家发动罢工的一个重要原因。

毅然离职的Hinton

无独有偶，前一阵子，同为图灵三巨头的Hinton也因为同样的原因上过一次热搜。

当时，各大媒体充斥着这个标题：深度学习泰斗、神经网络之父Geoffrey Hinton突然宣布离职谷歌。

为了能够自由谈论人工智能风险，而不考虑这对谷歌的影响。

在纽约时报的报道中，Hinton直接警示世人：注意，前方有危险，前方有危险，前方有危险！

而这正是他对人工智能风险深深地担忧。Hinton直言：「我对自己的毕生工作，感到非常后悔。」

从人工智能的开创者到末日预言者，Hinton的转变，也标志着科技行业正处于几十年来最重要的一个拐点。

这一点同样让许多业内人士感到不安，他们担心自己所做的研究，正在向外释放某种危险。

因为生成式人工智能可能已经成为产生错误信息的工具。并在未来的某个时候，可能会对人类构成威胁。

在Hinton看来，如何防止坏人利用它做坏事，我们还未能找到方法。

而在Hinton辞职钱，在喧嚣的反对浪潮中，人工智能教父Hinton却并未在限制AI发展的两封公开信上签名。

他表示，自己在辞去工作之前，并不想公开批评谷歌，或其他公司。

忍到上个月，Hinton终于下定决心，通知谷歌自己即将辞职。

选择离职谷歌后，Hinton终于可以畅所欲言地谈论AI的风险了。

我对我的毕生工作，感到十分后悔。

我只能这样安慰自己：即使没有我，也会有别人。

ChatGPT Writer

免费 Chrome 扩展程序，使用 ChatGPT AI 生成电子邮件和消息。

106 查看详情

以上就是AI教父Bengio：我感到迷失，对AI担忧已成「精神内耗」！的详细内容，更多请关注其它相关文章！

# 已成  # seo 标题字符  # 而在  # 我对  # 是在  # 就会  # 而这  # 自己的  # 我感到  # 开源  # 的人  # AI  # 光触媒营销推广大纲  # 衡阳SEO优化推荐  # 晋安区公司推广营销咋样  # 坦洲个性化网站建设  # 丰都seo整站优化公司  # wish厨房龙头关键词排名  # 独自出镜营销推广文案怎么写  # 普洱网站建设企业  # app关键词排名怎么做上去 

相关栏目： 【 行业新闻62819 】 【 科技资讯67470 】

相关推荐： 卫星通信牵引物联网竞争升维，模组厂商如何决胜百亿市场？  Valve Index VR 头显销量下滑，上市四年的长青树渐失光彩  腾讯机器狗进化：通过深度学习掌握自主决策能力  6月14日《星空下的对话》 张朝阳陆川将畅聊人生、电影、心理学与AI  猿编程参加人工智能高峰论坛，推动人工智能教育解决方案在千所学校推行  上新7款产品，美图继续“蹭”AI  智能电网技术：提高能源效率和可靠性  OpenAI宣布在伦敦设立海外分部，要招揽“世界级人才”  OpenAI 静默关闭 AI 文本检测工具，准确率仅为 26%  MetaGPT开源框架爆红 GitHub，达到1.1万星，模拟软件开发流程  可按用户语气自动回复消息，Zoom 推出基于生成式 AI 的新功能  英伟达H100霸榜权威AI性能测试 11分钟搞定基于GPT-3的大模型训练  实测 AI 建筑设计软件的自动生成效果图能力  如何获得元宇宙的第一个属于自己的空间  人工智能赋能无人驾驶：商业化进程再提速  华为云盘古大模型3.0发布 AI云服务同时上线：200亿亿次性能  AI大模型，将为智慧城市带来哪些新变化？  成功孵化首个大型模型解决方案的重庆人工智能创新中心  OPPO三方联合发布AI可持续发展白皮书，坚持发展健康AI生态  字节、网易相继入局，AI之后大厂又找到下一个风口？  MiracleVision视觉大模型功能介绍  特斯拉人形机器人将亮相 预计售价不超过15万元  “三夏”农忙保障用电，无人机高空巡视高压线  张朝阳陆川谈AI：大数据模型大幅提升工作效率，ChatGPT冲击最大的是内容创作领域  Meta 为打造元宇宙不惜下血本：VR 开发者年薪高达百万美元  QQ音乐业内率先推出「AI一起听」功能，领取你的AI听歌助手  Snap宣布研发出新技术 可大幅提升AI生成图像速度  微软推出 LLaVA-Med AI 模型，可对医学病理案例进行分析  映宇宙集团执行总编辑：元宇宙还是要以人为媒介  微软为 AI 初学者推出免费网课：为期 12 周，共 24 节课  应用生成式人工智能技术改善农业产业  如何利用物联网技术提高企业生产线智能化水平，提升生产效率  OpenAI首席执行官引用《道德经》 呼吁就AI安全问题合作  智能化解决方案：保障数据安全阻击泄露和丢失  眼球反射解锁3D世界，黑镜成真！马里兰华人新作炸翻科幻迷  游族AI创新院揭牌成立 推进AI赋能游戏业务  华为即将推出HarmonyOS 4，再度领先行业的AI技术  参议院司法听证会：AI 不易管控，有可能被恶意分子利用来研发生化武器  阿里云全面支持Llama2训练部署，助力企业快速构建自有大型模型  AMD在AI方面奋起直追，与英伟达的差距缩小了吗？  AI大模型产品集体奔赴高考考场，教育赛道的讯飞星火能赢吗？  清华朱军团队新作：使用4位整数训练Transformer，比FP16快2.2倍，提速35.1%，加速AGI到来！  周鸿祎：360智脑开放API接口 AI大模型将赋能百行千业  纪录片 《寻找人工智能》全集1080P超清  Bing 聊天机器人现支持在桌面端用语音提问  家电行业观察：AI加持下，全屋智能将成为智能家电未来？  特斯拉首发人形机器人“擎天柱”亮相世界人工智能大会  当一个网站的内容被 AI 完全接管  美图公司吴欣鸿：AI技术重构影像产业  微软AR/VR专利提出使用时间复用谐振驱动产生双极性电源