400 128 6709

行业新闻

编程已死,AI 当立?教授公开“唱反调”:AI 还帮不了程序员

发布时间:2023-06-12点击次数:

编译 | 核子可乐、凌敏

GitHub Copilot、ChatGPT 等 AI 产品的火爆出圈,让更多人看到 AI 在编程方面展现出的极强能力。近来,“AI 取代程序员”、“AI 坐上编程宝座”等言论频繁出现。

前段时间,前哈佛大学计算机科学教授、谷歌工程主管 Matt Welsh 在芝加哥计算机协会的一个虚拟会议上表示,ChatGPT 和 GitHub Copilot 预示着编程终结的开始。Welsh 断言,生成式 AI 将在 3 年内终结编程。

但也有一些人对此持反对意见。近日,Constructor Institute 教授、Eiffel Software 首席技术官 Bertrand Meyer 在 ACM 上发表文章公开“唱反调”,他认真研究了一番 ChatGPT 到底是怎么编程的,最终得出结论:AI 还帮不了程序员。

ChatGPT 编程实验

前段时间,Meyer 通过一系列文章讨论过如何解决虚构出来的二进制搜索问题,虽然内容看起来都不错,每篇文章也都提出了自己的解答版本,但其实大部分都是错的。( 延伸阅读:https://bertrandmeyer.com/2025/03/26/getting-program-right-nine-episodes/)

以此为素材,Meyer 把这些文章提交给了 ChatGPT(版本 4)。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

编程已死,AI 当立?教授公开“唱反调”:AI 还帮不了程序员

AI 选手先是对问题做出了描述:

这个问题实际可以出现在任意数量的元素上,而不仅仅是两个。但想要证明一个程序不正确,举出一个反例就足够了(但要证明它是正确的,则需要证明其适用于所有示例)。Meyer 只问了程序是否正确,并没提具体要怎么修复,但 ChatGPT 还是热心给出了如下建议:

编程已死,AI 当立?教授公开“唱反调”:AI 还帮不了程序员

这里的评论部分确实很有帮助:

编程已死,AI 当立?教授公开“唱反调”:AI 还帮不了程序员

ChatGPT 说得没错,逻辑很通。在仔细研究了建议的替换代码后, Meyer 发现了某些可疑的部分。于是,Meyer 进一步提问:

在尝试修复 Meyer 的错误时,ChatGPT 输出了另一个同样有错的版本,只不过错得跟 Meyer 不一样。值得一提的是, ChatGPT 每次都试着给出新的版本——在纠正之前错误的同时,却又带来了新问题

Meyer 还发现,ChatGPT 特别擅长道歉:

ChatGPT 一直在自说自话,积极向 Meyer 推荐它认为经过修正的解决方案:

到这里,Meyer 甚至不打算尝试最新版本正不正确。有经验的程序员朋友都知道,揪住一个案例不断添加特定修复,绝不是生成正确程序的最佳途径。

于是 Meyer 也选择继续保持礼貌:

精彩的来了:ChatGPT 决定向 Meyer 介绍循环不变量的概念!

编程已死,AI 当立?教授公开“唱反调”:AI 还帮不了程序员

Meyer 从未明示或暗示称“需要一种更系统的方法来验证算法的正确性”,他只是想知道 ChatGPT 要如何证明它推荐的答案是对的,但绝对没有使用“系统的”或者“验证”这类字眼。之所以出现这一幕,可能是基于大型语料库的统计推理给了 ChatGPT 信心,让它认定用户肯定会质疑输出代码的正确性,然后要求以系统方法给出验证。

Meyer 继续追问了下去:

Seede AI Seede AI

AI 驱动的设计工具

Seede AI 713 查看详情 Seede AI

ChatGPT 随后给出了很好的答案,甚至包括 ACM 计算调查当中收录的循环不变量调查内容。而且它仍然是先夸一句再解释问题,非常客气:

编程已死,AI 当立?教授公开“唱反调”:AI 还帮不了程序员

到这里,Meyer 不打算再继续追问了。

Meyer知道如何解决问题,但和大多数程序员一样,他也常犯错误。他希望 AI 编程助手可以监督自己,提醒他注意陷阱并在犯错时给予纠正。换言之,他希望 AI 能成为高效有用的结对编程伙伴。然而,实验结果表明,AI 编程工具类似于高端的研究生,不仅聪明而且博览群书,还有着一贯的礼貌并愿意道歉。即使回顾过去,它依然显得粗糙不精准,所谓的帮助对 Meyer 没有什么用。

现代 AI 成果并不能生成正确的程序

Meyer 认为,当前生成式 AI 工具确实能够在某些领域出色地完成工作,甚至胜过大部分人类的水平:相关结果来得很快、令人信服,乍看之下甚至不亚于顶级专家,原则上也没什么大问题。该翻译工具除了能够生成营销手册和进行网站内容的粗略翻译外,还展现出卓越的医学图像分析能力。

但编程的要求完全不同,它对产出程序的正确性有着严格要求。开发者可以容忍一定的错误,但其核心功能必须正确。如果客户下达的指令是买进 100 股微软股票,同时卖出 50 股亚马逊股票,那程序绝不应该执行相反的操作。专业程序员有时候会犯错,这时候就看 AI 助手能不能帮上一把了。

然而,现代 AI 成果并不能生成正确的程序: 它产出的程序实际是从之前见过的大量原有程序中推理而成。这些程序看似靠谱,但却无法完全保障正确性。(这里所说的现代 AI,是将其与早期 AI 区分开来——后者试图通过专家系统等方法重现人类的逻辑思维,但在很大程度上已经失败。如今的 AI 完全通过统计推理实现基本功能。)

Meyer指出,虽然AI助手在某些方面表现非常出色,但它们不是逻辑性的产物,而是善于操作文字的高手。大型语言模型能够自如地表达和生成看起来没有太大错误的文本。虽然这样的表现对于许多应用场景已经足够,但仍然不适合编程需求。

现阶段的人工智能可以协助用户生成基本框架,并给出相对可靠的答案。但也就止步于此了。以目前的技术水平来看,它还完全输出不了能够正常运行的程序。

但这对软件工程行业来说并不是坏事。Meyer 认为,面对种种“编程已死”的宣传,这次实验提醒我们 不管人类程序员还是自动编程助手,都需要规范的约束,并且任何产出的备选程序都有待验证。在最初的惊艳过后,人们终将意识到这种一键式生成程序的能力并没有多大作用。考虑到它往往无法正确实现使用者想要的效果,草草上线的自动化功能也许反而有害。

写在最后

Meyer 并不是唱衰 AI 编程,他认为,审慎的态度或许能帮助我们构建出具备可靠能力的终极 AI 系统。

AI 技术目前仍处于早期发展阶段,但这些限制并非永久不可克服的障碍。也许在未来的某一天,生成式 AI 编程工具能够克服这些障碍。要让它真正具备编程能力,就需要深入探讨和研究规范和验证方面。

那么问题来了:你是否使用过 AI 编程工具?使用的是哪款工具?准确度如何?这些工具是否真的帮助到了你?欢迎在评论区写下你的使用体验。

原文链接:

抗拒使用 GPT-4 和 Copilot 写代码,拥有 19 年编程经验的老程序员“面试”被淘汰

马化腾称“收紧队形”,腾讯回应;微软发布自己的Linux发行版;OpenAI回应GPT-4 变笨 | Q资讯

向量数据库?不要投资!不要投资!不要投资!

年薪60万的数据分析师工作保不住了?!阿里达摩院研究发现,改用GPT-4成本只需几千元

报告推荐

包含 ChatGPT、Claude、Sage、天工 3.5、文心一言、通义千问、讯飞星火、Moss、ChatGLM、vicuna-13B 等大语言模型产品,四大维度+12个细分维度展现其综合能力,通过技术视角探索大模型产品的编程能力,提升 AGI 创业方向选择、工作实际应用等方面的最新认知。扫码添加InfoQ 小助手,解锁全部资料。

|直播|预告

AI 大模型时代,架构师面临哪些机遇和挑战?今晚 20:00,Mobvista 技术 VP 蔡超,|直播|连线科大讯飞 AI 研究院副院长李鑫,为你揭晓答案!更有 ArchSummit 深圳站精彩专题提前剧透,知识豪礼送不停!抓紧预约!

以上就是编程已死,AI 当立?教授公开“唱反调”:AI 还帮不了程序员的详细内容,更多请关注其它相关文章!


# 通义千问  # 文心一言  # 腾讯  # 出了  # 已死  # copilot  # claude  # chatgpt  # github copilot  # 竹筏营销推广  # 宁波口碑营销推广  # 优化网站的经历和感受  # 石家庄做网站推广怎么做  # 网站seo优化代理商  # 餐饮网站建设和优化  # 本溪营销型网站建设  # 天眼企服网站建设  # 品质营销推广规划  # 网站优化排名在线咨询网  # 太多  # 来了  # 一言  # 的是  # 自己的  # 软件工程  # 开源 


相关栏目: 【 行业新闻62819 】 【 科技资讯67470


相关推荐: 广州团建公司方案 | 绝密飞行 → X-PLANE无人机团建主题团建  Prompt解锁语音语言模型生成能力,SpeechGen实现语音翻译、修补多项任务  谷歌旗下 DeepMind 开发出 RoboCat AI 模型,能控制多种机器人执行一系列任务  不止“文心一言”,消息称百度将推出全新 AI 对话软件“万话”  推动企业数字化转型升级!“松江智造”摘世界人工智能大会重磅奖项  利好来了,AI再起一波?  OpenAI更新GPT-4等模型,新增API函数调用,价格最高降75%  DreamAvatar数字人在哪里下载  速途网络成立“人工智能专家委员会”5位中美博士加盟  微软 Azure AI 文本转语音服务升级:新增男性声音和扩展语言支持  WHEE使用教程  映宇宙集团执行总编辑:元宇宙还是要以人为媒介  羚客系统即将升级,推出全新的AI数字化工具  有远见!华为四年前注册商标Vision Pro:苹果AR国内要改名  中国最强AI研究院的大模型为何迟到了  第二届光合组织AI解决方案大赛赛果揭晓  争鸣:OpenAI奥特曼、Hinton、杨立昆的AI观点到底有何不同?  讯飞听见会写“会议摘要”功能全面升级,AI更懂你的关注点  边喷火边跳踢踏舞,机器狗最新技能爆火全网!网友直呼真·热狗  脑虎科技:奔跑在“脑机接口”最前沿 跨界融合取得阶段性成果  映宇宙数字人“映映”亮相ChinaJoy,展示AI黑科技实现用户互动  微幼科技晨检机器人与人工晨检相比,有何优势  人工智能时代 数字文明对话向“尼”走来  在心理治疗中用VR技术,治疗成效显著提高  Meta发布"类人"AI图像创建模型,能解决多出手指等Bug  2025WRC世界机器人大赛锦标赛(烟台)收官!斯坦星球勇夺VEX赛项冠亚军!  再也不怕「视频会议」尬住了!谷歌CHI顶会发布新神器Visual Captions:让图片做你的字幕助手  套娃不可取:研究人员证实用AI生成的结果训练AI将导致模型退化  无需标注数据,「3D理解」进入多模态预训练时代!ULIP系列全面开源,刷新SOTA  人形机器人概念集体爆发,能买吗?  生成式AI引路产业加速来袭,微美全息探索“AIGC+虚拟人”融合应用  联想首发AI PC于今年秋季,英特尔CEO确认AI PC时代来临  扎克·施奈德新片《月球叛军》曝剧照 机器人首度现身  日本学校探索引入 AI 和无人机:提高安保效率,节省劳动力  13 个提高生产力的 AI 工具  学而思推出AI第一课:基于自研大模型的AIGC课程  WHEE上线时间介绍  苹果式 AI 哲学:不着一字,处处落子  2025 WAIC|美团无人机发布第四代新机型  Xbox游戏工作室负责人:VR/AR领域的用户规模还不足够  AI浪潮席卷,时空壶为何能成为AI翻译时代的破局者  微软和谷歌面临的人工智能困境:需要投入大量资金才能获得盈利  AI创作广告文案等同2.47年工作经验,且消费者无法区分|AI营销前沿  “上海市民营企业人工智能赋能创新中心”揭牌成立  揭晓2025年玻尔兹曼奖:Hopfield网络创始人荣获奖项  7大探索区域打造沉浸式玩乐“元宇宙” 昆明京东MALL未来科技探索官全城招募中  云南首例达芬奇机器人微创心脏手术成功开展  0代码微调大模型火了,只需5步,成本低至150块  云鲸发布全新的扫拖机器人J4系列  研究表明 GPT-4 模型具备自我纠错能力,有望推动 AI 代码进一步商业化 

400 128 6709
E-mail

contact@tlftec.cn

扫一扫,添加微信

©  云南淘乐房科技有限公司 版权所有  滇ICP备2025071560号  

云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司