研究:AI工具使经验丰富的程序员效率降低19%
昨日发布的一项研究表明,使用AI编码工具使经验丰富的开发者的工作效率降低了19%。
开发者平均估计AI使他们的效率提高了20%。这是感知效果与实际结果之间的巨大差距。
从方法描述来看,这似乎是该主题上设计最完善的研究之一。
需要注意的要点:
- 参与者是平均拥有10年以上经验的资深开发者
- 他们在非常熟悉的项目上工作
- 他们解决的是真实问题
这不是第一个得出结论认为AI可能没有人们经常宣传的积极效果的研究。2024年DORA报告也发现了类似的结果。
开发者实际体验
crone66 分享道: “我的经验是,AI可以在几分钟内生成80%的代码,但需要花费大量时间去除重复代码、修复糟糕或不存在的系统设计、修复错误。完成这些后,我才能专注于最后20%缺失的功能来完成特性。在大多数情况下,没有AI我肯定更快。”
codemuncher 补充: “我最喜欢的是当它提供一个解决方案时,我不满意其通用性,然后请求更新,它就像’哦,我们可以做Y’,我一直在想’为什么你一开始不做Y?'”
Eymrich 分享了在微软的经历: “在微软工作的推动使用AI是荒谬的。我不得不使用AI来总结设计师制作的文档,因为他们使用AI制作这些文档,内容极其冗长且不切题。”
研究深入分析
OdinGuru 指出: “这项RCT最有趣的细节之一是他们对所有内容进行了屏幕录制,并通过标记大量记录来详细了解在有AI和无AI任务中时间是如何花费的。”
“我注意到,使用AI实际主动编写代码的时间确实显著减少了(从图表中看大约减少了20-30%)。但这被花在’额外’AI任务上的时间所抵消,比如编写提示或审查AI输出。”
AI的实际价值
Iggyhopper 分析: “普通人甚至无法分辨AI(即LLM)不是有意识的。所以这很合理。普通开发者(我指的是平均水平)使用AI工作时可能会有净损失。”
7h4tguy 指出关键问题: “编写代码从来不是时间消耗的主要部分。时间主要花费在代码设计、重构、确保良好的命名、注释、原则分离、优化和现代化努力上,这些才是编写好代码需要时间的地方。”
企业环境中的AI推动
spike021 透露: “我在一家相当重要的公司工作,我们财年的目标就是尽可能多地使用AI,我确信这是他们拒绝增加人员编制的原因之一。”
teslas_love_pigeon 评论: “真的很遗憾看到微软如此缺乏领导力,不应该被美国政府信任为软件开发的好管理者。”
正确使用AI的方式
tryexceptifnot1try 分享经验: “对我来说,现在它是一个语法助手、日志消息生成器和注释生成器。在使用它的头几个月,我意识到我的速度变慢了很多,直到有一天我有了一个顿悟时刻。”
Inheritable 建议: “我从不使用AI为我生成代码然后粘贴到我的程序中。我可能会要求它提供建议或展示示例,但我真的不认为AI让我变慢了。”
研究局限性
GoonOfAllGoons 指出: “16个样本量和2小时的任务并不是最好的基准,但因为每个程序员都喜欢抨击AI,他们会为这些结果感到兴奋。”
结论
Livid_Sign9681 总结道: “对我来说,主要的收获不是AI不好,或者它让你变慢。我认为我们不能得出这个结论。但它确实表明,当涉及到AI工具对我们生产力的影响时,我们不能相信自己的直觉。”
研究表明,虽然AI工具在某些方面(如代码生成)可能节省时间,但这些收益被提示编写、输出审查和错误修复等额外任务所抵消。最重要的是,开发者的主观效率评估与客观测量结果存在显著差异,这对AI在专业编程环境中的实际价值提出了重要问题。