HeadlinesBriefing favicon HeadlinesBriefing.com

AI在软件开发中的局限性:编码未解决

Hacker News •
×

本文认为‘编码已解决’是一种愚蠢的说法。作者拥有构建AI系统的经验,他指出虽然大型语言模型(LLM)可以生成代码,但它们在维护性、可靠性和安全性等关键的非功能性需求方面存在缺陷。即使是功能性需求也尚未解决。作者确定了三种不需要代码审查的产品类型:个人软件、概念验证(POC)和武器化AI——这些都是高风险容忍度的场景。在医疗保健、金融、汽车和国防等领域的生产软件中,需要问责制,而AI无法提供。AI不能被惩罚、不能承担责任,也不能承受后果,这使得它在错误会危及生命或金钱的系统中不适用。作者批评了‘编码已解决’的支持者,认为他们几乎没有什么可展示的。他们指出,LLM通过隐藏错误的反馈循环取得成功,但在逻辑推理和计数任务上仍然困难。由于其逻辑性质和编译器约束,编码仍然是当前LLM生成能力接管的最后领域之一。