HeadlinesBriefing favicon HeadlinesBriefing.com

AI-Beschränkungen in der Softwareentwicklung

Hacker News •
×

Der Artikel argumentiert, dass 'Codierung ist gelöst' eine blöde Erzählung ist. Der Autor, mit Erfahrung im Bau von AI-Systemen, behauptet, dass obwohl LLM Code generieren können, sie an kritischen nicht-funktionalen Anforderungen wie Wartbarkeit, Zuverlässigkeit und Sicherheit scheitern. Selbst funktionale Anforderungen sind immer noch ungelöst.

Der Autor identifiziert drei Produkttypen, die keine Code-Review benötigen: Persönliche Software, POCs und bewaffnete AI—alle Szenarien mit hoher Risikotoleranz. Die Produktionssoftware in Gesundheitswesen, Finanzen, Automobil und Verteidigung erfordert eine rechenschaftspflichtige AI, die nicht bereitgestellt werden kann. AI kann nicht bestraft, zur Verantwortung gezogen oder Konsequenzen ertragen, was sie für Systeme, bei denen Fehler Leben oder Geld kosten, ungeeignet macht.

Der Autor kritisiert die Befürworter von 'Codierung ist gelöst', da sie wenig zu zeigen haben. Sie bemerken, dass LLM durch Feedback-Schleifen, die Fehler verbergen, Erfolg haben, aber mit logischem Denken und Zählaufgaben kämpfen. Codierung bleibt eines der letzten Gebiete, auf die die aktuelle LLM-Generation aufgrund ihrer logischen Natur und Compiler-Einschränkungen übernehmen kann.