HeadlinesBriefing favicon HeadlinesBriefing.com

Limitations de l'IA dans le développement logiciel

Hacker News •
×

L'article argue que 'le codage est résolu' est une narration absurde. L'auteur, avec de l'expérience dans la construction de systèmes d'IA, soutient que bien que les LLM puissent générer du code, ils échouent sur les exigences non fonctionnelles critiques comme la maintenance, la fiabilité et la sécurité. Même les exigences fonctionnelles restent non résolues.

L'auteur identifie trois types de produits qui n'ont pas besoin de révision de code : logiciel personnel, POCs et IA armée—tous des scénarios de haute tolérance au risque. Le logiciel de production dans la santé, finance, automobile et défense exige une IA de redevabilité que l'IA ne peut pas fournir. L'IA ne peut être punie, tenue responsable ou subir des conséquences, ce qui la rend inappropriée pour les systèmes où les erreurs coûtent des vies ou de l'argent.

L'auteur critique les partisans de 'le codage est résolu' pour avoir peu à montrer. Ils notent que les LLM réussissent par des boucles de rétroaction qui cachent les erreurs, mais luttent avec le raisonnement logique et les tâches de comptage. Le codage reste l'une des dernières zones où la génération actuelle de LLM peut prendre le contrôle en raison de sa nature logique et des contraintes du compilateur.