HeadlinesBriefing favicon HeadlinesBriefing.com

Limitaciones de la IA en desarrollo de software

Hacker News •
×

El artículo argumenta que 'la codificación está resuelta' es una narrativa tonta. El autor, con experiencia en sistemas de IA, sostiene que aunque los LLM pueden generar código, fallan en requisitos no funcionales críticos como el mantenimiento, la confiabilidad y la seguridad. Incluso los requisitos funcionales siguen sin resolverse.

El autor identifica tres tipos de productos que no requieren revisión de código: software personal, POCs e IA weaponizada, todos escenarios de alta tolerancia al riesgo. El software de producción en salud, finanzas, automotriz y defensa exige una IA de rendición de cuentas que no puede proporcionar. La IA no puede ser castigada, ni responsabilizada, ni sufrir consecuencias, lo que la hace inapropiada para sistemas donde los errores cuestan vidas o dinero.

El autor critica a los defensores de 'la codificación está resuelta' por tener poco que mostrar. Señala que los LLM tienen éxito a través de bucles de feedback que ocultan errores, pero luchan con el razonamiento lógico y tareas de conteo. La codificación sigue siendo una de las última áreas donde la generación actual de LLM puede tomar el control debido a su naturaleza lógica y restricciones del compilador.