HeadlinesBriefing favicon HeadlinesBriefing.com

Limitações da IA no Desenvolvimento de Software

Hacker News •
×

O artigo argumenta que 'a codificação está resolvida' é uma narrativa tola. O autor, com experiência em sistemas de IA, contentiona que, embora os LLMs possam gerar código, falham em requisitos não funcionais críticos como manutenção, confiabilidade e segurança. Mesmo os requisitos funcionais permanecem não resolvidos.

O autor identifica três tipos de produtos que não exigem revisão de código: software pessoal, POCs e IA armada—all cenários de alta tolerância a risco. O software de produção em saúde, finanças, automotiva e defesa exige uma IA de prestação de contas que a IA não pode fornecer. A IA não pode ser punida, responsabilizada ou sofrer consequências, tornando-a inadequada para sistemas onde erros custam vidas ou dinheiro.

O autor critica os defensores de 'a codificação está resolvido' por terem pouco a mostrar. Eles observam que os LLMs têm sucesso por meio de loops de feedback que ocultam erros, mas lutam com raciocínio lógico e tarefas de contagem. A codificação permanece uma das últimas áreas onde a geração atual de LLM pode tomar over devido à sua natureza lógica e restrições do compilador.