HeadlinesBriefing favicon HeadlinesBriefing.com

Ограничения ИИ в разработке ПО

Hacker News •
×

Статья утверждает, что 'кодирование решено' — это тупая повествовательная линия. Автор, имеющий опыт построения систем ИИ, утверждает, что, хотя большие языковые модели (LLM) могут генерировать код, они не справляются с критическими нефункциональными требованиями, такими как сопровождение, надежность и безопасность. Даже функциональные требования остаются нерешенными. Автор определяет три типа продуктов, не требующих код-ревью: персональное ПО, proof-of-concepts и оружейный ИИ — все это сценарии с высокой терпимостью к риску. Программное обеспечение в производстве в здравоохранении, финансах, автомобилестроении и обороне требует подотчетного ИИ, которое не может быть предоставено. ИИ не может быть наказан, привлечен к ответственности или испытать последствия, что делает его непригодным для систем, где ошибки стоят жизней или денег. Автор критикует сторонников 'кодирование решено' за отсутствие чего-либо показать. Он отмечает, что LLM добиваются успеха через обратные связи, скрывающие ошибки, но борются с логическим рассуждением и задачами на счёт. Кодирование остаётся одной из последних областей, где текущая генерация LLM может взять на себя контроль из-за своей логической природы и ограничений компилятора.