HeadlinesBriefing favicon HeadlinesBriefing.com

Keterbatasan AI dalam Pengembangan Perangkat Lunak

Hacker News •
×

Artikel ini berargumen bahwa 'kode sudah selesai' adalah narasi bodoh. Penulis, dengan pengalaman membangun sistem AI, berpendapat bahwa meskipun LLM dapat menghasilkan kode, mereka gagal pada persyaratan non-fungsional kritis seperti pemeliharaan, keandalan, dan keamanan. Bahkan persyaratan fungsional masih tidak terselesaikan.

Penulis mengidentifikasi tiga jenis produk yang tidak memerlukan review kode: perangkat lunak personal, POC, dan AI yang dipersenjatai—all skenario toleransi risiko tinggi. Perangkat lunak produksi dalam kesehatan, keuangan, otomotif, dan pertahanan menuntut AI akuntabilitas yang tidak dapat disediakan. AI tidak bisa dihukum, dipertanggungjawabkan, atau mengalami konsekuensi, membuatnya tidak cocok untuk sistem di mana kesalahan menghabiskan nyawa atau uang.

Penulis mengkritik pendukung 'kode sudah selesai' karena sedikit yang bisa ditunjukkan. Mereka mencatat bahwa LLM sukses melalui loop feedback yang menyembunyikan kesalahan, tetapi berjuang dengan penalaran logis dan tugas penghitungan. Kode masih menjadi salah satu area terakhir di mana generasi LLM saat ini dapat mengambil alih karena sifat logis dan batasan kompilator.