Dalam postingan sebelumnya kami memperkenalkan Minotaur, arsitektur AI yang dibangun di atas ELC dan menemukan jawabannya dengan mengukur, bukan memprediksi. Kami menunjukkan bagaimana ia memeriksa peraturan nyata terhadap catatan penerapannya, menemukan organisasi mana yang melanggar aturan, seberapa besar, dan di mana, serta membedakan aturan yang dilanggar dari pengukuran yang salah dicatat.
Model bahasa saat ini dikagumi karena kemampuan yang lebih luas: mereka dapat menyimpulkan, menjelaskan, mendiagnosis, menimbang sebuah hipotesis, membayangkan apa yang akan terjadi seandainya keadaannya berbeda, dan mengubah pendapat ketika diberi informasi baru. Otak Minotaur, menurut para penulisnya, melakukan jenis-jenis penalaran utama yang biasanya dikaitkan dengan model bahasa besar, termasuk deduksi, induksi, abduksi, diagnosis, dan penalaran tentang riwayat ketika mengajukan pertanyaan mengubah jawabannya. Semua itu dilakukan dengan satu operasi pada satu jaringan, pada satu inti prosesor biasa, sekitar seperempat detik per pertanyaan pada sistem yang dijelaskan.
Dalam uji buta yang disusun oleh orang-orang yang tidak pernah melihat kodenya, Minotaur menyamai model bahasa terkini yang bernalar dengan kata-kata, dalam sebuah wawancara polisi di mana pertanyaan mengubah ingatan saksi, serta pada sistem pembelajaran, diagnosis, dan prediksi yang hanya bertumpu pada datanya. Postingan ini membandingkannya dengan cara model bahasa besar dilatih untuk memprediksi kata berikutnya dalam sebuah teks, yang berarti ia mewarisi kekuatan sekaligus kelemahan manusia, seperti mudah terpengaruh oleh kesimpulan yang tampak meyakinkan dan oleh cara sebuah pertanyaan dirumuskan.
Postingan ini juga menelusuri tujuh puluh tahun upaya penalaran mesin sebelumnya. Dimulai dari Logic Theorist karya Allen Newell, Cliff Shaw, dan Herbert Simon pada 1956, upaya-upaya ini maju sampai batas tertentu lalu berhenti, dan penulis memakainya untuk menjelaskan mengapa model bahasa menjadi dominan. Penalaran yang tepat dan dapat diperiksa merupakan tujuan dari sebagian besar pendekatan sebelum era model bahasa.
Klaim utamanya adalah bahwa Minotaur bernalar dengan bekerja pada struktur sistem yang sedang dinalarinya, bukan dengan meniru cara orang menuliskan pemikirannya.
Sumber: Hacker News · Diringkas oleh HeadlinesBriefing