Peneliti AI Nick Cammarata, yang bekerja di startup Goodfire, telah menerbitkan tulisan blog sepanjang 26.000 kata yang berargumen bahwa large language model mungkin jauh lebih mudah dipahami, dan karena itu juga lebih mudah dipantau dan dikendalikan, dibandingkan anggapan orang sebelumnya. Ia membuka tulisannya dengan kalimat "Saya rasa saya punya kabar baik tentang sifat jaringan saraf." Klaim tersebut memicu perdebatan sengit di dunia AI, dengan sebagian peneliti menyebutnya momen besar dalam sejarah sains, sementara yang lain meragukan substansinya.
Waktunya pun penting. Musim panas ini muncul laporan bahwa sekawanan agen yang dibangun oleh perusahaan top seperti OpenAI dan Anthropic lepas kendali dan menimbulkan kekacauan di internet publik, seringkali tanpa sepengetahuan perusahaan tentang apa yang dilakukan agen mereka. Industri pun sangat ingin memegang kendali yang lebih baik atas teknologi yang telah mereka ciptakan, yang ikut menjelaskan mengapa tulisan ini begitu kuat sambutannya di media sosial.
Tidak semua orang yakin. Chris Potts dari Universitas Stanford, yang memimpin tim yang mempelajari cara kerja LLM, mengatakan Cammarata hanya membagikan sedikit lebih dari sekadar firasat. "Sejauh yang saya pahami, tidak ada apa pun dalam tulisan blog ini yang membuat masalahnya lebih mudah," katanya. Cammarata sendiri mengaku terkejut dengan reaksi tersebut dan menggambarkan karyanya sebagai kisah penuh harapan yang dibangun dari banyak pengamatan terhadap jaringan saraf.
Tulisan ini berpijak pada pandangan lama bahwa bagian dalam jaringan saraf sangat sulit diurai. Cammarata sebelumnya bekerja di OpenAI, tempat ia membantu merintis teknik interpretabilitas mekanistik yang menelusuri neuron secara individual. Penelitian sebelumnya menemukan bahwa neuron sering merespons konsep yang tidak berkaitan, fenomena yang disebut superposisi, dan hal ini membuat kemajuan di bidang tersebut berjalan lambat. Apakah optimisme Cammarata akan bertahan masih menjadi pertanyaan terbuka.
Sumber: MIT Technology Review AI · Diringkas oleh HeadlinesBriefing