Dalam artikelnya tanggal 11 Oktober 2026 berjudul "'AI' Bukan Alat", Rich Hickey berargumen bahwa model bahasa besar (LLM) adalah otomatisasi bukan alat karena tidak dapat digenggam. Saya setuju bahwa meng-outsource pekerjaan dapat merugikan kesempatan belajar. Namun, kesimpulannya tidak logis. Bahkan menurut definisinya, sebuah LLM bisa menjadi sesuatu yang dapat digenggam oleh manusia. Dan menggunakkannya dengan baik membutuhkan keterampilan, sama seperti menggunakan alat-alat lain. Menggesek gergaji tidak menjamin potongan lurus. Memegang pahat tidak menjadikan seseorang seorang pahat. Alat dapat memperkuat penilaian buruk secepat memperkuat penilaian baik. Kegunaannya bergantung pada kemampuan operator untuk mengarahkannya, menginterpretasikan umpan balik, mengenali kesalahan, dan melakukan koreksi. Persyaratan ini juga berlaku untuk LLM.
Tidak terduganya sebuah LLM adalah keterbatasan yang bermakna. Namun, keandalan, keandalan, kesederhanaan, dan fungsi terbatas adalah kualitas yang digunakan untuk menilai alat, bukan prasyarat untuk masuk ke kategori tersebut. Sebuah alat tidak berhenti menjadi alat karena sulit dikendalikan atau mudah disalahgunakan. Perbedaan Hickey antara alat dan otomatisasi juga menciptakan pembagian yang salah. Otomatisasi dapat menjadi fitur dari sebuah alat. Sebuah compiler melakukan pekerjaan besar tanpa programmer harus terus-menerus mengendalikan setiap operasi. Sebuah spreadsheet menghitung ulang hasil tanpa seseorang harus secara manual melakukan setiap perhitungan. Kita masih mengendalikan sistem ini dengan menentukan input, memeriksa hasil, dan memutuskan apa yang akan dilakukan selanjutnya. Mengapa pembangkitan teks otomatis harus mengdiskualifikasi sebuah instrumen dari menjadi alat ketika terjemahan kode otomatis atau perhitungan angka otomatis tidak demikian?
Pernyataan bahwa penggunaan LLM kurang niat, umpan balik, arah, dan keahlian sangat sulit untuk dibela. Seorang programmer dapat meminta LLM menjelaskan kode yang tidak dikenal, menantang penjelasan itu, memeriksa sumbernya, menguji perubahan yang diajukan, menolaknya, dan menyempurnakan permintaan. Ini adalah loop umpan balik yang diarahkan oleh manusia yang mengejar suatu tujuan. Melakukannya dengan baik membutuhkan pengetahuan apa yang harus ditanya, bukti apa yang penting, dan kapan jawaban salah. Keahlian dapat membuat instrumen ini lebih berguna. Kekhawatiran Hickey mengenai membaca berlaku untuk penggunaan tertentu: menerima ringkasan alih-alih membaca seluruh artikel dapat mengorbankan banyak hal yang diajarkan oleh membaca. Namun, seseorang juga dapat membaca artikel dan menggunakan LLM untuk mengecek interpretasinya, mengecek keberatan, atau mengidentifikasi sesuatu untuk diperiksa lebih lanjut. Kemungkinan menghindari pekerjaan intelektual tidak membuktikan bahwa setiap penggunaan menghindarinya. Pertanyaan yang relevan adalah apa yang sebenarnya dilakukan orang tersebut.
Yang paling mengecewakan saya adalah ketergantungan pada kosakata antromorfik industri AI: "galak", "melarikan diri dari kontainment", "bersusun-susun". Mengulang ekspresi-ekspresi tersebut berisiko menerima kerangka yang membuat sistem ini terlihat seperti makhluk independen. Perangkat lunak dapat menghasilkan output yang tidak terduga, gagal mengikuti instruksi, atau menyebabkan kerugian ketika diberikan akses ke tindakan yang berkonsekuensi. Ini adalah masalah teknik yang sebenarnya. Menamakan mereka "konspirasi" menambahkan kecurangan akan motif manusia tanpa membuktikan apa pun. Saya tidak akan claiming bahwa LLM selalu melakukan tepat apa yang dikatahui oleh manusia. Ia jelas dapat gagal. Namun, kegagalan untuk mematuhi sempurna tidak berarti ia berhenti menjadi alat, sama seperti penggunaan yang sukses tidak membuktikan bahwa operatornya telah menyerahkan penilaiannya. Perbedaan yang berguna adalah antara mengendalikan instrumen dengan keterampilan dan mendelegasikan pekerjaan tanpa pemahaman atau pengawasan yang cukup. Perbedaan ini juga berlaku untuk AI, dan memberi kita sesuatu yang lebih praktis daripada menyatakan bahwa seluruh kelas perangkat lunak tidak dapat menjadi alat.
Entitas kunci: Orang: Rich Hickey
Sumber: Hacker News · Diringkas oleh HeadlinesBriefing