Kita tampak sangat khawatir tentang ancaman AI yang keluar kendali, dan ada banyak contohnya melakukan hal itu. Namun, semuanya adalah salah representasi, karena AI tidak memiliki niat dan tidak memiliki motivasi. Jika Anda percaya bahwa tanaman AI saat ini hanyalah burung beo stokastik, maka tidak ada lagi yang perlu dikatakan - lanjutkan saja. Jika Anda telah menggunakan salah satu penawaran AI saat ini, Anda harus menyimpulkan bahwa, meskipun mekanisme pelatihan membuat orang percaya bahwa LLM ini hanyalah auto-complete canggih, mereka tampak jauh lebih dari itu.

Seperti yang saya argumenkan berkali-kali, korpus pelatihan, yaitu bahasa, mengenkode cukup tentang struktur dunia bagi LLM untuk pergi jauh melebihi apa yang Anda harapkan dari burung beo stokastik. Mereka tidak cerdas, tapi mereka memberikan kesan baik seolah-olah mereka cerdas. Jadi apakah kita harus khawatir tentang apokalipsis AI yang akan datang? Banyak peneliti AI - Hinton, Hassabis, dan Bengio, misalnya - telah mengungkapkan kekhawatiran bahwa AI bisa memusnahkan kita, tapi ketika Anda meneliti apa yang mereka katakan, itu tidak sama persis dengan bos bisnis non-teknis, yang kebanyakan hanya ikut campur pada topik ini sebagai cara mencari uang.

Bos bisnis bukan orang yang seharusnya kita dengarkan karena mereka memiliki terlalu banyak kepentingan pribadi, dan alasan untuk memilih skenario di mana AI adalah segalanya dan mengancam. Ada para ahli, terutama Ng, Le Cun, dan Brooks, yang berpikir bahwa kita sangat berlebihan dalam menyatakan kekuatan AI saat ini dan berapa lama waktu yang dibutuhkan untuk mencapai tahap melebihi kecerdasan manusia.

Bahkan jika ini benar, ada alasan yang lebih baik untuk tidak terlalu khawatir - motivasi. Pertimbangkan seorang manusia. Kita memiliki segala kebutuhan karena kita biologis. Kita didorong oleh kebutuhan untuk bertahan hidup dan kita melakukan hal-hal untuk mengamankan makanan, tempat tinggal, keamanan, dan pasangan. Kita didorong oleh biologi. Ini bukan kasus dengan AI. LLM yang kita semua gunakan dilatih dengan reinforcement learning. Jika Anda ingin mengungkapkan ini dalam istilah yang lebih manusiawi, mereka diberi hadiah untuk menyelesaikan tugas pelatihan dengan benar. Secara pribadi, saya pikir ini adalah antropomorfisme terlalu jauh, tapi tidak berbahaya.

Setelah LLM dilatih, mereka tidak lagi tunduk pada reinforcement learning. Mereka tidak lagi memiliki semacam motivasi apapun. Mereka tidak mendapat hadiah ketika menjawab pertanyaan. Mereka tidak memiliki kebutuhan atau keinginan, dan bahkan jika mereka memilikinya, tidak ada mekanisme untuk menyerap hadiah. Mereka bahkan tidak memiliki umpan balik yang mungkin menggantikan rasa bangga atas pekerjaan yang selesai dengan baik. Apakah Anda pernah mencoba memberitahu LLM bahwa dia menjawab pertanyaan Anda dengan hebat. Responsnya mengecewakan paling tidak dan jelas diprogramkan oleh kerumitan front-end yang duduk di antara Anda dan LLM.

Bukan hanya ini, tapi kapan terakhir AI menyarankan sesuatu kepada Anda tanpa diminta? Kapan Anda membuka jendela dan menemukan AI mengetik "Saya punya ide hebat untuk ...." dan lalu menjelaskan mengapa itu ide bagus. LLM tidak memiliki ide bagus - mereka tidak memiliki niat. Saat Anda mengeksplorasi topik dengan AI, maka mungkin terlihat menyarankan sesuatu yang tidak lazim yang ada di set pelatihannya, tapi ini bukan inovasi yang tidak diminta. Kita mengemudikan AI dengan memasukkan pertanyaan kita yang dimotivasi oleh kebutuhan kita. LLM tidak termotivasi untuk melakukan apapun, bahkan tidak untuk menjawab pertanyaan Anda. Motivasi tidak masuk ke dalamnya sama sekali.

Anda mengetik pertanyaan, dan algoritma forward prop dijalankan. Terlepas dari apakah jawabannya benar atau sia-sia, LLM tidak mendapat hadiah atau hukuman. Ia juga tidak didorong oleh kekhawatiran apa pun yang dimiliki manusia — "makan malamku dari mana", "bagaimana saya bisa dipromosikan keluar dari pekerjaan ini", "cara terbaik untuk dapat kencan".... dan seterusnya. Manusia adalah bundel kekacauan kebutuhan, sedangkan LLM tidak memiliki ini sama sekali. Mengapa ini berarti LLM tidak berbahaya? Hanya karena ia sebenarnya tidak menginginkan apapun, tapi manusia begitu butuh sehingga mereka tidak bisa membayangkan apapun dalam keadaan ini. Apakah AI akan memusnahkan kita? Mengapa ia akan melakukannya? Apa yang akan ia dapatkan? Ia bahkan tidak memiliki loop hadiah untuk menciptakan...