Akhir bulan lalu, Anthropic merilis laporan yang menyatakan bahwa GLM-5.3, model canggih yang dirilis Agustus lalu oleh perusahaan Tiongkok Z.ai, menimbulkan risiko serangan siber yang besar karena siapa pun dapat mengunduh dan memodifikasinya secara gratis. Klaim ini adalah langkah terbaru dalam perdebatan panjang tentang apakah model AI tercanggih seharusnya terbuka atau tetap terkunci di balik pintu laboratorium terdepan.
Sebagian besar perdebatan ini berlangsung di ruang publik, dan banyak uang dipertaruhkan dari hasilnya. CEO Nvidia Jensen Huang, yang akan diuntungkan jika orang terus membeli perangkat keras sendiri untuk menjalankan model terbuka, dengan antusias mendorong Amerika Serikat untuk mengembangkan lebih banyak model semacam itu. Dario Amodei dari Anthropic, yang perusahaannya bisa terancam oleh model murah dan canggih, menganjurkan pendekatan yang lebih hati-hati. Namun di balik insentif komersial tersebut, ada substansi yang nyata. Seperti kata David Gray Widder dari University of Texas di Austin, cara seseorang memandang keterbukaan dibentuk oleh cara ia memandang AI secara keseluruhan.
Mereka yang peduli pada keamanan AI memperingatkan bahwa model terbuka dapat dengan mudah disalahgunakan oleh pihak jahat. Yang lain berfokus pada potensi praktis AI dan berpendapat bahwa kekuatan ini tidak seharusnya berada di balik pintu tertutup beberapa perusahaan besar, dan bahwa model terbuka dapat menyebarkannya lebih luas. Pilihannya mulai dari melarang model terbuka sepenuhnya hingga merilisnya secara bebas, dan setiap pendekatan melibatkan pertukaran antara keamanan dan demokratisasi.
Model terbuka menawarkan manfaat nyata. Model tertutup seperti yang menggerakkan ChatGPT dan Claude hanya dapat diakses melalui situs web, aplikasi, atau API. Model terbuka dapat diunduh, dengan bobot model yang tersedia untuk publik, sehingga orang dapat menjalankannya di komputer mereka sendiri dan, dengan keahlian yang memadai, melatihnya ulang. Model tertutup saat ini lebih mumpuni, dengan delapan model teratas di papan peringkat LLM Artificial Analysis semuanya tertutup, meskipun model terbuka hanya tertinggal beberapa bulan. Para peneliti mengandalkan model terbuka untuk mengamati cara kerja internal dan rangkaian penalarannya, menggabungkannya, mengompresinya, dan melakukan penyempurnaan lanjutan. Bisnis juga memiliki alasan untuk lebih memilihnya.
Sumber: MIT Technology Review AI · Diringkas oleh HeadlinesBriefing