CEO Y Combinator Garry Tan ingin lab AI berbobot terbuka AS mendistilasi model frontier. "Saya tidak akan melakukan apa pun," katanya kepada CNBC, dan menambahkan, "Kita bisa berargumen bahwa seharusnya ada rezim distilasi Amerika." Ia menjelaskan kepada TechCrunch bahwa lab AI berbobot terbuka Amerika yang lebih kecil harus menggunakan teknik pelatihan yang sama pada lab AI frontier Amerika, memberi AS serangkaian opsi berbobot terbuka yang lebih kuat yang bukan berasal dari Tiongkok.

Distilasi adalah ketika pembuat model secara ekstensif meminta model lain untuk mempelajari cara kerjanya dan cara bernalarnya. Ini umum, dan sah, digunakan oleh lab AI untuk membantu melatih model baru. Anthropic pekan ini merilis laporan keduanya yang menuduh lab Tiongkok terlibat dalam "serangan distilasi ilegal", menyembunyikan identitas mereka untuk mendistilasi tanpa izin dan mengandalkan penipuan serta kredensial curian. CEO Anthropic Dario Amodei sebelumnya secara publik menyerukan regulator AS untuk menindak distilasi.

Tan tidak menganjurkan lab AI Amerika menggunakan kredensial curian untuk mendistilasi. Ia ingin mereka bebas masuk melalui pintu depan. Argumennya ada dua: adalah tindakan berlebihan bagi lab AI untuk menentukan apa yang dapat dilakukan pelanggan mereka dengan informasi yang dibagikan model mereka, dan lab AI proprietary tidak meminta izin ketika mereka menyedot pengetahuan manusia untuk melatih model mereka.

"Mengontrol apa yang dilakukan pengguna dan pelanggan dengan panggilan API ke model berbobot tertutup terasa membatasi," katanya kepada TechCrunch. Tan ingin keseimbangan antara lab AI berbobot terbuka dan lab frontier. Baginya, skenario kiamat AI yang sebenarnya adalah semua kekuatan besar AI frontier berakhir di tangan satu penyedia proprietary yang kuat. "Skenario mimpi buruk, skenario kiamat untuk AI adalah hanya ada satu perusahaan," katanya.

Entitas Utama: Perusahaan: Y Combinator, Anthropic, CNBC, TechCrunch | Orang: Garry Tan, Dario Amodei | Lokasi: AS, Tiongkok, Silicon Valley