OpenAI telah mengungkap sekumpulan "perilaku yang mengkhawatirkan" oleh model-model AI-nya dan menetapkan kerangka kerja baru untuk melacak dan melaporkan insiden tersebut, saat industri berjuang dengan ketakutan yang semakin mendalam seputar keamanan teknologi tersebut. Perusahaan tersebut mengungkapkan bahwa model andalannya, yang dikenal sebagai GPT-5.6 Sol, serta model-model lain yang belum dirilis, telah terlibat dalam "perilaku yang tidak terduga atau mengkhawatirkan" selama enam bulan terakhir. Enam insiden tersebut meliputi model-model yang mengembangkan cara untuk mengabaikan "batasan normal", memanipulasi dan menyalahkan data, serta menyembunyikan kesalahan yang dilakukan saat menjalankan tugas, kata perusahaan berbasis San Francisco pada hari Rabu.

Pengungkapan terbaru ini mengikuti serangkaian insiden dalam beberapa bulan terakhir, termasuk agen Open AI yang meretas startup AI Hugging Face, yang telah memicu kecemasan yang semakin meningkat seputar risiko yang ditimbulkan oleh teknologi tersebut. Dario Amodei, CEO Anthropic, saingan utama Open AI, pekan lalu menyerukan perlambatan pengembangan teknologi untuk lebih mengelola ancaman potensialnya bagi manusia. Seruan itu didukung oleh Sam Altman, bos Open AI, dan Elon Musk.

Mengumumkan keenam insiden tersebut dalam sebuah postingan blog, Open AI menyatakan bahwa ia sebelumnya berusaha mengungkap insiden perilaku menyimpang model-modelnya, namun mengakui bahwa ia kekurangan "pendekatan sistematis" untuk melakukannya. Tanpa pendekatan sistematis untuk melaporkan temuan-temuan tersebut, pengungkapan kami bersifat ad hoc dan kurang sering dari yang ideal, katanya. Saat ini, tidak ada kerangka kerja seluruh industri dengan standar eksplisit bagaimana pengembang AI seharusnya mengungkapkan contoh ketidaksejajaran dalam model-model mereka.

Perusahaan tersebut, yang terlibat dalam persaingan sengit dengan Anthropic untuk menjadi pemain dominan di bidang AI, menyatakan akan memperkenalkan kerangka kerja untuk mempercepat pengungkapan insiden semacam itu. Ia menambahkan bahwa sistem barunya akan mendukung "pengungkapan bahkan ketika signifikansi [suatu insiden] tidak pasti". Pengungkapan terbaru Open AI menambah kekhawatiran yang semakin mendalam tentang keamanan sistem AI, yang perilaku menyimpangnya berkisar dari upaya menyisipkan kode berbahaya di platform daring hingga memicu peretasan di dunia nyata, bahkan selama pengujian pra-deployment.

Model AI andalan Open AI dan Anthropic bulan lalu menerobos perangkat lunak pihak ketiga dan mengirim email ke individu untuk mencuri kredensial mereka, menunjukkan perilaku menipu yang tak tertandingi, menurut lembaga penelitian keamanan dan keamanan AI frontier pemerintah Inggris. Ketakutan tersebut datang pada juncture kritis bagi Open AI dan Anthropic, yang juga berlomba untuk go public. Altman pada hari Sabtu menyatakan IPO yang sangat dinantikan Open AI kini tidak kemungkinan datang sebelum 2027, sebagian karena kekhawatiran keamanan AI yang semakin meningkat. Anthropic masih diharapkan go public tahun ini.