HeadlinesBriefing favicon HeadlinesBriefing.com

Peneliti Gunakan Claude untuk Menyerang OpenAI via Kelemahan Forum

Ars Technica •
×

Peneliti mengeksploitasi kelemahan di forum komunitas OpenAI, yang dihosting oleh pihak ketiga Discourse, untuk mendapatkan akses ke login internal dan akhirnya ke akun ChatGPT seorang karyawan OpenAI dengan akses GitHub. OpenAI mengonfirmasi bahwa masalahnya telah diperbaiki setelah disentuh. Anthropic mempublikasikan data yang menunjukkan peningkatan yang cepat dalam penggunaan AI, melaporkan bahwa 26 persen dari pekerjaan riset dan pengembangan telah "dipimpin" oleh model Claude-nya, naik dari 1 persen dalam Maret.

Perusahaan menyatakan bahwa sistem AI semakin sering digunakan untuk membangun versi berikutnya dari diri mereka sendiri, mendekati perbaikan diri rekursif. Anthropic membagikan data tersebut untuk membantu publik memahami seberapa dekat dunia dengan mencapai ambang ini, di mana AI dapat melatih dan memperbaiki diri sendiri. Pada 90 persen tugas, AI bekerja sama dengan manusia dan menyelesaikan sebagian besar pekerjaan, meskipun model tidak yet beroperasi secara autonoma sepenuhnya untuk riset yang diteliti.

OpenAI menolak untuk komentar lebih lanjut. Anthropic dan Hacktron tidak langsung merespons pada permintaan untuk pernyataan tambahan.