OpenAI akan menambahkan tanda air digital ke teks dan kode yang dihasilkan di UE untuk mematuhi aturan transparansi AI baru di kawasan tersebut. Perusahaan akan segera mulai menambahkan tanda air tak terlihat ke teks dan kode yang dihasilkan di UE, mengikuti langkah serupa oleh Anthropic awal tahun ini. OpenAI menggunakan sistem kepemilikan yang disebut textGrain yang "menambahkan sinyal statistik tak terlihat ke pilihan kata model".
Setelah ditambahkan, detektor dapat melihat sinyal-sinyal ini dan memastikan apakah ada tanda air. Perusahaan mengatakan sistem tersebut "mencapai atau melampaui" kinerja pendekatan lain, seperti Synth ID untuk teks. Namun, ia memperingatkan bahwa "kinerja yang kuat dalam kondisi ideal tidak menjamin deteksi yang andal dalam penggunaan sehari-hari".
Ia mengakui bahwa teks yang lebih pendek lebih sulit dideteksi, dengan tingkat keberhasilan sekitar 80 persen. Hal yang sama berlaku untuk "konten seperti matematika". Bahkan mengedit teks tampaknya menurunkan tingkat keberhasilan.
OpenAI berencana untuk membuat teknologi tersebut tersedia dalam sumber terbuka sehingga orang lain dapat menyesuaikannya. Tanda air tidak akan diaktifkan secara default, kecuali untuk "output teks ChatGPT dan Codex yang memenuhi syarat di Uni Eropa". Pelanggan dapat memilih "untuk model tertentu".
Akses ke perangkat lunak deteksi pada awalnya akan dibatasi untuk "peneliti yang disetujui dan organisasi ahli". Pasal 50 dari Undang-Undang AI UE mewajibkan penyedia sistem AI generatif untuk membuat output teks dapat diidentifikasi dengan cara yang dapat dibaca mesin, dengan entitas yang sudah ada seperti OpenAI, Anthropic, Microsoft, Google, dan Meta memiliki waktu hingga 2 Desember untuk mematuhinya.
Sumber: Engadget · Diringkas oleh HeadlinesBriefing