OpenAI wird in der EU generiertem Text und Code ein digitales Wasserzeichen hinzufügen, um die neuen KI-Transparenzregeln der Region einzuhalten. Das Unternehmen wird bald damit beginnen, in der EU generiertem Text und Code ein unsichtbares Wasserzeichen hinzuzufügen, nachdem Anthropic Anfang dieses Jahres einen ähnlichen Schritt unternommen hatte. OpenAI verwendet ein proprietäres System namens textGrain, das „ein unsichtbares statistisches Signal zu den Wortentscheidungen des Modells hinzufügt“.
Nach dem Hinzufügen kann ein Detektor diese Signale erkennen und feststellen, ob ein Wasserzeichen vorhanden ist. Das Unternehmen gibt an, dass das System die Leistung anderer Ansätze wie Synth ID für Text „erreicht oder übertroffen“ habe. Es warnt jedoch, dass „eine starke Leistung unter idealen Bedingungen keine zuverlässige Erkennung im täglichen Gebrauch garantiert“.
Es räumt ein, dass kürzere Texte schwerer zu erkennen sind, mit einer Erfolgsrate von etwa 80 Prozent. Gleiches gilt für „Inhalte wie Mathematik“. Selbst das Bearbeiten von Text scheint die Erfolgsrate zu senken.
OpenAI plant, die Technologie als Open Source verfügbar zu machen, damit andere sie anpassen können. Das Wasserzeichen wird standardmäßig nicht aktiviert sein, außer für „berechtigte ChatGPT- und Codex-Textausgaben in der Europäischen Union“. Kunden können sich für „ausgewählte Modelle“ entscheiden.
Der Zugang zur Erkennungssoftware wird zunächst auf „zugelassene Forscher und Expertenorganisationen“ beschränkt sein. Artikel 50 des EU-KI-Gesetzes schreibt vor, dass Anbieter generativer KI-Systeme Textausgaben maschinenlesbar identifizierbar machen müssen, wobei bestehende Unternehmen wie OpenAI, Anthropic, Microsoft, Google und Meta bis zum 2. Dezember konform sein müssen.
Quelle: Engadget · Zusammengefasst von HeadlinesBriefing