OpenAI ajoutera un filigrane numérique au texte et au code générés dans l'UE pour se conformer aux nouvelles règles de transparence de l'IA de la région. L'entreprise commencera bientôt à ajouter un filigrane invisible au texte et au code générés dans l'UE, suite à une initiative similaire d'Anthropic plus tôt cette année. OpenAI utilise un système propriétaire appelé textGrain qui « ajoute un signal statistique invisible aux choix de mots du modèle ».
Une fois ajouté, un détecteur peut repérer ces signaux et déterminer s'il y a un filigrane. L'entreprise affirme que le système « a égalé ou dépassé » les performances d'autres approches, comme Synth ID pour le texte. Cependant, elle prévient que « des performances solides dans des conditions idéales ne garantissent pas une détection fiable dans l'usage quotidien ».
Elle admet que les textes plus courts sont plus difficiles à détecter, avec un taux de réussite d'environ 80 %. Il en va de même pour « le contenu tel que les mathématiques ». Même l'édition du texte semble réduire le taux de réussite.
OpenAI prévoit de rendre la technologie disponible en open source afin que d'autres puissent la modifier. Le filigrane ne sera pas activé par défaut, sauf pour les « sorties de texte éligibles de ChatGPT et Codex dans l'Union européenne ». Les clients peuvent opter pour « des modèles sélectionnés ».
L'accès au logiciel de détection sera initialement limité aux « chercheurs approuvés et organisations expertes ». L'article 50 de la loi sur l'IA de l'UE exige que les fournisseurs de systèmes d'IA générative rendent les sorties de texte identifiables de manière lisible par machine, les entités préexistantes comme OpenAI, Anthropic, Microsoft, Google et Meta ayant jusqu'au 2 décembre pour se conformer.
Source: Engadget · Résumé par HeadlinesBriefing