Google a déployé un détecteur de contenu SynthID AI amélioré à l'échelle mondiale, mais les utilisateurs doivent se connecter avec un compte pris en charge. L'outil prend en charge les comptes Google, OpenAI et Apple. Chaque utilisateur obtient un quota quotidien d'environ 10 vérifications d'images, de vidéos et d'audio. Les ingénieurs de Google affirment que limiter l'accès est nécessaire pour empêcher les gens d'utiliser les vérifications pour développer des outils de suppression de SynthID.
Bien que SynthID fournisse une destination unique pratique pour vérifier les médias à la recherche de filigranes d'outils d'IA populaires, il a des limites. Les partenaires de Google sont loin d'être les seules sources de contenu d'IA. Certains fournisseurs utilisent une technologie de filigrane différente (comme Meta), tandis que d'autres n'utilisent aucun filigrane. Les modèles à poids ouverts peuvent être exécutés sur du matériel personnel pour produire un contenu d'IA réaliste sans étiquetage de métadonnées.
Le site Web comprend une clause de non-responsabilité indiquant qu'une grande partie du contenu d'IA ne sera pas identifiée. Malgré les efforts de Google, quelqu'un pourrait trouver un moyen de supprimer les filigranes SynthID. La meilleure approche pourrait être d'utiliser des technologies cryptographiques comme C2PA pour étiqueter le contenu réel. Les téléphones Pixel de Google font partie des rares appareils qui le font. En attendant, SynthID est le meilleur outil disponible pour identifier les faux contenu d'IA.
Source: Ars Technica · Résumé par HeadlinesBriefing