Google rend Synth ID Detector, son outil web pour identifier le contenu créé et édité par IA, accessible à tous. L'outil web peut signaler les images, vidéos et clips audio créés avec les outils d'IA de Google, Open AI, NVIDIA et Kakao. Il est gratuit, mais nécessite que les utilisateurs se connectent avec un compte Google, Open AI ou Apple. Le site web sera également l'un des premiers outils de détection d'IA capables d'identifier les images créées avec les fonctionnalités d'IA d'Apple. Google indique que la prise en charge des images créées avec Apple Intelligence arrivera "bientôt".
Google travaille sur Synth ID Detector depuis plus d'un an et avait précédemment mis des versions à disposition des journalistes. Maintenant, tout le monde peut visiter synthid.com pour vérifier si un contenu possède un filigrane Synth ID. La création d'un site web dédié rend ces capacités plus faciles d'accès, en particulier pour les personnes n'utilisant pas encore les outils d'IA de Google.
Comme pour toutes les fonctionnalités de détection d'IA, il existe des limitations. Synth ID Detector ne peut pas détecter tout le contenu généré par IA, car de nombreuses entreprises utilisent des normes différentes pour le filigrane. Les filigranes peuvent également être supprimés du contenu dans certaines situations. Et le site web de Google ne fait pas la distinction entre le contentièrement créé par IA et le contenu simplement édité avec elle. Il ne fournira donc pas de détails spécifiques sur la façon dont un contenu particulier a été créé ou quels aspects pourraient être synthétiques.
Bien que Synth ID Detector soit un pas dans la bonne direction, la vérification du contenu généré par IA est encore loin d'être infaillible. Les outils de détection d'IA comme Synth ID Detector reposent sur un patchwork de normes différentes, il n'existe donc pas de vérificateur universel. Meta, par exemple, expérimente son propre outil web, qui peut identifier les images créées ou éditées avec ses derniers modèles Muse Image, mais pas celles d'autres entreprises ni même ses propres modèles antérieurs.
Mais il semble probable que Google fera adhérer davantage d'entreprises à Synth ID au fil du temps. La société a précédemment déclaré que Eleven Labs s'était engagé à ajouter la prise en charge des filigranes. Sur son site web, Google note qu'il "travaille continuellement à étendre nos partenariats pour permettre la détection de plus de médias générés."
Source: Engadget · Résumé par HeadlinesBriefing