Google ha implementado un detector de contenido de IA SynthID mejorado a nivel global, pero los usuarios deben iniciar sesión con una cuenta compatible. La herramienta admite cuentas de Google, OpenAI y Apple. Cada usuario obtiene una cuota diaria de aproximadamente 10 verificaciones de imágenes, videos y audio. Los ingenieros de Google dicen que limitar el acceso es necesario para evitar que las personas usen las verificaciones para desarrollar herramientas de eliminación de SynthID.
Si bien SynthID proporciona un destino único conveniente para verificar medios en busca de marcas de agua de herramientas populares de IA, tiene limitaciones. Los socios de Google están lejos de ser las únicas fuentes de contenido de IA. Algunos proveedores utilizan tecnología de marca de agua diferente (como Meta), mientras que otros no utilizan marcas de agua en absoluto. Los modelos de peso abierto se pueden ejecutar en hardware personal para producir contenido de IA realista sin etiquetado de metadatos.
El sitio web incluye un descargo de responsabilidad de que gran parte del contenido de IA no será identificado. A pesar de los esfuerzos de Google, alguien puede encontrar una manera de eliminar las marcas de agua de SynthID. El mejor enfoque podría ser usar tecnologías criptográficas como C2PA para etiquetar contenido real. Los teléfonos Pixel de Google se encuentran entre los pocos dispositivos que hacen eso. Mientras tanto, SynthID es la mejor herramienta disponible para identificar falsificaciones de IA.
Fuente: Ars Technica · Resumido por HeadlinesBriefing