Google está poniendo a disposición de todos Synth ID Detector, su herramienta web para identificar contenido creado y editado por IA. La herramienta basada en web puede marcar imágenes, videos y clips de audio creados con herramientas de IA de Google, Open AI, NVIDIA y Kakao. Es de uso gratuito, pero requiere que los usuarios inicien sesión con una cuenta de Google, Open AI o Apple. El sitio web también será una de las primeras herramientas de detección de IA capaces de identificar imágenes creadas con las funciones de IA de Apple. Google dice que el soporte para imágenes creadas con Apple Intelligence llegará "pronto".
Google ha estado trabajando en Synth ID Detector durante más de un año, y anteriormente puso versiones a disposición de periodistas. Ahora, cualquiera puede visitar synthid.com para verificar si un contenido tiene una marca de agua Synth ID. Crear un sitio web dedicado facilita el acceso a estas capacidades, especialmente para personas que aún no usan las herramientas de IA de Google.
Como con todas las funciones de detección de IA, existen limitaciones. Synth ID Detector no puede detectar todo el contenido generado por IA, ya que muchas empresas dependen de diferentes estándares para las marcas de agua. Las marcas de agua también pueden eliminarse del contenido en algunas situaciones. Y el sitio web de Google no distingue entre contenido completamente creado por IA y contenido meramente editado con ella. Por lo tanto, no proporcionará detalles específicos sobre cómo se creó una pieza de contenido en particular o qué aspectos podrían ser sintéticos.
Si bien Synth ID Detector es un paso en la dirección correcta, verificar contenido generado por IA todavía está lejos de ser infalible. Las herramientas de detección de IA como Synth ID Detector dependen de un mosaico de diferentes estándares, por lo que no existe un verificador universal. Meta, por ejemplo, ha estado experimentando con su propia herramienta web, que puede identificar imágenes creadas o editadas con sus últimos modelos Muse Image, pero no las de otras empresas ni siquiera sus propios modelos anteriores.
Pero parece probable que Google consiga que más empresas se sumen a Synth ID con el tiempo. La empresa dijo anteriormente que Eleven Labs se había comprometido a agregar soporte para las marcas de agua. En su sitio web, Google señala que está "trabajando continuamente para ampliar nuestras asociaciones para permitir la detección de más medios generados".
Fuente: Engadget · Resumido por HeadlinesBriefing