Investigadores de seguridad advierten que el contenido explícito generado por IA se está difundiendo en gran medida sin control, mientras los reguladores hacen poco para detenerlo. Un estudio coescrito por Google sobre usuarios de internet en Estados Unidos, Australia y el Reino Unido descubrió que este tipo de contenido no consentido suele compartirse a través de mensajes privados o almacenarse en nubes privadas, donde es menos probable que se detecte o se denuncie. Los investigadores concluyeron que el punto de intervención más crítico sigue siendo las herramientas de IA dañinas que se usan para crear imágenes sexuales falsas.
Las pruebas de red teaming realizadas en los últimos meses sugieren que los principales generadores de imágenes de Google y OpenAI podrían estar empeorando a la hora de bloquear resultados explícitos a medida que se vuelven más capaces. White Circle, una corporación de beneficio público respaldada por altos directivos e investigadores de Anthropic, DeepMind, Hugging Face y OpenAI, ha dado la voz de alarma. En un preprint publicado el mes pasado, sus investigadores expusieron fallos en las barreras de seguridad de DALL·E 3, Nano Banana 2 de Google y GPT-Image-2. Utilizando herramientas listas para usar y llamadas a la API, eludieron los filtros de seguridad y generaron contenido explícito aproximadamente el 13 por ciento de las veces, una tasa de elusión que describen como la más alta de cualquier método probado bajo el mismo estándar.
White Circle también informa de que los modelos más recientes, ChatGPT Images 2.5 y Nano Banana 2.1, son "significativamente más vulnerables" que sus predecesores. La empresa planea publicar en código abierto su proceso de ataque y presentar la investigación en la conferencia NeurIPS 2026 en noviembre. Ni Google ni OpenAI respondieron a las solicitudes de comentarios de Ars Technica.
El CEO Denis Shilov afirmó que los hallazgos son preocupantes porque la misma debilidad podría afectar a las defensas que se están actualizando para bloquear otros comportamientos dañinos de la IA, como la piratería informática. El mensaje clave de la empresa es que las defensas de seguridad de la IA en los principales laboratorios son más débiles de lo que reconocen.
Fuente: Ars Technica · Resumido por HeadlinesBriefing