OpenAI agregará una marca de agua digital al texto y código generados en la UE para cumplir con las nuevas reglas de transparencia de IA de la región. La compañía pronto comenzará a agregar una marca de agua invisible al texto y código generados en la UE, siguiendo un movimiento similar de Anthropic a principios de este año. OpenAI utiliza un sistema propietario llamado textGrain que "agrega una señal estadística invisible a las elecciones de palabras del modelo".
Una vez agregada, un detector puede detectar estas señales y determinar si hay una marca de agua. La compañía dice que el sistema "igualó o superó" el rendimiento de otros enfoques, como Synth ID para texto. Sin embargo, advierte que "un rendimiento sólido en condiciones ideales no garantiza una detección confiable en el uso diario".
Admite que el texto más corto es más difícil de detectar, con una tasa de éxito de alrededor del 80%. Lo mismo ocurre con "contenido como matemáticas". Incluso editar texto parece reducir la tasa de éxito.
OpenAI planea hacer que la tecnología esté disponible en código abierto para que otros puedan modificarla. La marca de agua no estará habilitada por defecto, excepto para "salidas de texto elegibles de ChatGPT y Codex en la Unión Europea". Los clientes pueden optar por "modelos seleccionados".
El acceso al software de detección se limitará inicialmente a "investigadores aprobados y organizaciones expertas". El Artículo 50 de la Ley de IA de la UE exige que los proveedores de sistemas de IA generativa hagan que las salidas de texto sean identificables de manera legible por máquina, y las entidades preexistentes como OpenAI, Anthropic, Microsoft, Google y Meta tienen hasta el 2 de diciembre para cumplir.
Fuente: Engadget · Resumido por HeadlinesBriefing