La procedencia del contenido ayuda a las personas a entender de dónde vino el contenido, cómo se creó o editó, y si contiene señales asociadas con nuestros modelos. Hoy, compartimos nuestro enfoque sobre las marcas de agua de texto en respuesta a la Ley de IA de la UE, y cómo encaja en nuestro trabajo más amplio.
A partir de hoy, los clientes de API a nivel mundial pueden optar por las marcas de agua de texto para modelos seleccionados. En las próximas semanas, agregaremos una marca de agua invisible a la salida de texto elegible de ChatGPT y Codex en la Unión Europea. Estamos abriendo solicitudes para acceder a nuestro detector de marcas de agua de texto, inicialmente limitado a investigadores aprobados y organizaciones expertas.
Nuestra tecnología de marcas de agua de texto, text Grain, agrega una señal estadística invisible a las elecciones de palabras del modelo. Las tasas de detección fueron sustancialmente más bajas para contenido como matemáticas, donde hay menos flexibilidad en la elección de palabras. La edición puede debilitar la marca de agua; reemplazar 10% de las palabras con sinónimos redujo la detección de aproximadamente 92% a 66%.
Fuente: OpenAI Blog · Resumido por HeadlinesBriefing