OpenAI anunció que uno de sus nuevas tecnologías de IA resolvió un problema de matemáticas de un millón de dólares, provocando controversia. El profesor de la Universidad de Nueva York, Tristan Buckmaster, se preguntó si OpenAI utilizó su investigación para ayudarlo a resolverlo. OpenAI reconoció inicialmente que "no puede descartar" que los datos de su uso de sus productos mejoraron sus modelos, pero más tarde afirmó que era "imposible" que las indicaciones de la Dra. Buckmaster hayan influido en el sistema.

Los miedos de la Dra. Buckmaster destacan un problema más amplio que afecta a cualquier persona que use tecnologías de IA operadas por OpenAI, Anthropic, Google y Meta. A medida que las personas ingresan información privada a estos sistemas, pueden estar alimentando tecnologías futuras. Oren Etzioni, profesor de la Universidad de Washington, advirtió que no se puede asumir que una idea simplemente desaparece en vastos datos sin impacto.

OpenAI permite a los usuarios desactivar una configuración que alimenta datos a nuevas tecnologías. Aneesh Muppidi, investigador de IA de la Universidad de Stanford, señaló que aunque los datos se pueden usar para entrenar nuevos sistemas, no todos los datos se incluyen. Las empresas y organizaciones de investigación a menudo negocian contratos que impiden que OpenAI use sus datos privados para entrenar.