OpenAI a annoncé qu’une de ses nouvelles technologies IA avait résolu un problème de mathématiques à un million de dollars, suscitant la controverse. Le professeur de l’Université de New York, Tristan Buckmaster, s’est demandé si OpenAI avait utilisé ses recherches pour l’aider à résoudre le problème. OpenAI a reconnu initialement qu’il "ne peut exclure" que les données de son utilisation de ses produits aient amélioré ses modèles, mais a ensuite déclaré qu’il était "impossible" que les invites de la Dr. Buckmaster aient influencé le système.

Les craintes de la Dr. Buckmaster mettent en lumière un problème plus large touchant toute personne utilisant des technologies IA exploitées par OpenAI, Anthropic, Google et Meta. Alors que les personnes entrent des informations privées dans ces systèmes, elles peuvent nourrir les technologies futures. Oren Etzioni, professeur à l’Université de Washington, a averti qu’on ne peut pas supposer qu’une idée disparaisse dans d’immenses données sans impact.

OpenAI permet aux utilisateurs de désactiver une configuration qui alimente les données vers de nouvelles technologies. Aneesh Muppidi, chercheur en IA à l’Université de Stanford, a noté que bien que les données puissent être utilisées pour entraîner de nouveaux systèmes, toutes les données ne sont pas incluses. Les entreprises et organisations de recherche négocient souvent des contrats empêchant OpenAI d’utiliser leurs données privées pour l’entraînement.