OpenAI hat bekannt gegeben, dass eine seiner newest KI-Technologien ein Million-Dollar-Mathematikproblem gelöst hat, was Kontroversen ausgelöst hat. Der Professor der New York University, Tristan Buckmaster, wondered, ob OpenAI seine Forschung genutzt hat, um ihn zu lösen. OpenAI gab zunächst an, "es kann nicht ausschließen", dass Daten aus seiner Nutzung der Produkte seine Modelle verbessert haben, erklärte später jedoch, es sei "unmöglich", dass Dr. Buckmaster's Anregungen das System beeinflusst haben.

Die Ängste von Dr. Buckmaster verdecken ein umfassenderes Problem, das jeden betrifft, der KI-Technologien von OpenAI, Anthropic, Google und Meta nutzt. Da Menschen private Informationen in diese Systeme eingeben, können sie zukünftige Technologien füttern. Oren Etzioni, Professor an der University of Washington, warnte, man könne nicht annehmen, dass eine Idee in riesigen Daten untergeht, ohne Auswirkungen zu hinterlassen.

OpenAI ermöglicht es Benutzern, eine Einstellung zu deaktivieren, die Daten in neue Technologien speist. Aneesh Muppidi, KI-Forscher an der Stanford University, bemerkte, dass Daten zwar zum Trainieren neuer Systeme verwendet werden können, aber nicht alle Daten enthalten sind. Unternehmen und Forschungseinrichtungen verhandeln oft Verträge, die OpenAI die Nutzung ihrer privaten Daten für das Training untersagen.