OpenAI anunciou que uma de suas novas tecnologias de IA resolveu um problema de matemática de um milhão de dólares, gerando controvérsia. O professor da Nova York University, Tristan Buckmaster, perguntou se OpenAI usou sua pesquisa para ajudá-lo a resolvê-lo. OpenAI reconheceu inicialmente que "não pode descartar" que dados do seu uso de seus produtos melhoraram seus modelos, mas mais tarde afirmou que era "impossível" as sugestões da Dra. Buckmaster terem influenciado o sistema.

Os medos da Dra. Buckmaster destacam um problema mais amplo que afeta qualquer pessoa que use tecnologias de IA operadas por OpenAI, Anthropic, Google e Meta. À medida que as pessoas inserem informações privadas nesses sistemas, elas podem estar alimentando tecnologias futuras. Oren Etzioni, professor da Universidade de Washington, avisou que não se pode assumir que uma ideia simplesmente some em vastos dados sem impacto.

OpenAI permite que os usuários desativem uma configuração que alimenta dados em novas tecnologias. Aneesh Muppidi, pesquisador de IA da Universidade de Stanford, observou que embora os dados possam ser usados para treinar novos sistemas, nem todos os dados são incluídos. Empresas e organizações de pesquisa frequentemente negociam contratos impedindo OpenAI de usar seus dados privados para treinamento.