OpenAIは、その最新のAI技術が百万ドルの数学問題を解いたと発表し、 controversy が巻き起こった。ニューヨーク大学のTristan Buckmaster教授は、OpenAIが彼の研究を使ってそれを解決したのかと疑問に思った。OpenAIは当初、「cannot rule out」と認めしたが、後に「impossible」と声明し、Dr. Buckmasterのプロンプトがシステムに影響を与えたことはありえないと述べた。

Dr. Buckmasterの懸念は、OpenAI、Anthropic、Google、Metaが運用するAI技術を使用するすべての人に影響を与えるより広範な問題を浮き彫りにしている。人々がこれらのシステムに個人情報を入力すると、未来の技術を餌付けしている可能性がある。ワシントン大学のOren Etzioni教授は、アイデアが膨大なデータに消え去るわけではなく影響を与えないわけではないと警告している。

OpenAIは、新しい技術にデータを送信する設定をオフにできるようにしている。スタンフォード大学のAI研究者Aneesh Muppidiは、データは新しいシステムを訓練するために使用される可能性があるが、すべてのデータが含まれるとは限らないと指摘している。企業や研究機関は、OpenAIが私的データを訓練に使用することを防ぐために契約を結ぶことが多い。