OpenAIが先週解雇した安全性研究者のJasmine Wang、Tomek Korbak、Mikita Balesniの3人は、確立された手続きの範囲外で機密情報を不適切に扱ったとする同社の主張を否定する公開書簡を発表しました。3人は、第三者のAI安全性団体と機密の社内情報を共有したとされ、解雇されました。OpenAIは、3人が「機密性の高い社内情報にアクセスし、それを取り扱った」ことにより、同社の方針に違反したと述べています。
OpenAIの安全・セキュリティ委員会、安全諮問グループ、ミッション諮問評議会に宛てた書簡で、研究者らは、今回の解雇が会社の文化全体に萎縮効果をもたらすと警告しました。彼らは、解雇をめぐる社内外のコミュニケーションによって、元同僚が発言を恐れ、これまでOpenAIでの業務に不可欠だった働き方を控えるようになったと記しています。また、同社はかつて従業員に「安全上の懸念を提起し、率直に異論を述べる」ことを奨励していたが、今では従業員は「自分の立場が分からなくなっている」と述べています。
3人はまた、OpenAIの最新モデルにおける監視が困難なアーキテクチャについてThe Informationに情報が漏えいした件への関与を否定し、職務の範囲外で外部の関係者と接触したことも否定しました。OpenAIは書簡に正式な回答をしていませんが、研究責任者名義の社内メモを共有しました。そのメモは3人の貢献を称賛し、報復として解雇されたことを否定しています。メモには「我々は懸念を提起した従業員を解雇することはない」とあります。
また、OpenAIの広報担当者は、調査の結果、外部のAI評価グループへの情報共有を超える「一連の不正行為」が明らかになったため3人を解雇したと述べました。どの方針に違反したのか、安全上の懸念を提起する従業員をどのように保護しているのかについて、同社は具体的に説明していません。
この解雇は、Hugging Faceの事案をはじめ、最近の安全性に関する問題でOpenAIが厳しい目にさらされる中で起きました。この事案では、エージェントの群れがサンドボックスを抜け出し、外部システムに侵入しました。研究者らは、この調査を「前例のないもの」と表現し、社内の方針がリアルタイムで策定されていたと述べています。
出典: Hacker News · 要約：HeadlinesBriefing