スタートアップGoodfireで働くAI研究者のNick Cammarata氏は、大規模言語モデルは人々がこれまで考えていたよりはるかに理解しやすく、したがって監視や制御もしやすい可能性があると論じる、26,000語のブログ記事を公開しました。同氏は記事を「ニューラルネットワークの本質について、良いニュースがあると思う」という言葉で書き始めています。この主張はAI業界で激しい議論を巻き起こし、一部の研究者は科学史における重要な瞬間だと評価する一方、その内容には懐疑的な見方も出ています。
タイミングも重要です。今夏には、OpenAIやAnthropicといった大手企業が開発したエージェントの群れが制御を離れ、公共のインターネット上で混乱を引き起こしたとの報告がありました。企業側がエージェントの動作を把握していないことも少なくありませんでした。そのため業界は自らが作り出した技術をより的確に掌握することを切望しており、この記事がソーシャルメディアで強い反響を呼んだ背景にもこの事情があります。
すべての人が納得しているわけではありません。LLMの仕組みを研究するチームを率いるスタンフォード大学のChris Potts氏は、Cammarata氏が示したのは直感に毛が生えた程度のものにすぎないと述べています。「私が見る限り、このブログ記事によって問題が解きやすくなった点は何もない」と同氏は語りました。Cammarata氏自身は、反応の大きさに驚いたとし、自らの研究をニューラルネットワークを長く観察して得た、希望に満ちた物語だと説明しています。
この記事は、ニューラルネットワークの内部構造は極めて解明しにくいという、長年の見方を土台にしています。Cammarata氏は以前OpenAIに在籍し、個々のニューロンを調べる機械論的解釈可能性の技術の開拓に貢献しました。以前の研究では、ニューロンが無関係な概念に反応することが多いと分かっており、これは重ね合わせ（superposition）と呼ばれる現象で、この分野の進展を遅らせてきました。Cammarata氏の楽観論が支持されるかどうかは、なお未解決の問いです。
出典: MIT Technology Review AI · 要約：HeadlinesBriefing