先月下旬、Anthropicは報告書を発表し、中国企業Z.aiが8月に公開した強力なモデルGLM-5.3は、誰でも無料でダウンロードして改変できるため、重大なサイバー攻撃のリスクをもたらすと主張しました。この主張は、最先端のAIモデルはオープンにすべきか、それとも最先端の研究所の扉の内側に閉じ込めておくべきか、という長年の議論における最新の動きです。
この議論の多くは公の場で展開されており、その結果には多額の資金がかかっています。自社のハードウェアを購入してオープンモデルを動かす人が増えれば利益を得るNvidia CEOのジェンスン・ファンは、米国がより多くのオープンモデルを開発すべきだと熱心に主張しています。安価で強力なモデルによって事業が脅かされうるAnthropicのダリオ・アモデイは、より慎重なアプローチを提唱しています。ただし、こうした商業的な動機の背後には実質的な論点もあります。テキサス大学オースティン校のDavid Gray Widderが指摘するように、オープン性をどう捉えるかは、AI全般をどう捉えるかによって形作られるのです。
AIの安全性を懸念する人々は、オープンモデルが悪意ある者によって容易に悪用されうると警告しています。一方で、AIの実用的な可能性に注目する人々は、この力が少数の大企業の閉ざされた扉の内側に留まるべきではなく、オープンモデルによってより広く行き渡らせられると主張しています。選択肢はオープンモデルの全面禁止から自由な公開までさまざまであり、どのアプローチにも安全性と民主化のあいだのトレードオフが伴います。
オープンモデルには具体的な利点があります。ChatGPTやClaudeを動かすような非公開モデルは、ウェブサイト、アプリ、APIを通じてのみ利用できます。一方、オープンモデルはダウンロードでき、そのモデルの重みが公開されているため、自分のコンピュータで動かしたり、専門知識があれば再学習させたりできます。現在は非公開モデルの方が高性能で、Artificial AnalysisのLLMリーダーボードの上位8モデルはすべて非公開ですが、オープンモデルとの差はわずか数か月です。研究者は、内部の動作や思考の連鎖を観察し、組み合わせ、圧縮し、ファインチューニングするためにオープンモデルに依存しています。企業にとっても、オープンモデルを選ぶ理由があります。
出典: MIT Technology Review AI · 要約：HeadlinesBriefing