Y CombinatorのCEO Garry Tan 氏は、米国のオープンウェイトAIラボがフロンティアモデルを蒸留すべきだと考えている。「私は何もしないだろう」と同氏はCNBCに語り、「アメリカの蒸留制度があるべきだと主張することもできる」と付け加えた。同氏はTechCrunchに対し、小規模な米国のオープンウェイトAIラボが米国のフロンティアAIラボに対して同じトレーニング手法を用いるべきだと詳しく説明し、それによって米国は中国製ではない、より堅牢なオープンウェイトの選択肢を得られると述べた。

蒸留とは、モデル開発者が別のモデルを大量にプロンプトして、その仕組みや推論方法を学習することである。これはAIラボが新しいモデルのトレーニングを支援するために、一般的かつ合法的に使用されている。Anthropic は今週、中国のラボが「不正な蒸留攻撃」を行っていると主張する2番目の報告書を発表した。彼らは身元を隠して許可なく蒸留し、詐欺や盗まれた認証情報に依存しているという。AnthropicのCEO Dario Amodei 氏は以前、米国の規制当局に蒸留の取り締まりを公に呼びかけていた。

Tan氏は米国のAIラボが盗まれた認証情報を使って蒸留することを提唱しているのではない。彼は彼らが正面玄関から自由に入れるようにしたいのだ。彼の主張は二つある。AIラボが顧客に対してモデルが共有する情報で何ができるかを指示するのは越権行為であり、プロプライエタリなAIラボはモデルのトレーニングのために人間の知識を吸い上げたときに許可を求めなかったということだ。

「ユーザーや顧客がクローズドウェイトモデルへのAPI呼び出しで何をするかを制御するのは制約的に感じる」と同氏はTechCrunchに語った。Tan氏はオープンウェイトAIラボとフロンティアラボの間のバランスを望んでいる。彼にとって、真のAIドゥーマーシナリオは、フロンティアAIの計り知れない力がすべて単一の強力なプロプライエタリプロバイダーの手に渡ることだ。「悪夢のシナリオ、AIのドゥーマーシナリオは、企業が一つしかないことだ」と彼は述べた。

主要エンティティ：企業：Y Combinator、Anthropic、CNBC、TechCrunch | 人物：Garry Tan、Dario Amodei | 場所：米国、中国、Silicon Valley

FAQ：AIにおける蒸留とは何ですか？

蒸留とは、モデル開発者が別のモデルを大量にプロンプトして、その仕組みや推論方法を学習することです。これはAIラボが新しいモデルのトレーニングを支援するために、一般的かつ合法的に使用されています。