HeadlinesBriefing favicon HeadlinesBriefing.com

ダリオへの公開書簡:AIモデルの重みを公開リリース

Hacker News •
×

ダリオ様へ、あなたは今日『私たちはフロンティアのペースに合わせなければならない』を発表しました。その中でAnthropicはサードパーティの評価者を組み込むことを約束し、政府に他のすべてのフロンティア企業にも同じことを求めるよう要請しました。サム・アルトマンは数時間以内に同意しました。あなたは誠実だと信じているので、私はあなたに、たとえあなた自身に真の犠牲を強いるとしても、物事を本当に遅らせる別の法律を求めるようお願いしています。一般に提供されるあらゆるAIモデルは、オープンウェイトとしてリリースされなければなりません。これはあなたが訓練するすべてのモデルをカバーするわけではなく、あなたが一般に提供するモデルのみを対象とします。内部モデルと研究モデルは影響を受けず、政府はまだリリースされていないモデルにアクセスできます。しかし、AnthropicはFableのウェイトをリリース当日に公開しなければならず、Open AIはAstraについても同じことをしなければならず、その他のすべての企業も同様です。ご存知のように、フロンティアモデルの開発資金は、ウェイトが専有のままであるという仮定に基づく評価に依存しています。この仮定を変えることにより、将来のトレーニングランに使える資金を減らし、各ラボで同時に進歩を遅らせることができます。規制当局が何かを決定する必要はありません。あなたが求めてきたあらゆる規制は最終的に捕獲に終わります。規制によるフロンティアモデルの遅延で、規制捕獲を招かないものは存在しません。組み込まれた評価者、計算のしきい値、独占禁止法の免除を伴う業界調整。これらはすべて、現在のフロンティアラボの助けを借りて書かれています。なぜなら、他の誰も技術的な詳細を十分に理解してこれを書くことができないからです。これが法律になると、それはただより複雑になるだけです。なぜなら、毎回のインシデントがルールを追加し、どのルールも決して削除されないからです。大企業はコンプライアンスチームと弁護士を雇って対応する余裕があり、そして新しい要件が増えるごとに、他の誰かがそれに追いつくのはさらに難しくなります。あなたを遅らせるのではなく、これはあなたの地位と利益を守ります。なぜ私があなたにこれを求めるのか?あなたは善良で原則を守る人物のように見え、そしてあなたは自分が信じるもののために何かを犠牲にしてきた実績があります。あなたはOpen AIを離れ、安全が最初から組み込まれた会社を立ち上げました。そのとき、安全なキャリアの選択肢はそこにとどまることでした。あなたは何年も自分の業界の規制を求めてきて、そのために『ドゥームスター』や『規制捕獲者』と呼ばれてきました。あなたは自分の市場を縮小する輸出規制を支持しました。Anthropicは著者たちと和解するために15億ドルを支払い、闘い抜くことを選びませんでした。そして今日、あなたは誰よりも先に進歩を遅らせることを約束しました。さらにあなたは先見の明を持ち、Anthropicを公益株式会社(PBC)にしました。これにより、あなたは法的に使命を最優先にすることができます:人類の長期的な利益のために、先進的なAIの責任ある開発と維持。これはまさにPBC構造が存在する理由です——短期的な利益よりも使命を優先する決定のために。あなたはまだ、このような法律を提案し、真剣に受け止められる唯一の人物であり、そして実際にそれを実行する可能性が最も高い人物です。もしあなたが本当にフロンティアAIの進歩を遅らせたいのなら、一般に提供されるあらゆるAIモデルがオープンウェイトをリリースすることを義務付ける法律を求めてください。そこには悪用したり回避したりできるものは何もなく、たとえあなた自身であってもそうです。