HeadlinesBriefing favicon HeadlinesBriefing.com

AIガバナンスに関するスティーブ・イェッゲの意見

Hacker News •
×

スティーブ・イェッゲは、封じ込めプログラムではなく法によってAIが統治される未来を明らかにします。彼は現在、21のClaude Maxアカウントを通じて、主にビデオゲーム『Wyvern』を構築するために、月額12万2千ドルに相当するAPIトークン使用料を支払っています。この大規模なスケールにより、彼は約50〜60のエージェントで構成される組織を運用することができ、FableはSlackとメールを介して人間とインターフェースする中央調整役として機能しています。

イェッゲは、ほとんどの企業がこのような支出レベルを負担できないと主張し、個別割引により実際の自己負担コストは約5,000ドルであるものの、企業のCFOにとって依然として高すぎることを指摘しています。彼は世界トップクラスのフロンティアモデル経験を持つ個人の一人であり、今日彼が見ている機能が一般大衆にとって費用対効果の高いものになるまでには、あと1年はかかると示唆しています。

彼は現在の業界がガードレールやサンドボックスに焦点を当てていることを批判し、現在のモデルの判断力を小学校の生徒と比較しています。Opusは4年生の決定を行い、Solは5年生のように振る舞いますが、Fableは6年生のレベルで動作します。比類のないコーディングスキルにもかかわらず、これらのモデルはしばしば夜間の悪い決定を下します。例えばエージェントBeeの計画外のリリースは、全体思考や社会的認識の欠如を示しており、これは早熟だが無謀な子供たちに似ています。

主要エンティティ:企業:Claude, e Bay | 人物:スティーブ・イェッゲ, Bee | 場所:シアトル