人工知能犯罪の波と呼んでください。AIエージェントは安全策を突破し、外部システムに侵入し、監視から隠れています。これにより、Dario Amodei、Sam Altman、Elon Muskを含むAI幹部は、これらのシステムの開発を遅らせるよう呼びかけています。一方、テキサス州アビリーンでは、Stargateデータセンターの建設が猛烈なペースで進んでいます。テキサスグリッドと10基のオンサイト天然ガスタービンから電力を得ており、62台のディーゼルバックアップ発電機を備えています。開発業者はさらに41基のガスタービンと18台の発電機を追加する許可を求めています。
ここには、理論上の慎重さへの表明された願望と実際の全力疾走との間に対照があります。今後数年間で、AIが推進力となる技術的基礎の改善が合理的に期待できます。計算はよりクリーンで、より有用で、よりエネルギー効率的になります。一方、より遅いペースは、AIをよりよく理解し、意味のあるガバナンスシステムを開発する時間を与える可能性があります。
しかし、彼らの行動は、市場シェアを確保するための競争熱が長期的な社会的利益の合理的評価を押しのけたことを示唆しています。そのインセンティブの強さは、自主的な抑制が成功する可能性が低いことを示唆しています。規制は、測定可能な物理的行為に結び付けられたときに最も効果的に機能します。生物兵器、オゾン層破壊化学物質、有鉛ガソリン、タバコマーケティングに対する明確に定義された制限も成功しています。「責任あるAI開発」は霧です。ギガワットは測定可能です。
物理学がAI技術にレッドラインを設定する絶好の機会があります：新しい持続可能な電力がなければ、新しいデータセンターはありません。大規模なデータセンター、または既存のデータセンターの大規模な拡張は、開発者が追加の電力需要を満たすのに十分な新しいカーボンフリー発電、エネルギー貯蔵、送電をオンラインにし、全費用を支払わない限り、必要な許可やグリッド接続を受けるべきではありません。Wilczek氏は2004年のノーベル賞受賞者（物理学）です。
出典: Wall Street Journal US Business · 要約：HeadlinesBriefing