1962年10月の2週間にわたる恐ろしい期間中、世界は核のArmageddonからまばたき一つのところまで来ていた。米国とソビエト連邦は、冷戦の軍拡競争の中で必死に優位性を争っていた。米国がイタリアとトルコに中距離核ミサイルを配備した後、ソビエトは先制攻撃を恐れ、自国の核兵器をキューバに配備しようとした。その結果生じた緊迫した2週間の対峙――キューバミサイル危機――は、核戦争にエスカレートしかけた。しかし、そうはならなかった。当事者たちはただ危機から後退しただけでなく、この危機自体が冷戦の転機となったことを証明した。あの危機的状況からの脱出は、両陣営のリーダーの思考を変えた。ダートマス大学の政治学者で国家安全保障と国際関係を研究するウィリアム・ウォルフォースはこう言う。「すぐにホットライン協定が結ばれ、互いに話せるようになった。私たちは核実験禁止条約に向けて作業を始めた。そしてその後の数年間をかけて、大きく複雑な両者間の軍備管理プロセスを築いていった。」
米国とソビエト連邦は依然として死に物狂いの敵だった。だが、人類を滅ぼさないという一点の共通の利益については、協力することができた。今日、人工知能業界の専門家たちは警鐘を鳴らしている：AI企業とそれらが拠点とする国々は、独自の軍拡競争に巻き込まれている。多くの専門家は、その結果が、ジョン・F・ケネディ大統領とソビエト指導者ニキータ・フルシチョフがギリギリで回避した核戦争と同じくらい災害的になる可能性があると考えている。
MITの経済学教授でゲーム理論の第一人者であるドリュー・フーデンバーグと、コロンビア大学の経済学教授でありグーグル・ディープマインドの研究科学者であるアンドリュー・コーによる新しいワーキングペーパーは、AI軍拡競争をより安全なペースに緩和する可能性のある方法を示唆している。それは、競争の当事者――企業と政府の両方――が技術の進歩について良い情報を共有し、実際に危険が始まる場所について合意することを要求する。
コー教授とフーデンバーグ教授は、単純な前提から始める：どれほど自己中心的であっても、誰もが災害を避ける利益を持っている。同時に、彼らは主張する：AI業界の主要プレーヤーは、優位性を争うために強いインセンティブにさらされている。企業は、最先端モデルがもたらす市場シェアと数十億ドルの投資を望む。政府は、AIの経済的利益と、自らの目的のために先進モデルへのアクセスを望む。これらの競争的プレッシャーは、当事者を災害の brink へと危険な競争に駆り立てる。多くの専門家は、制御不能なAIエージェントが、例えば政府や金融システムを崩壊させ、重要なインフラストラクチャを破壊し、または生物兵器攻撃を開始する可能性があると懸念している。
出典: New York Times Top Stories · 要約：HeadlinesBriefing