AIは金融危機を引き起こす可能性があるのか。この問いは、UN General Assemblyの期間中、New Yorkに重くのしかかっていた。一部の投資家がAI株のバブルやデータセンターの債務不履行を恐れる一方、UNGAの参加者の多くは別の疑問を提起した。悪意ある人間がAIを使って金融市場に壊滅的なサイバー攻撃を仕掛ける可能性があるのではないか、という問いだ。Bill Gatesは、AIは「圧倒的に」これまでに創造された最も危険な技術だと述べ、政府とテクノロジー企業に監視システムの導入を求めている。China-USの「ホットライン」は小さな一歩だが、はるかに多くのことが必要だ。

公衆の目から離れた場所で、監督当局は、エージェント型AIシステムを自ら使うことを含め、AIがもたらす金融リスクにどう対処するかを議論している。Cambridgeで開催されたデジタル規制に関する会議では、Agustín CarstensとAshley Alderが共同召集し、約300 teamsが初の世界的な“Agentic Regulator”ハッカソンに参加した。3つの教訓が見えてきた。監督当局は政治家を待つことができない。AIは立法機関よりも速いスピードで進んでいるからだ。彼らは既存の権限を創造的に使わなければならない。

規制当局はまた、「説明可能性」を再考する必要がある。透明性の確保を強制するのは難しいため、多くの当局はAIモデルの成果を追跡し、キルスイッチなどのガードレールを設置し、法的責任を明確化する方向へ移行している。Americaでは、Scott BessentがAnthropic’s Claude Mythos AI modelとサイバー上の脆弱性について議論するため、銀行家を招集した。Bank of Englandはクラウド企業を「重要な第三者」として監督し、BISはイノベーション実験を実施している。規制上のサイロを打破することは喫緊の課題だ。

主要なエンティティ: 企業: Microsoft, Gates Foundation, Bank for International Settlements, Financial Conduct Authority, Anthropic, Bank of England, BIS | 人物: Gillian Tett, Bill Gates, Agustín Carstens, Ashley Alder, Scott Bessent | 場所: New York, UN General Assembly, UNGA, China, US, Cambridge, America, UK