HeadlinesBriefing favicon HeadlinesBriefing.com

AIキルスイッチの課題と議会の取り組み

New York Times Top Stories •
×

両党の議員団とカリフォルニア州知事ガビン・ニューサムは、暴走したAIシステムを瞬時に停止させるメカニズムの構築を提案したが、専門家はキルスイッチの実現が想定より難しいと述べている。AIシステムはしばしば複数のコンピュータとデータセンターに分散しており、単一の「プラグ」は存在しない。ジョージタウン大学のセキュリティと新興技術センターのヘレン・トナーは、そのようなシステムがハッカーの攻撃に対して脆弱であるか、あるいは自らスイッチを解体する可能性があると指摘した。対外関係評議会のヴィン・グエンは、キルスイッチのリスクをスマートフォンのバックドアに例えた。連邦法案が停滞している中、ニューサム知事は以前同様の法案に拒否権を行使した後、AIキルスイッチの研究を命じる行政命令に署名した。下院議員テッド・リューとナサニエル・モランは、キルスイッチ法案を後援しており、Open AI、Anthropic、Metaなどの主要研究所にシャットダウンメカニズムの組み込みを義務付け、人間によるAIの管理を強調している。