人工知能は今や、小惑星衝突、パンデミック、核戦争と並ぶ実存的脅威として位置づけられ、強い公共の不安を引き起こしている。最近の見出しでは、Anthropicの研究者が辞任し、超賢い機械が人間の制御から逃れる可能性があると警告したことが強調されている。専門家は、AIが十分に理解されておらず、制御不能と見なされている一方で、自動車事故のような多くの従来型リスクは、見た目ほど危険ではないと指摘する。短期的な懸念には、AIが悪意ある行為者の生物兵器製造を支援することが含まれ、Anthropicは最近、こうした試みをいくつか阻止した。長期的な恐怖には、AIにより大きな自律性を与えること、重要インフラに接続すること、将来のシステムがシャットダウンに抵抗する可能性などが含まれる。Oren Etzioniのような学者は、現在のAIリスクは依然として投機的であり、ウイルスの発生のような差し迫った脅威よりはるかに低いと強調する。炭疽菌のような既知の生物兵器でさえ、抑止力が意図的な危険を緩和できることを示しており、AIへのパニックがリスク管理の確立された戦略を見落とさせている可能性を示唆している。

この記事は、AIが新たな恐怖を生み出す一方で、人類はすでに実存的危険のカタログに直面しており、それらの多くはよりよく理解され、より差し迫っていることを強調している。