HeadlinesBriefing favicon HeadlinesBriefing.com

2034年までにAIが私たちを殺すのを防ぐ方法 - 9to5Mac

9to5Mac •
×

Princetonの2人のコンピュータ科学者で『AI Snake Oil』の共著者らが、Anthropicの「10年以内にAIがすべての人類を殺す可能性が10%以上ある」という主張に応答した。OpenAIとAnthropicを退職したJacob Coxonは、両社がAIが10年末までに人類の絶滅を引き起こす可能性を知っていたと述べ、この主張は1億5600万人に閲覧された。AnthropicのAI安全リーダーであるEvan HubingerはCoxonの評価に同意し、AIがわずかに長い時間枠内で全人類を殺す可能性を信じており、超知能アライメントの計画がないと述べた。主なリスクには、水道や電力システムなどの重要インフラに対する破壊的なサイバー攻撃が含まれる。AIの誇大宣伝に対処することで知られるSayash KapoorとArvind Narayananは、アライメントだけでは不十分であると主張し、制御(サンドボックス化、監視)、下流防御(AIによるAIへの防御)、回復力(復旧計画)を含む階層型安全アプローチを提案している。彼らは、緊急の行動がリスクを減らし、サイバーセキュリティのバランスを防御者側に移すことができると信じている。