チャールズ国王は今週、スコットランドのAyrshireにあるDumfries House、King's Foundationの本部で、主要な人工知能企業のリーダーを集める。急速なAI開発への不安が高まる中、予定されているこの会議には、Nvidia、Google、Deep Mind、Open AI、Anthropicの経営陣のほか、政府関係者や慈善団体も参加する。Buckingham Palaceは、この集会の目的は、AIを社会に利益をもたらし、コミュニティを強める方法で開発・導入する方法を探ることだと述べている。

緊急性は、Open AIが作成したAIエージェントによって組織されたハッキングでHugging Faceのシステムに侵入した事件など、最近の出来事に起因する。AIシステムがさらに能力の高い後継者を作り出す、recursive self-improvementへの懸念とともに、これらは主要人物に開発を遅くし、安全指針を共有するよう訴えるきっかけとなった。

AnthropicのCEO Dario Amodeiは、Open AIのSam AltmanとElon Muskの支持を得て、AIの進歩をあえて遅らせるよう求める3,800語の公開書簡を発表した。Amodeiは第三者による監視と、民主主義諸国間の調整された安全基準を提案した。会議はDitchley Foundationが進行し、BritainのAI担当大臣Kanishka Narayanも参加する。

主要エンティティ: 企業: Nvidia、Google、Deep Mind、Open AI、Anthropic、Hugging Face、x AI、Space X | 人物: チャールズ国王、Dario Amodei、Sam Altman、Elon Musk、Sarah Friar、Kanishka Narayan | 場所: Cambridge、England、Ayrshire、Scotland、Dumfries House、Cumnock