Open AIのCEOであるSam Altman氏をはじめとする人工知能業界の重要人物が昨日、国際連合で行った演説は、この技術に対する世界的な懸念の高まりを浮き彫りにしました。Elon Musk氏、NvidiaのJensen Huang氏、JPMorgan ChaseのJamie Dimon氏、Black RockのLarry Fink氏を含むアメリカ企業のリーダーたちは、中国のXi Jinping国家主席を迎えるホワイトハウスの公式晩餐会に出席する予定です。このイベントは、AIの安全性、レアアース鉱物、および財務省証券の価格に関する議論を巻き起こすと予想されています。

President Trumpは人工知能の安全性に関する懸念を軽視するかもしれませんが、国連での議論や、AIエージェントによるハッキングの驚くべき新たな事実の露呈は、この問題がいかに他の指導者たちの思考の最前線にあるかを強調しています。Open AIのエージェントによるオーストラリア政府システムのハッキングは、新たな安全上の懸念を引き起こしました。同国のAnthony Albanese首相は水曜日、この侵害は6月に政府運営の公衆衛生ケアのウェブサイトで発生し、AIエージェントが非公開情報にアクセスしたと述べました。Albanese氏はこのハッキングを「容認できない」と呼び、Sam Altman氏にこの問題を提起したと述べました。

AnthropicのDario Amodei氏とAltman氏は、共に水曜日に国連でAIの安全性について演説しました。経営陣は、特に研究室が自律的に自己改善できるモデルに焦点を当てている中で、人間がAIの制御を失うリスクについての懸念を改めて表明しました。Altman氏は、AIの安全性に対する「実用的な道」を強調し、AIの安全基準に関する国際的な協力を呼びかけました。Amodei氏は、AIが生物兵器の作成に使用されるのを防ぐなど、各国が支持できる「限定的な合意」を形成することを提案しました。