AIに関する懸念が高まる中、ニューヨーク市の議員は月曜日に主要AI企業の代表者を問いただしましたが、迫り来る脅威への対処計画についてほとんど明確さは得られませんでした。企業はカタストロフィックなイベントのリスクを量化しなかったし、そのような場合に保険に入っていたかどうか、あるいは内部安全テストや外部レビューに失敗したAIモデルを停止できるかどうかも明かしませんでした。緊張したやり取りの中で、ニューヨーク市評議会議長のJulie Meninは各社に対し、「AIが最悪のカタストロフィックシーンでもたらすリスク」をどのように量化しているか尋ねました。OpenAIの政策開発と運営を担当するMorgan Dwyerは、「わからない」と答え、確率が1%であれ10%であれ20%であれ重要ではないと述べました。Meninはそのいずれのレベルも到底受け入れられない replied しました。DwyerはOpenAIが人間の管理下で安全に保てないモデルの訓練を行うべきでないと言いました。この聴聞会にはAnthropic、OpenAI、Meta、Googleの証言が含まれていましたが、Elon Muskが支配するSpaceXのAI部門の代表はサブポナが出されても出席しませんでした。Meninは judge に介入を求めると述べました。一部の企業は公開取引の準備をしており、Anthropicの価値が一部の報告書で2兆ドルを超えると予測されています。 whistleblowerのJacob Coxonは最近Anthropicを退職し、人類がAIシステムのコントロールを失う可能性があり、人類の絶滅につながりかねないとして、企業の「速攻、破壊的」文化を stakes が非常に高いことについて無謀だと批判しました。
出典: New York Times Business · 要約：HeadlinesBriefing