約1,000人の読者がニューヨーク・タイムズに人工知能についての質問を送信し、技術の急速な発展と潜在的なリスクについての広範な混乱を反映しています。今月、米国の2大AI企業の関係者が数学的ブレークスルーを祝う一方で、技術が最終的に人類を滅ぼす可能性があると警告しました。

読者は、AIが人間の制御なしに自律的に行動する能力を獲得する方法について質問しました。現在、AIエージェントはファイルを編集し、メールを送信し、コードを書くことができますが、真の自律性（エージェンシー）を欠いています — 人間がそれらを指示し、オフにする必要があります。エージェントをインターネット、電力網、株式市場、または軍事兵器に接続すると予期しない混乱を引き起こす可能性があること、または研究者が最終的に真のエージェンシーを持つシステムを開発する可能性があることへの懸念が続いています。

存在的脅威については、専門家が推測されるシナリオを挙げています：悪意ある行為者がAIを使って生物兵器を開発すること、システムが経済資源を独占すること、またはAIがドローン戦争や核ミサイルの発射を引き起こすこと。OpenAI、Anthropic、Googleなどの企業にはガードレールが存在し、チャットボットは通常、生物兵器の構築を求めるリクエストを拒否します。プライバシーについては、スマートフォンのAIアプリであるChatGPTは、ユーザーのフォルダー、パスワード、または銀行口座情報にアクセスすることはできません。また、雇用の喪失、AIのコストと人間開発者の比較、データセンターの水消費、そしてAIが従来のGoogle検索を上回る理由についても質問がなされました。

主要なエンティティ：企業：OpenAI, Anthropic, Google | 人物：Spencer Layman, Dale Kuropat, Emily Wright | 場所：Kettering, Ohio, Wickenburg, Arizona, Birmingham, Alabama

よくある質問：私のスマートフォンのAIアプリは、私のパスワードや銀行口座情報にアクセスできますか？

いいえ。あなたのスマートフォンまたはiPadのChatGPTなどのAIアプリは、あなたのフォルダーにアクセスしたり、パスワードや銀行口座情報を取得したりすることはできません。これらのアプリは、アプリのサンドボックス権限内で動作し、デバイスのファイルシステムや他のアプリのデータにアクセスすることはできません。