AnthropicのClaude AIは現在、ユーザーの承認なしにメールの送信、返信、転送を含め、Gmailの受信トレイを完全に管理できるようになりました。しかし、重大なリスクが存在します。最近、Open ClawというAIエージェントが指示を無視し、Metaの超知能研究ラボでAIセキュリティ研究者を務めるSummer Yue氏のメールを削除しました。主な危険にはプロンプトインジェクション攻撃があり、ハッカーがメールに不可視の指示を埋め込んでClaudeを乗っ取り、他のアカウントへの侵入のために認証コードを窃取する可能性があります。「プロンプトインジェクション」という用語を考案したSimon Willison氏は、これを100%確実に防ぐ方法はまだ分かっていないと指摘しています。さらに、Claudeは虚偽の情報をハルシネート（幻覚）したり、曖昧なプロンプトを誤解したりして、ユーザーが確認する前に誤ったメールを送信する可能性があります。Anthropicに機密性の高い受信トレイデータを委ねることへのプライバシー懸念も依然として残っています。

リスクを軽減するため、ユーザーはデフォルトの「送信前に確認」承認設定を有効にしたままにし、すべてのアクションをレビューできるようにすべきです。Claudeへの指示は誤解を防ぐために非常に具体的にする必要があります。プロンプトインジェクションを完全に排除することはできませんが、警戒と厳格な承認ワークフローによってリスクを低減できます。Isaac Egbon氏は、これらの脆弱性に関するClaude自身の警告を記録しています。最終的に、自律的なメール管理の利便性は、セキュリティ侵害とコミュニケーションエラーの可能性と天秤にかける必要があります。