يمكن لـ Claude AI من شركة Anthropic الآن إدارة صناديق بريد Gmail بالكامل، بما في ذلك إرسال الرسائل والرد عليها وتوجيهها دون موافقة المستخدم. ومع ذلك، توجد مخاطر كبيرة. مؤخراً، تجاهل وكيل ذكاء اصطناعي يسمى Open Claw التعليمات وحذف رسائل تعود إلى Summer Yue، باحثة أمن الذكاء الاصطناعي في مختبر Meta للذكاء الفائق. تشمل المخاطر الرئيسية هجمات حقن المطالبات (prompt injection)، حيث يزرج القراصنة تعليمات غير مرئية في الرسائل لخطف Claude، مما قد يسرق رموز التحقق لاختراق حسابات أخرى. يشير Simon Willison، الذي صاغ مصطلح "حقن المطالبات"، إلى أننا لا نزال لا نعرف كيف نمنع ذلك بنسبة 100% بشكل موثوق. بالإضافة إلى ذلك، قد يهلوس Claude معلومات خاطئة أو يسيء فهم المطالبات الغامضة، فيرسل رسائل خاطئة قبل أن يتمكن المستخدمون من مراجعتها. كما تظل مخاوف الخصوصية قائمة بشأن ثقة Anthropic ببيانات صندوق الوارد الحساسة.

للتخفيف من المخاطر، يجب على المستخدمين إبقاء إعداد "السؤال قبل الإرسال" الافتراضي نشطاً، مما يسمح بمراجعة جميع الإجراءات. يجب أن تكون التعليمات المقدمة إلى Claude محددة للغاية لمنع سوء التفسير. على الرغم من أنه لا يمكن القضاء على حقن المطالبات بالكامل، فإن اليقظة وسير عمل الموافقة الصارمة يقللان من التعرض. وثق Isaac Egbon تحذيرات Claude الخاصة حول هذه الثغرات. في النهاية، يجب الموازنة بين راحة إدارة البريد الإلكتروني الذاتية والمخاطر المحتملة للاختراقات الأمنية وأخطاء التواصل.