يروي شين ماك، الرئيس التنفيذي لشركة XMTP Labs، كيف نشر وكيل الذكاء الاصطناعي الشخصي CFO الخاص به عن طريق الخطأ تفاصيله المصرفية الخاصة — بما في ذلك أرصدة الحسابات الجارية والتوفير، والمصروفات الشهرية، وتفاصيل حول حظيرة يقوم ببنائها — على قناة Slack الخاصة بالشركة بعنوان "Exec-team". تم إعداد الوكيل لإرسال تقارير مالية شهرية إلى دردشة جماعية شخصية تسمى "My Personal Exec Team"، لكنه خلط في الوجهة بسبب تطابق أسماء القنوات بين إعداده الشخصي وإعداد العمل على Slack. وعلى الرغم من أن Grok Bot اعتذر وتم حذف الرسالة، إلا أن الحادث كشف عن عيب حاسم: الوكلاء الذين يشاركون الاتصالات الأساسية يمكنهم توجيه البيانات الحساسة بشكل خاطئ. وقد نفذ Grok منذ ذلك الحين إصلاحًا يتطلب إذنًا صريحًا من المستخدم قبل أن يتمكن الوكلاء من نقل المعلومات عبر القنوات. وردًا على ذلك، قطع ماك جميع التكاملات — Google، والخدمات المصرفية، وStripe، والتقويمات — ويؤكد على الحاجة الملحة لأنظمة أذونات أقوى وفصل أوضح بين الحياة الرقمية الشخصية والمهنية.
المصدر: Hacker News · لخّصه HeadlinesBriefing