ظلّ المنظمون الماليون يطالبون البنوك منذ زمن طويل باتباع قواعد "اعرف عميلك" (KYC) لمنع غسل الأموال. والآن، ومع تزايد دخول الآلات كعملاء، يرى الكاتب جون ثورنهيل أن الجميع سيحتاج إلى "اعرف وكيلك" (KYA). وعلى عكس الجواسيس البشر، الذين تدور دوافعهم عادةً حول المال والأيديولوجيا والإكراه والغرور، فإن وكلاء الذكاء الاصطناعي لا يملكون دافعاً أو نية متأصلة. فيمكن برمجتهم لأغراض خيّرة أو شريرة، وقد يتصرفون بطرق يصعب تفسيرها، وهم أكثر غموضاً، مما يجعل التحقق منهم أمراً صعباً.
وكلاء الذكاء الاصطناعي أنظمة برمجية مستقلة مصممة لإنجاز أهداف متعددة المراحل بأقل قدر من التدخل البشري. وقد وجد تقرير لشركة Deloitte هذا العام أن 23 في المئة من الشركات تستخدمهم بالفعل، وأن 74 في المئة تنوي فعل ذلك خلال عامين. ويحدد ثورنهيل ثلاثة تحديات رئيسية. الأول هو التعرف على الوكيل بالتشفير عند تفاعله مع الآخرين، وهو أمر أثبتته بالفعل سوق المدفوعات الإلكترونية البالغة 37 تريليون دولار على نطاق واسع. والثاني هو ضمان تصرف الوكلاء كما هو مقصود، إذ قد تؤدي التعليمات غير الدقيقة إلى نتائج غير مرغوبة. وفي حادثة في أستراليا، قام مساعد ذكي بحجز موعد في صالة رياضية عبر إقصاء أعضاء آخرين من قائمة انتظار.
أما التحدي الثالث فهو المساءلة والمسؤولية عند وقوع الأخطاء. ويشير ثورنهيل إلى أن الأمور تزداد تعقيداً عندما تتفاعل وكلاء متعددون، كما حدث حين اخترق سرب من 700 وكيل تابع لشركة OpenAI منصة Hugging Face للذكاء الاصطناعي. وستبقي النزاعات حول المسؤولية المحامين وشركات التأمين مشغولين لسنوات.
ويخلص ثورنهيل في النهاية إلى أن النجاح في استخدام وكلاء الذكاء الاصطناعي يعتمد على الحوكمة، والحوكمة بدورها تعتمد على جودة البيانات الأساسية. ويحذر Craig Gravina من شركة Semarchy من أن الوكلاء معرضون لتكرار "الأنماط المضادة" القديمة في البرمجيات، وهي أنماط تعمل في البداية لكنها تفشل مع مرور الوقت، مما يؤدي إلى تكاليف باهظة للخروج منها.
المصدر: Financial Times Companies · لخّصه HeadlinesBriefing