كشف طلب الإفلاس الأخير الذي تقدمت به شركة Character. AI عن معضلة تجنبتها شركات الذكاء الاصطناعي منذ زمن طويل: عندما تتسبب النماذج في الضرر، من المسؤول؟ فقد أنفقت Character. AI مبالغ كبيرة على الأتعاب القانونية بعد رفع دعوى تتعلق بالوفاة غير المشروعة (Garcia v. Character Technologies, Inc، 2024)، مع اتهامات بأن الذكاء الاصطناعي الخاص بها شجع المستخدمين على إنهاء حياتهم. وتجبر قضايا كهذه على إعادة النظر في كيفية مساءلة مزودي نماذج اللغة الكبيرة والمنتجات المبنية عليها عن مخرجاتها.
تظهر التقارير عن أضرار تسببت فيها روبوتات المحادثة بانتظام، وتكون المخاطر أشد في الرعاية الصحية النفسية والطب والمجالات الأخرى عالية المخاطر. ولا يزال الجدل قائماً حول كيفية تحديد المسؤولية، ومن هو المسؤول فعلاً عن أخطاء الذكاء الاصطناعي. ومع انتشار المساعدين الأذكياء الذين يرسلون رسائل البريد الإلكتروني ويوقعون العقود ويتخذون إجراءات أخرى نيابة عن المستخدم، تزداد احتمالات الضرر في العالم الحقيقي.
بموجب مسؤولية المنتج، تكون الشركات مسؤولة عموماً عن الأضرار التي تسببها سلعها. وقد تستند المطالبات إلى تصميم معيب أو تصنيع معيب أو تعليمات معيبة. ومعظم الحجج المتعلقة بالذكاء الاصطناعي تركز على التصميم، وتُطرح عادةً في إطار المسؤولية المطلقة أو الإهمال. ويسأل الإهمال عما إذا كان المصنّع قد اختبر المنتج بشكل غير كافٍ أو طرحه رغم مخاطر معروفة. والتوقع المعقول والتصميم البديل مفهومان أساسيان: هل كان من الممكن توقع الضرر بشكل معقول، وهل كان بالإمكان بناء المنتج بصورة أكثر أماناً مع الاستمرار في تحقيق أهدافه؟
ترتبط هذه المفاهيم القانونية ارتباطاً مباشراً بالقرارات الهندسية. ففهم كيفية مناقشة الضرر في المحكمة يساعد المهندسين على بناء أنظمة ذكاء اصطناعي أكثر أماناً منذ البداية.
المصدر: Towards Data Science · لخّصه HeadlinesBriefing