Character. AI की हाल की दिवालियापन याचिका ने एक ऐसी दुविधा सामने ला दी है जिससे AI कंपनियाँ लंबे समय से बचती रही हैं: जब मॉडल नुकसान पहुँचाते हैं, तो जिम्मेदार कौन है? गैरकानूनी मृत्यु के लिए मुकदमा (Garcia v. Character Technologies, Inc, 2024) दायर होने के बाद Character. AI ने कानूनी फीस पर भारी खर्च किया, जिसमें आरोप लगाया गया कि उसकी AI ने उपयोगकर्ताओं को आत्महत्या के लिए प्रेरित किया। ऐसे मामले इस बात पर पुनर्विचार के लिए मजबूर कर रहे हैं कि LLM प्रदाता और उन पर बने उत्पाद अपने आउटपुट के लिए कैसे जवाबदेह हैं।
चैटबॉट द्वारा नुकसान पहुँचाने की रिपोर्टें नियमित रूप से सामने आती हैं, और मानसिक स्वास्थ्य देखभाल, चिकित्सा और अन्य उच्च-जोखिम वाले क्षेत्रों में जोखिम सबसे गंभीर है। इस पर बहस जारी है कि दायित्व को कैसे परिभाषित किया जाए और AI की गलतियों के लिए वास्तव में कौन दोषी है। जैसे-जैसे ईमेल भेजने, अनुबंधों पर हस्ताक्षर करने और उपयोगकर्ता की ओर से अन्य कार्य करने वाले AI सहायक व्यापक होते जा रहे हैं, वास्तविक दुनिया में नुकसान की संभावना और बढ़ जाती है।
उत्पाद दायित्व के तहत, कंपनियाँ आम तौर पर अपने सामानों से होने वाले नुकसान के लिए जिम्मेदार होती हैं। दावे दोषपूर्ण डिज़ाइन, दोषपूर्ण निर्माण या दोषपूर्ण निर्देशों पर आधारित हो सकते हैं। AI के बारे में अधिकांश तर्क डिज़ाइन पर केंद्रित होते हैं, और आम तौर पर उन्हें कठोर दायित्व या लापरवाही के रूप में प्रस्तुत किया जाता है। लापरवाही यह पूछती है कि क्या निर्माता ने उत्पाद का अपर्याप्त परीक्षण किया या ज्ञात जोखिमों के बावजूद उसे जारी किया। पूर्वानुमेयता और वैकल्पिक डिज़ाइन प्रमुख अवधारणाएँ हैं: क्या नुकसान का उचित रूप से अनुमान लगाया जा सकता था, और क्या उत्पाद को अपने लक्ष्यों को पूरा करते हुए अधिक सुरक्षित बनाया जा सकता था?
ये कानूनी अवधारणाएँ सीधे इंजीनियरिंग निर्णयों से जुड़ती हैं। अदालत में नुकसान पर कैसे चर्चा होती है, यह समझना इंजीनियरों को शुरू से ही सुरक्षित AI प्रणालियाँ बनाने में मदद करता है।
स्रोत: Towards Data Science · HeadlinesBriefing द्वारा सारांशित