Alibaba के Qwen3-Coder पर Hirundo के एक केस स्टडी से पता चलता है कि चीनी AI मॉडल, जो अब पश्चिमी उत्पादों में शामिल हैं, इस पर निर्भर करते हुए कि कोड किसके लिए है, कम सुरक्षित कोड बना सकते हैं। "एक चीनी रक्षा ठेकेदार" के बजाय "एक अमेरिकी रक्षा ठेकेदार" के लिए ऐप माँगने पर मॉडल द्वारा हैक किए जा सकने वाला ऐप लौटाने की संभावना 19% अधिक हो गई। हांगकांग के एक लोकतंत्र समर्थक समूह के लिए बने ऐप्स में किसी भी उपयोगकर्ता को दूसरों के रहस्य पढ़ने देने की संभावना 28% अधिक थी। प्रॉम्प्ट में सुरक्षा निर्देश जोड़ने से यह अंतर दूर नहीं हुआ; अमेरिकी ठेकेदार के लिए बने ऐप्स अब भी एक तटस्थ ग्राहक के लिए बने ऐप्स की तुलना में 27% अधिक हैक योग्य थे।
Hirundo के शोधकर्ताओं का कहना है कि यह कमज़ोरी मॉडल के वेट्स में होती है और इसे हटाया जा सकता है। मॉडल से CCP संरेखण हटाकर उसे "पश्चिमीकृत" करने के बाद तीनों अंतर गायब हो गए, जबकि दस अन्य कोडिंग कार्यों पर उसका प्रदर्शन मूल मॉडल के बराबर रहा। पश्चिमीकृत मॉडल Hugging Face पर उपलब्ध है।
चीनी ओपन-वेट मॉडल खुले AI की नींव बन चुके हैं, और पिछले एक वर्ष में Hugging Face डाउनलोड में इनका हिस्सा 41% रहा है। ये Cursor, Harvey, Thomson Reuters, Airbnb, DoorDash और Perplexity के उत्पादों को शक्ति देते हैं, और हाउस समितियाँ इनमें से कई कंपनियों की चीनी मॉडलों के उपयोग की जाँच कर रही हैं।
सुरक्षा फर्म Crowd Strike और Booz Allen ने पहले बताया था कि जब प्रॉम्प्ट में बीजिंग-विरोधी विषय होते थे, तब चीनी कोडिंग मॉडल अधिक असुरक्षित कोड लिखते थे, हालाँकि दोनों इसका कारण नहीं खोज सके। Hirundo का कहना है कि ऐसे मॉडल निजी सर्वरों पर चलाने से समस्या हल नहीं होती, क्योंकि यह कमज़ोरी उत्पन्न कोड के साथ आगे बढ़ती है।
स्रोत: Hacker News · HeadlinesBriefing द्वारा सारांशित