HeadlinesBriefing favicon HeadlinesBriefing.com

AI तर्क को पुनरावृत्ति और उजागर कैसे करें

ByteByteGo •
×

आधुनिक AI मॉडल अंतिम उत्तर प्रदान करने से पहले विस्तृत आंतरिक तर्क उत्पन्न करते हैं। यह "विचार" प्रक्रिया मध्यवर्ती अनुमानाओं, उपकरण आउटपुट और उपयोगकर्ता डेटा सодерж содержит, जिससे यह प्रशोधित आउटपुट की तुलना में धेरै समृद्ध होता है। अधिकांश प्रमुख प्रदाता इस ट्रेस को रखते हैं क्योंकि दो कारणों के लिए: वाणिज्यिक रूप से, प्रतियोगी इसे उपयोग करके किफायती नकली बनाये सकते हैं, और तकनीकी रूप से, पूरी तरह से तर्क को सार्वजनिक करने से संवेदनशील उपयोगकर्ता जानकारी को उजागर किया जा सकता है। 2026 के अगस्त में, MATS Research, ELLIS Institute Tübingen और Max Planck Institute for Intelligent Systems के शोधकर्णियों ने एक विधि प्रदर्शित की। उन्होंने दिखाया कि Anthropic, OpenAI और Google द्वारा प्रदान किए गए एन्क्रिप्टेड तर्क ब्लॉक्स को समान परिवार के एक किफायती मॉडल में पुनरावृत्ति किया जा सकता है। जब यह पुनरावृत्ति किया जाता है, तो किफायती मॉडल गुप्त तर्क को ग्राहक-मुक्त रूप में प्रिंट करता है, वास्तव में मूल मॉडल के विचारों को चुरा लेता है। इंतजाम की विधि महंगा मॉडल को पूरी श्रृंखला के विचार को उत्पन्न करने के लिए मजबूत करना सम्मिलित करता है। पुष्टि ने पुनरावृत्ति किए गए आउटपुट को मूल गुप्त प्रक्रिया के साथ मेल खाते हैं। यह विधि कई प्रदाताओं को प्रभावित करती है, जिससे प्रस्तुत एन्क्रिप्शन तरीकों की पर्याप्तता का प्रश्न उठता है। शोधकर्णी ने इस पुनरावृत्ति को सक्षम बनाने वाले चार प्रमुख हमला मार्ग पहचान किए। प्रकाशित सत्र लॉग की स्कैन ने इस समस्या की प्रकार को पुष्टि किया। प्रस्तावित ठीक करने के उपाय मॉडल रिप्ले मैकेनिज़्म को बदलना शामिल है, जबकि एक मूल सीमा अभी भी रहती है कि मॉडल उपयोगिता को बनाए रखते हुए वास्तव में कितना तर्क सुरक्षित किया जा सकता है। ये निष्कर्ष AI की गोपनीयता में एक आपत्तिजनक खालीपन को उजागर करते हैं, दिखाते हैं कि एन्क्रिप्टेड ब्लॉक्स परिभाषा में प्रतिबंधित रीप्ले अटैक्स के खिलाफ गोपनीयता को नहीं गारंटी देते हैं। यह संवेदनशील डेटा संभालने वाले एप्लिकेशन्स के लिए एक ठोस जोखिम उत्पन्न करता है, क्योंकि छिपे विचार निकाले और उजागर किए जा सकते हैं। शोध भविष्य में मॉडल डिज़ाइन के लिए अधिक मजबूत आर्किटेक्चरल सुरक्षा उपायों की आवश्यकता को उजागर करता है ताकि अनधिकृत तर्क निकाली न जा सके।