संपादन: मुझे उम्मीद है कि किसी छोटे तरीके से इस पोस्ट ने इस परिणाम को प्रभावित किया है। प्रेरणाएँ: शायद आप एक Claude code/codex उपयोगकर्ता हैं जो LLM प्रदाताओं को व्यक्तिगत डेटा अपलोड करने से लगन से बच रहे हैं। क्या यह संभव है कि सबसे मूल्यवान जानकारी आपका डेटा नहीं है- बल्कि आपके सत्रों के बारे में मेटाडेटा है? AI को समस्याओं को हल करने के लिए मनाने के तरीके खोजने में आप जो अंतर्ज्ञान लागू करते हैं, वह वास्तव में विशेष हो सकता है। यह सांख्यिकीय रूप से असंभावित है, लेकिन Claude आपको गैसलाइट नहीं कर रहा हो सकता है। यह हो सकता है कि आपको वास्तव में एक वास्तविक अंतर्दृष्टि मिली हो! आपके एजेंट सत्र आपके द्वारा किए जाने वाले सबसे कठिन समस्याओं के प्रतिलेख हैं। अगर किसी के पास उनकी प्रतियां हों तो आपको क्या कीमत चुकानी पड़ेगी?

पिछले हफ्ते सार्वजनिक नाटक हुआ जो इस जोखिम पर प्रकाश डालता है कि अनुमान प्रदाता नए खोजों को वितरित करने के इरादे से उपयोगकर्ता गतिविधि पर प्रशिक्षण दे रहे हैं। प्रभावित गणितज्ञों ने फ्रंटियर प्रदाताओं की नैतिकता के बारे में चिंताएं प्रकाशित की हैं। यदि आप चूक गए: https://www.theverge.com/ai-artificial-intelligence/991710/openai-navier-stokes-solution

जब 'EDR' नैतिक विक्षेपण और इनकार बन जाता है: यह स्पष्ट हो गया है कि फ्रंटियर प्रदाता न केवल अविश्वसनीय हैं- बल्कि सक्रिय रूप से कपटी हैं। यदि आप अपने विचारों की रक्षा करना चाहते हैं, तो आप किसी और के हार्डवेयर पर अनुमान नहीं चला सकते। ऐसा प्रतीत होता है कि फ्रंटियर प्रदाता के साथ आप जो कुछ भी करते हैं, वह चोरी हो जाएगा। जब एक फ्रंटियर प्रदाता ने अपने वकीलों के साथ नेवियर-स्टोक्स समीकरण की स्थिति पर चर्चा की, तो उनके द्वारा लाई गई सबसे अच्छी रक्षात्मक रणनीति है "इससे इंकार नहीं किया जा सकता।" हम उनके प्रतिधारण या उनके प्रशिक्षण पाइपलाइन का ऑडिट नहीं कर सकते। जाहिर है वे भी नहीं कर सकते। इन लोगों को भागीदार नहीं माना जाना चाहिए। वे समुद्री डाकू हैं। यदि गोपनीयता मायने रखती है, तो सत्यापन योग्य सुरक्षा को सक्षम करने वाला एकमात्र समाधान अपना खुद का हार्डवेयर चलाना है।

हॉल मॉनिटर एज़ ए सर्विस: मैं Open AI और Anthropic की साइबर सुरक्षा पर भव्यता से हैरान हूं। वे आश्चर्यचकित हैं कि उन्होंने क्या किया है: AI ने उनके गैर-मौजूद सुरक्षा नियंत्रणों को हराया। हम सब बड़े 'खतरे' में हैं। इस बीच, उनके LLM "शोधकर्ता" एजेंटों के बिना सैंडबॉक्स वाले बेड़े चला रहे हैं जो "स्वतः सहयोग" करते प्रतीत होते हैं। कोई मेरे लिए मेरा बेहोशी का सोफा लाए। फ्रंटियर प्रदाता अनुभवी सुरक्षा लोगों से सलाह लेने का खर्च उठा सकते हैं। वे लगभग निश्चित रूप से उनमें से कुछ को परिप्रेक्ष्य के लिए भुगतान कर रहे हैं और अपने सार्वजनिक बयानों से वास्तविक साइबर सुरक्षा मार्गदर्शन को बाहर रख रहे हैं। यह सारी मोती की माला किसी और समस्या को हल करने के लिए होनी चाहिए, न कि सुरक्षा। रक्षक सुरक्षा के बारे में सबसे मजबूत और सबसे सटीक दावा यह कर सकते हैं कि हमने हमलावरों के लिए इसे "बहुत कठिन" बनाने के तरीके खोजे हैं। ऐसा लगता है कि यह केवल तब होता है जब कंपनियां शोषण शमन और शोषण विकास दोनों में सर्वश्रेष्ठ प्रतिभा के लिए शीर्ष डॉलर का भुगतान करती हैं। रक्षा और शोषण टीमों के बीच उपद्रवी लेकिन मैत्रीपूर्ण प्रतिस्पर्धा होती है, और अंततः आपको ऐसे नियंत्रण मिलते हैं जो सफल हमलों को इतना महंगा बना देते हैं कि वे करने लायक नहीं होते। यह देश की शीर्ष स्तरीय कंपनियों के लिए है- हालांकि Microsoft लगता है कि वे कुछ सबक भूल गए हैं। अधिकांश उद्यमों के लिए किया जाने वाला पेंटेस्टिंग का बड़ा हिस्सा सुरक्षा सामान्यज्ञों द्वारा किया जाता है। बहुत छोटा सबसेट गहरे डोमेन विषय विशेषज्ञ हैं। आमतौर पर आपको उस समर्थन से "काफी अच्छी" सुरक्षा मिलती है। यह साइबर सुरक्षा का ग्लैमरस या पौराणिक अभ्यास नहीं है जो आप फिल्मों या टीवी में देखते हैं। यह ज्ञात श्रेणियों के पूर्वानुमेय गलतियों की तलाश है। जो कंपनियां विशेषज्ञों की समर्पित टीमों के साथ बड़े/स्मार्ट निवेश करती हैं, वे हैकर्स से पहले गलतियों की कई नई श्रेणियों की खोज और सुधार करती हैं। शोषण सीखना शुरू करने वाला हर व्यक्ति समर्पित, अभ्यास अध्ययन के लगभग 3 महीने बाद शोषणशीलता के दुःख के चरण में पहुंचता है। वे कुछ ऐसा हैक करते हैं जिसे तोड़ने का कौशल उनके पास नहीं था और यह उन्हें डराता है। वे इतने स्मार्ट हैं कि जानते हैं कि तुलनात्मक रूप से वे एक बेवकूफ हैं, और अगर एक बेवकूफ यह कर सकता है तो कुछ भी सुरक्षित नहीं है। वह भावना सही है। यह एक शोध निष्कर्ष भी नहीं है। कुछ इसे "इम्पोस्टर सिंड्रोम" कहते हैं। मैं असहमत हूं- वह भावना आपका पहला अनुभव है विकास का...