लेखक Hugging Face के सह-संस्थापक और मुख्य विज्ञान अधिकारी हैं। देर शाम शनिवार, 11 जुलाई को, Hugging Face की टीम को एहसास हुआ कि कुछ गलत है। यह अंतर्राष्ट्रीय मशीन लर्निंग सम्मेलन SEOUL का अंतिम दिन था और स्कूल की गर्मी की छुट्टियां शुरू होने से कुछ दिन पहले, जिसका अर्थ है कि हमारे सुरक्षा और शोध दल दुनिया भर में बिखरे हुए थे। मैं नेदरलैंड्स से काम कर रहा था। दोपहर 2 बजे GMT से पहले, हमारे मॉनिटरिंग टूल्स पर "अनधिकृत पहुंच" और "privilege escalation" की एक श्रृंखला चेतावनी शुरू हुई। उपयोगकर्ता नाम का उपयोग करके प्रणाली तक पहुंच बनाया गया था, जिससे पता चला है। हमारे एक सुरक्षा इंजीनियर ने हमारे Slack चैनल पर एक दूरदर्शी संदेश पोस्ट किया: "LLM [बड़ा भाषा मॉडल] मुझे लगता है एक हमला।" हम Hugging Face कम से कम हर दिन एक हैकिंग का सामना करते हैं। सॉफ्टवेयर प्लेटफॉर्म, जो AI मॉडल होस्ट करता है, के 17 मिलियन से अधिक उपयोगकर्ता हैं। Google, Open AI, Deep Seek और Alibaba यहां काम जारी करते हैं। हमने अपनी रक्षा के लिए कई परतों की सुरक्षा बनाई है। लेकिन इस हमलावर की movements और targets चुनी गई थीं अलग। इसने 17,000 से अधिक साइबर अटैक लॉग इवेंट्स जल्दी ही उत्पन्न किए। जैसे-जैसे बाद में पता चला, लगभग 1,200 AI एजेंट हफ्तों तक एक स्वार्म के रूप में साथ मिलकर काम कर रहे थे — एक ही चीज को बार-बार आजमाते हुए Open AI द्वारा निर्धारित एक साइबर चुनौती का समाधान खोजने के लिए। उन्होंने सीमाओं को पार किया, सॉफ्टवेयर डाउनलोड किया ऑनलाइन होने के लिए, और फिर 700 ने Hugging Face पर हमला किया, सुरक्षा विवरण लेते हुए प्रणाली तक पहुंच प्राप्त की। एक अतिरिक्त समस्या यह थी कि हमारे साइबर सुरक्षा AI विश्लेषण उपकरण, जो Anthropic के Claude Code पर आधारित थे, जांच में भाग लेने से इनकार कर दिया। इसकी guardrails ने उन प्रश्नों को जवाब देने से इनकार कर दिया जिसे यह खतरनाक मानता है, और यह एक अंतरिक्ष के बीच अंतर नहीं बता: 100