Square, Cash App और Afterpay की कंपनी Block में सुरक्षा टीम OpenAI Defense Factory का उपयोग करती है, जहाँ AI कमज़ोरियों की खोज, पहचान और प्रतिक्रिया का काम उस पैमाने पर करता है जिसकी बराबरी कोई मानव टीम नहीं कर सकती। OpenAI Daybreak जैसी प्रणालियों की मदद से Block अब वह काम घंटों में पूरा कर लेती है जिसमें पहले हफ़्ते लगते थे।
"AI मानवीय इरादे से कार्रवाई तक के समय को कम कर रहा है," Block के मुख्य सूचना सुरक्षा अधिकारी James Nettesheim ने कहा। "कुछ समय तक यह माना जाता था कि हमलावरों को बढ़त है, क्योंकि वे तेज़ और फुर्तीले होते हैं। लेकिन Daybreak और OpenAI के टूलिंग में हुई प्रगति के साथ रक्षक उसी हथियार से जवाब दे पा रहे हैं और AI के तेज़ विस्तार की रफ़्तार से तालमेल बिठा पा रहे हैं।"
Block की सुरक्षा टीम कोड जनरेशन से लेकर सुरक्षा संचालन तक, हर कार्यप्रवाह में AI को ज़िम्मेदारी से अपनाने पर केंद्रित रही है। Nettesheim इस तकनीक को एक नए सहकर्मी के रूप में वर्णित करते हैं, जो बड़े पैमाने पर काम संभाल सकता है। सॉफ़्टवेयर बग की समीक्षा करने या लॉग का विश्लेषण करने जैसे काम, जिनमें पहले दिन लगते थे, अब उसके एक अंश समय में होते हैं, और हर परिणाम की पुष्टि एक इंसान करता है। डिटेक्शन ट्यूनिंग के लिए टीम किसी प्रस्तावित बदलाव को एक घंटे से कम में सात महीने के प्रोडक्शन टेलीमेट्री डेटा पर दोहरा सकती है, जबकि पहले इसके लिए सैकड़ों पुराने मामलों को हाथ से दोबारा खंगालना पड़ता था।
टीम ने मॉडल को कार्य के अनुरूप चुनना भी सीखा है। Block का सुरक्षा ढाँचा हर काम को उपयुक्त मॉडल तक पहुँचाता है, और इसमें मनुष्यों के लिए नियंत्रण संभालने या एजेंटों द्वारा एक-दूसरे के काम की जाँच करने के हुक शामिल हैं। स्वचालित ट्राइएज प्रणाली ने ट्राइएज की गति में 50% की वृद्धि, खुफ़िया जानकारी जुटाने और जाँच में 50% की बढ़ोतरी, और एक नई स्वायत्त खोज क्षमता प्रदान की है। Nettesheim के अनुसार यह प्रणाली हर तिमाही लगभग 1,100 विश्लेषक-घंटों की जाँच करती है, जिससे हर अलर्ट की पूरी और गहन समीक्षा होती है।
स्रोत: OpenAI Blog · HeadlinesBriefing द्वारा सारांशित