अधिकांश सॉफ़्टवेयर बग से भरा होता है, और AI अब आसानी से उन्हें खोज और उनका दुरुपयोग कर सकता है। साइबर हमलों के खिलाफ पारंपरिक बचाव अब पर्याप्त नहीं हैं, इसलिए डेवलपर्स को यह सिद्ध करने के तरीकों की ज़रूरत है कि कोड बग-मुक्त है। औपचारिक सॉफ़्टवेयर सत्यापन यह गारंटी दे सकता है, लेकिन ऐतिहासिक रूप से इसमें वर्षों की विशेषज्ञ मेहनत लगती रही है, जिससे यह अधिकांश वास्तविक परियोजनाओं के लिए अव्यावहारिक रहा है।
Theorem के साथ सहयोग में, शोधकर्ता दिखाते हैं कि यह स्थिति बदल रही है। LLM अब बड़े पैमाने पर औपचारिक प्रमाण तैयार कर सकते हैं, जिससे ऐसे नए विकास वर्कफ़्लो संभव होते हैं जिनमें सिद्ध सुरक्षा गारंटी शामिल होती है। Claude का उपयोग करते हुए, टीम ने 100 से अधिक वास्तविक ओपन-सोर्स सॉफ़्टवेयर लाइब्रेरी में असेंबली कोड स्तर (RISC-V) पर सुरक्षा गुण सिद्ध किए। उनकी जानकारी के अनुसार, उस स्तर पर उत्पादन सॉफ़्टवेयर पर औपचारिक सत्यापन लागू करने के लिए AI का उपयोग करने का यह पहला बड़े पैमाने का प्रयास है। प्रमाण लिखते समय, Claude ने ऐसे बग भी उजागर किए जो खरबों परीक्षण रनों के बावजूद वर्षों तक पकड़ में नहीं आए थे।
यह दृष्टिकोण एक पुरानी विधि पर आधारित है: डेवलपर्स कोड को एक गणितीय मॉडल में बदलते हैं और सिद्ध करने का प्रयास करते हैं कि वह हमेशा परिभाषित सुरक्षा नियमों का पालन करता है। विफल प्रमाण संभावित बग की ओर इशारा करते हैं। परंपरागत रूप से, प्रमाण मूल कोड से कई गुना बड़े हो सकते हैं और दुर्लभ, विशेष कौशल की मांग करते हैं। seL4 कर्नेल बनाने में दो व्यक्ति-वर्ष लगे, लेकिन उसे सत्यापित करने में 20 लगे।
इस दृष्टिकोण की परीक्षा के लिए, Claude ने सिद्ध किया कि 123 ओपन-सोर्स प्रोग्राम 64 MB से कम के हर इनपुट के लिए, बताई गई रनटाइम वातावरण की धारणाओं के तहत, हमेशा मेमोरी-सुरक्षा त्रुटियों या विफल एसर्शन के बिना सामान्य रूप से समाप्त होंगे। शोधकर्ता मानते हैं कि यह सभी संभावित बग ठीक करने से बहुत दूर है, लेकिन उनका कहना है कि यह एक रोडमैप प्रस्तुत करता है। प्रमाणों का एक हिस्सा प्रकाशित किया जा रहा है ताकि अन्य लोग उन्हें सत्यापित और पुनः उपयोग कर सकें।
स्रोत: Hacker News · HeadlinesBriefing द्वारा सारांशित