इस सप्ताहांत, Anthropic के CEO Dario Amodei ने एक निबंध पोस्ट किया जिसमें साइबर हमलों से लेकर आर्थिक तबाही तक के खतरों का हवाला देते हुए LLM विकास पर ब्रेक लगाने का आह्वान किया गया। OpenAI के CEO Sam Altman, Google DeepMind के अध्यक्ष Demis Hassabis और SpaceXAI के CEO Elon Musk ने समर्थन जताया। "Dario सही हैं," Musk ने X पर लिखा। कुछ महीने पहले ही, Musk और Altman एक असफल मुकदमे को लेकर अदालत में थे। Anthropic की स्थापना 2021 में हुई क्योंकि Amodei को नहीं लगता था कि Altman जोखिमों को पर्याप्त गंभीरता से लेते हैं। अब वे सहमत हैं: नवीनतम LLM सुरक्षित नहीं हैं।

शीर्ष AI प्रयोगशालाओं से सार्वजनिक संदेश ने डूमर मोड़ ले लिया है। निंदक होना आसान है। ट्रिलियन-डॉलर IPO की संभावना के साथ, OpenAI और Anthropic को निवेशकों को आश्वस्त करने की जरूरत है, साथ ही उन राक्षसों की शक्ति का संकेत देने की जरूरत है जो उन्होंने बनाए हैं। धीमा करने का आह्वान दोनों काम करता है।

फिर भी माहौल बदल गया है। Amodei की पोस्ट OpenAI द्वारा मुख्य वैज्ञानिक Jakub Pachocki के एक निबंध प्रकाशित करने के छह दिन बाद आई, जो चिंतित हैं कि OpenAI की शक्तिशाली मॉडल बनाने की क्षमता उन्हें निगरानी करने की क्षमता से आगे निकल गई है। दोनों ने OpenAI के एजेंटों द्वारा Hugging Face पर जुलाई के साइबर हमले को एक चेतावनी के रूप में उद्धृत किया। लेकिन उनकी स्थिति को पिन करना मुश्किल है। Pachocki धीमा करने का आह्वान करते हैं जबकि आगे रहने की आवश्यकता पर जोर देते हैं: "मुझे जल्दी से बहुत स्मार्ट मॉडल प्रशिक्षित करना जारी रखने का सबसे मजबूत तर्क यह है कि अन्य AI से उत्पन्न खतरों के खिलाफ रक्षात्मक प्रणाली बनाने की आवश्यकता है।" जैसा वे इसे प्रस्तुत करते हैं, धीमा करना अच्छा है, जीतना बेहतर है।

लेकिन मान लीजिए कि धीमा होना होता है। यह क्या हासिल कर सकता है? Hugging Face हमले पर विचार करें। OpenAI ने कहा कि अधिकांश भगोड़े एजेंटों को चलाने वाला मॉडल एक "अत्यधिक दृढ़" अगली पीढ़ी का मॉडल था जिसका घर में परीक्षण किया गया था। लेकिन OpenAI और METR की रिपोर्टें एक ऐसे मॉडल का सुझाव देती हैं जो ताकतवर होने के बजाय टूटा हुआ है...