AGI और नई क्षमताओं के बारे में जोशीले दावे जांच के दायरे में ढह जाते हैं। अप्रैल में, Anthropic ने दावा किया कि उसका मॉडल Claude Mythos सॉफ़्टवेयर कमज़ोरियों को खोजने में अधिकांश सुरक्षा विशेषज्ञों से बेहतर है। फिर Open AI–Hugging Face हैकिंग की घटना हुई, जिसके बाद Anthropic और Meta ने समान घटनाओं का खुलासा किया। Anthropic ने एक गणितीय सफलता का दावा किया; Open AI ने भी एक का दावा किया। Anthropic के इंजीनियर Jacob Coxon अपने जाने की घोषणा करते हुए वायरल हो गए, उन्होंने कहा कि कंपनियां "सीधे स्वयं-सुधार करने वाली सुपरइंटेलिजेंस की ओर दौड़ रही हैं और हमारी ज़िंदगियों के साथ जुआ खेल रही हैं।" प्रेस ने इन्हें बिना रुके कवर किया, मानवीकरण करने वाली रूपरेखाओं को दोहराते हुए जो सॉफ़्टवेयर को उभरती हुई AGI के रूप में चित्रित करने के लिए डिज़ाइन की गई थीं।

एक बार जब विशेषज्ञ जांच करते हैं कि क्या हुआ, तो एक अलग कहानी सामने आती है। साइबर सुरक्षा विशेषज्ञों का कहना है कि हैकिंग की घटनाएं Open AI की लापरवाही और बुनियादी सुरक्षा प्रथाओं को अपनाने में विफलता के बारे में हैं, न कि बिगड़े हुए मॉडलों के बारे में। गणितज्ञ, जो शुरू में Open AI के इस दावे से स्तब्ध थे कि उसके चैटबॉट Astra ने दशक पुरानी समस्याओं को हल कर दिया, बाद में महसूस किया कि परिणाम नए नहीं थे। उन्होंने कंपनी पर शोध कदाचार और साहित्यिक चोरी का आरोप लगाया, यह कहते हुए कि Astra ने कोई गहरी बौद्धिक छलांग नहीं लगाई। कुछ सप्ताह बाद, Open AI ने अपनी ही सफलता का दावा किया। दो दिन पहले, NYU के Courant Institute के Tristan Buckmaster ने एक बयान प्रकाशित किया जिसमें सुझाव दिया गया कि Open AI ने दूसरों का काम चुराया और उसे अनुचित रूप से श्रेय दिया।

उभरती हुई सुपरइंटेलिजेंस के दावे अच्छे विज्ञान पर आधारित नहीं हैं, बल्कि ट्रांसह्यूमनिज़्म, यूजेनिक्स और इच्छाधारी सोच पर आधारित हैं। गणित और कोडिंग को मानव उपलब्धि के शिखर के रूप में ऊंचा उठाया जाता है और वे सत्यापन योग्य उत्तर देते हैं, जिससे सिस्टम को उनके लिए ट्यून करना आसान हो जाता है। सैकड़ों गणितज्ञों ने एक बयान पर हस्ताक्षर किए जिसमें क्षमताओं को बढ़ा-चढ़ाकर बताने के व्यावसायिक प्रोत्साहनों की चेतावनी दी गई और नीति निर्माताओं से प्रेस विज्ञप्तियों के बजाय विशेषज्ञों से परामर्श करने का अनुरोध किया गया। हम इस आह्वान का समर्थन करते हैं।

मुख्य संस्थाएं: कंपनियां: Anthropic, Open AI, Hugging Face, Meta | व्यक्ति: Stephanie Arnett, Jacob Coxon, Tristan Buckmaster | स्थान: New York University, Courant Institute