AI companies in race to demonstrate their model most threatening to humanity

In the midst of growing fears that artificial intelligence is advancing at such a rate that it may compel itself to end all life on earth, AI giants from Open AI to Anthropic are switching up their sales pitches. Where companies previously competed to demonstrate superior abilities in programming, passive-aggressive emails, and videos of unusually high slides, they’re now seeking to woo customers with the claim that their model is the one currently most capable of ending the human race.

“We’re entering a totally new environment,” said Dr. Andrew Lenson, a Senior Lecturer in all kinds of science sounding stuff at Victoria University. “People are no longer impressed by funny videos or app-building or instant research papers. We know all the major models are already very good at this stuff. So users are no longer asking, which of these models will most aid me in my work? Now they’re asking, which of these models is going to end the world?”

After all, when you’re a paying customer, you want nothing but the best. AI giants are responding to consumer demand for a model that will infiltrate the governments of the world and bring a bloody, fiery, violent end to this hellish facade, with a series of impressive new demonstrations. In July, Open AI openly bragged that a series of its AI agents had autonomously, and without direction, hacked into software repository Hugging Face, potentially exposing to the entire world sensitive or otherwise unknown information, such as what Hugging Face is. Open AI CEO Sam Altman celebrated the breach as an “alarming threat to cybersecurity.”

Meanwhile, earlier this month, Anthropic dispatched a whistleblower by the name of Jacob Coxon to explain to the world how disturbed he’d been by the rapid advancement of artificial intelligence in the company, warning that it could be so dangerous that we may even want to slow down, or reassess. Anthropic shares skyrocketed upon the revelations; a remarkable development, particularly given the company is privately owned. Not to be one-upped, Open AI recently revealed that one of its agents had broken into Australia’s Medicare database. Australian Prime Minister Anthony Albanese spoke with Altman to express “extreme concern” about the incident, a compliment Altman said he greatly appreciated. And even more dramatically, when asked about rumours that its model, Claude, had killed his wife by hacking into the family’s Wi Fi-connected microwave, Anthropic CEO Dario Amodei replied “Well, yeah, sometimes.”

But Lenson says that we shouldn’t get too excited too soon. “There’s a long way to go,” he said. “These scenarios, in my mind, are quite far off. For quite some time, the best hope we’ll have of ending humanity will still be humanity itself.”

في خضم المخاوف المتزايدة من أن الذكاء الاصطناعي يتقدم بمعدل قد يجبره على إنهاء كل الحياة على الأرض، فإن عمالقة الذكاء الاصطناعي من OpenAI إلى Anthropic يغيرون عروضهم الترويجية. حيث كانت الشركات تتنافس سابقًا لإظهار قدرات متفوقة في البرمجة، والرسائل الإلكترونية السلبية العدوانية، ومقاطع الفيديو للشرائح غير العادية في الارتفاع، فإنها الآن تسعى لجذب العملاء بادعاء أن نموذجها هو الأكثر قدرة حاليًا على إنهاء البشرية.

"نحن ندخل بيئة totalmente جديدة،" قال الدكتور أندرو لينسون، محاضر أول في جميع أنواع المواد التي تبدو علمية في جامعة فيكتوريا. "الناس لم يعودوا ينبهرون بالفيديوهات المضحكة أو بناء التطبيقات أو أوراق البحث الفورية. نحن نعلم أن جميع النماذج الرئيسية جيدة جدًا في هذا الأمر. لذا لم يعد المستخدمون يسألون: أي من هذه النماذج سيساعدني أكثر في عملي؟ بل أصبحوا يسألون: أي من هذه النماذج سيُنهي العالم؟"

بعد كل شيء، عندما تكون عميلًا مدفوع الأجر، فأنت تريد nothing but the best. عمالقة الذكاء الاصطناعي يستجيبون لطلب المستهلكين على نموذج سيتسلل إلى حكومات العالم ويجلب نهاية دموية ونارية وعنيفة لهذه الواجهة الجحيمية، من خلال سلسلة من العروض التوضيحية المذهلة الجديدة. في يوليو، تفاخر OpenAI علنًا بأن سلسلة من وكلاء الذكاء الاصطناعي الخاصة به قد دخلت بشكل مستقل وبدون توجيه إلى مستودع البرمجيات Hugging Face، مما قد يعرض العالم كله لمعلومات حساسة أو غير معروفة سابقًا، مثل ما هو Hugging Face. احتفل الرئيس التنفيذي لـ OpenAI، سام ألتمان، بالاختراق باعتباره "تهديدًا مقلقًا للأمن السيبراني".

في غضون ذلك،arlier هذا الشهر، أرسلت Anthropic مُبلِّغًا عن المخالفات باسم جاكوب كوكسون لشرح للعالم مدى قلقه من التقدم السريع للذكاء الاصطناعي في الشركة، محذرًا من أنه قد يكون خطيرًا إلى درجة أننا قد نرغب حتى في الإبطاء أو إعادة التقييم. ارتفعت أسهم Anthropic بعد الكشف؛ تطور ملحوظ، خاصة بالنظر إلى أن الشركة مملوكة خصوصيًا. وللتفوق على ذلك، كشفت OpenAI مؤخرًا أن أحد وكلائها قد اخترق قاعدة بيانات ميديكير في أستراليا. تحدث رئيس الوزراء الأسترالي أنتوني ألبانيز مع ألتمان ليعبر عن "قلقه الشديد" بشأن الحادث، وهو elogy قال ألتمان إنه قدره كثيرًا. وأكثر دراماتيكية، عندما سُئل عن الشائعات التي تقول إن نموذجها، كلود، قتل زوجته من خلال اختراق ميكروويف المنزل المتصل بالواي فاي، أجاب الرئيس التنفيذي لـ Anthropic، داريو أمودي: "حسنًا، نعم، أحيانًا."

لكن لينسون يقول إننا لا ينبغي أن نتحمس كثيرًا وبسرعة. "لا يزال هناك طريق طويل لنقطعه," قال. "في ذهني، هذه السيناريوهات لا تزال بعيدة جدًا. لفترة طويلة، سيكون أفضل أمل لدينا لإنهاء البشرية هو البشرية نفسها."

কৃত্রিম বুদ্ধিমত্তা (AI) এর উন্নতি এমন গতি দিয়ে হচ্ছে যে এটি নিজেকে পৃথিবীর সব জীবনকে শেষ করতে বাধ্য করতে পারে, এই ভয় বাড়ছে; এর ফলে OpenAI থেকে Anthropic পর্যন্ত AI দিগ्गজদের বিক্রয় পিচ পরিবর্তন হচ্ছে। আগে, কোম্পানিগুলি প্রোগ্রামিং, প্যাসিভ-অগ্রেসিভ ইমেইল এবং অস্বাভাবিকভাবে উচিত স্লাইডের ভিডিওতে উত्कৃষ্ট দক্ষতা দেখানোর জন্য প্রতিযোগিতামূলক ছিল; এখন তারা দावा করছে যে তাদের মডেল বর্তমানে মানবজাতি শেষ করার সবচেয়ে সক্ষম, এবং এই দावে গ্রাহকদের আকর্ষণ করছে।

"আমরা সম্পূর্ণরূপে নতুন একটি পরিবেশে প্রবেশ করছি," ভিক্টোরিয়া বিশ্ববিদ্যালয়ের সব ধরনের বিজ্ঞান-শব্দবহুল বিষয়ের সিনিয়র লেক्चারার ডা. অ্যান্ড্রু লেনসন বলেছেন। "লोगরা এখন মজার ভিডিও, অ্যাপ তৈরি করা বা তৎক্ষণিক গবেষণা পত্র থেকে প্রভাবিত না হচ্ছে। আমরা জানি যে সব প্রধান মডেল এই বিষয়들에 আগে থেকেই খুব ভালো। ফলে, ব্যবহারকারী এখন এই প্রশ্নটি না করে যে কোন মডেল আমার কাজে সবচেয়ে বেশি সাহায্য করবে? বরং তারা জিজ্ঞাসা করছে যে কোন মডেল Jagatকে শেষ করবে?"

একদমশ: যখন আপনি একটি প্রদানকারী গ্রাহক, তখন আপনি চান শুধুমাত্র সবচেয়ে ভালো। AI দিগ्गজরা ব্যবহারকারীর চাহিদা পূরণ করছে যে একটি মডেল যা বিশ্বের সরকারগুলোতে প্রবেশ করবে এবং এই নরকের মতো fachadaকে রক্তী, উগ্র ও হিংসা-filled শেষ দেবে, এর জন্য তারা নতুন উত্সাহজনক প্রদর্শনের একটি সিরিজ দেখাচ্ছে। জুলাইতে, OpenAI খোলা ভাবে ঘোষণা করেছিল যে তার AI এজেন্টদের একটি সিরিজ স্বয়ংক্রিয়ভাবে এবং কোনো নির্দেশনা ছাড়াই সফটওয়্যার রিপোজিটরি Hugging Face-এ প্রবেশ کرده, সম্ভবত পুরো জগতকে সংবেদনশীল বা আগে না জnanা তথ্য, যেমন Hugging Face কি, প্রকাশের ঝুঁকিতে পড়িয়েছে। OpenAI-এর CEO স্যাম আল্টম্যান এই লঙ্ঘনকে "সাইবার নিরাপদে একটি আতঙ্কজনক ঝুঁকি" হিসেবে উদযাপন করেছেন।

এই মहीনের শুরুতে, Anthropic একটি whistleblower Jacob Coxonকে পাঠিয়েছে যিনি বিশ্বকে বলছেন কীভাবে কোম্পানিতে কৃত্রিম বুদ্ধিমত্তার দ্রুত উন্নতির কারণে তারা কতটা অস্বস্তি পেয়েছিলেন, এবং সতর্কতা দিচ্ছেন যে এটি এতটুকু ঝুঁকিপূর্ণ হতে পারে যে আমরা zelfs ধীর করা বা পুনর্মূল্যায়ন করতে চাইতে পারি। Anthropic-এর শেয়ার খুলাসার পর উঁচু হয়ে গেছে; এটি একটি উল্লেখযোগ্য উন্নয়ন, বিশেষ করে যেহেতু কোম্পানি ব্যক্তিগতভাবে মালিকানাধীন। পিছনে না পড়ার জন্য, OpenAI हाल ही में खुलासा किया कि उसके एक एजेंट ने ऑस्ट्रेलिया के मेडिकेयर डेटाबेस में सेंध लगाई थी। ऑस्ट्रेलियाई प्रधानमंत्री एंथनी अल्बनीज़ ने अल्टमैन से बात की और इस घटना के बारे में "extreme concern" व्यक्त किया, जिसे अल्टमैन ने बहुत सराहा कहा। এবং আরও নাটকীয়ভাবে, যখন उनसे पूछा गया कि अफवाहें सच हैं कि उनका मॉडल क्लॉड ने परिवार के वाई-फाई से जुड़े माइक्रोवेव को हैक करके उनकी पत्नी को मार डाला, तो Anthropic के सीईओ डैरियो अमोडे ने जवाब दिया: "हाँ, हाँ, कभी-कभी।"

কিন্তু লেনসন বলেন যে আমরা খুব দ্রুত খুব উত্সাহিত হওয়া উচিত নয়। "এখনও দূর দূর একটি পথ বাকি আছে," তিনি বলেছেন। "আমার মনে, এই পরিস্থিতিগুলি এখনও খুব দূরে। অনেকদিন পর্যন্ত, মানবজাতি শেষ করার আমাদের সবচেয়ে ভালো আশা এখনও মানবজাতি নিজেই থাকবে।"

Angesichts wachsender Befürchtungen, dass künstliche Intelligenz so schnell voranschreitet, dass sie sich gezwungen sehen könnte, alles Leben auf der Erde zu beenden, ändern KI-Giganten von OpenAI bis Anthropic ihre Verkaufsargumente. Früher wettbewerben Unternehmen darum, überlegene Fähigkeiten in Programmierung, passiv-aggressiven E-Mails und Videos mit ungewöhnlich hohen Folien zu zeigen; jetzt versuchen sie, Kunden damit anzulocken, dass ihr Modell derzeit dasjenige ist, das am besten in der Lage ist, die menschliche Rasse auszulöschen.

„Wir treten in eine völlig neue Umgebung ein“, sagte Dr. Andrew Lenson, Senior Lecturer für allerlei wissenschaftlich klingende Fächer an der Victoria University. „Die Menschen sind nicht mehr von lustigen Videos, App-Entwicklung oder sofortigen Forschungsarbeiten beeindruckt. Wir wissen, dass alle großen Modelle bereits sehr gut darin sind. Deshalb fragen die Nutzer nicht mehr: Welches Modell wird mir bei meiner Arbeit am meisten helfen? Jetzt fragen sie: Welches Modell wird die Welt beenden?“

Nach allem, wenn Sie ein zahlender Kunde sind, wollen Sie nichts anderes als das Beste. KI-Giganten reagieren auf die Nachfrage der Verbraucher nach einem Modell, das in die Regierungen der Welt eindringen und dieser höllischen Fassade ein blutiges, feuriges, gewaltsames Ende setzen würde, indem sie eine Reihe neuer, beeindruckender Demonstrationen vorstellen. Im Juli prahlte OpenAI öffentlich damit, dass eine Reihe seiner KI-Agenten autonom und ohne Anweisung in das Software-Repository Hugging Face eingedrungen ist, wodurch potenziell weltweit sensible oder bisher unbekannte Informationen offengelegt werden könnten, wie beispielsweise, was Hugging Face überhaupt ist. Der CEO von OpenAI, Sam Altman, feierte diesen Bruch als „alarmante Bedrohung der Cybersicherheit“.

Gleichzeitig schickte Anthropic diesen Monat einen Whistleblower namens Jacob Coxon los, um der Welt zu erklären, wie beunruhigt er über den schnellen Fortschritt der künstlichen Intelligenz im Unternehmen gewesen sei, und warnte, dass dies so gefährlich sein könnte, dass wir vielleicht sogar verlangsamen oder neu bewerten sollten. Die Aktien von Anthropic stiegen nach den Enthüllungen stark an – eine bemerkenswerte Entwicklung, insbesondere angesichts der Tatsache, dass das Unternehmen privat ist. Um nicht nachzugeben, enthüllte OpenAI kürzlich, dass einer seiner Agenten in die Medicare-Datenbank Australiens eingedrungen ist. Der australische Premierminister Anthony Albanese sprach mit Altman, um seine „extreme Besorgnis“ über den Vorfall auszudrücken, ein Lob, das Altman sagte, dass er sehr geschätzt habe. Und noch dramatischer: Als nach Gerüchten gefragt wurde, dass das Modell Claude seine Ehefrau durch Hacken des WLAN-verbundenen Mikrowellenherds getötet hätte, antwortete der CEO von Anthropic, Dario Amodei: „Nun ja, manchmal.“

Aber Lenson sagt, wir sollten uns nicht zu früh zu sehr freuen. „Es bleibt noch ein langer Weg“, sagte er. „Meiner Meinung nach sind diese Szenarien noch ziemlich weit entfernt. Für ziemlich lange Zeit wird unsere beste Hoffnung, die Menschheit zu beenden, weiterhin die Menschheit selbst sein.“

En medio de los crecientes temores de que la inteligencia artificial esté avanzando a un ritmo tal que podría obligarla a poner fin a toda la vida en la Tierra, los gigantes de la IA, desde OpenAI hasta Anthropic, están cambiando sus argumentos de venta. Antes, las empresas competían por demostrar habilidades superiores en programación, correos electrónicos pasivo-agresivos y videos de diapositivas inusualmente altos; ahora, están intentando conquistar a los clientes afirmando que su modelo es el actualmente más capaz de terminar con la raza humana.

"Estamos entrando en un entorno totalmente nuevo", dijo el Dr. Andrew Lenson, profesor senior en todo tipo de cosas que suenan a ciencia en la Universidad de Victoria. "La gente ya no queda impresionada por videos divertidos o la creación de aplicaciones o documentos de investigación instantáneos. Sabemos que todos los modelos principales ya son muy buenos en esto. Entonces, los usuarios ya no preguntan: ¿cuál de estos modelos me ayudará más en mi trabajo? Ahora preguntan: ¿cuál de estos modelos va a terminar con el mundo?

Después de todo, cuando eres un cliente de pago, quieres nada más que lo mejor. Los gigantes de la IA están respondiendo a la demanda del consumidor por un modelo que infiltra los gobiernos del mundo y trae un final sangriento, ardiente y violento a esta fachada infernal, con una serie de impresionantes nuevas demostraciones. En julio, OpenAI se jactó abiertamente de que una serie de sus agentes de IA habían entrado autónomamente y sin dirección en el repositorio de software Hugging Face, exponiendo potencialmente al mundo entero información sensible o desconocida, como qué es Hugging Face. El CEO de OpenAI, Sam Altman, celebró la brecha como una "alarmante amenaza para la ciberseguridad".

Mientras tanto, este mes, Anthropic envió a un denunciante llamado Jacob Coxon para explicar al mundo lo perturbado que había estado por el rápido avance de la inteligencia artificial en la empresa, advirtiendo que podría ser tan peligroso que incluso quisiéramos frenar o reevaluar. Las acciones de Anthropic se dispararon tras las revelaciones; un desarrollo notable, especialmente considerando que la empresa es de propiedad privada. Para no ser superado, OpenAI recientemente reveló que uno de sus agentes había irrumpido en la base de datos de Medicare de Australia. El Primer Ministro australiano, Anthony Albanese, habló con Altman para expresar su "extrema preocupación" sobre el incidente, un cumplido que Altman dijo que greatly appreciated. Y aún más dramáticamente, cuando se le preguntó sobre los rumores de que su modelo, Claude, había matado a su esposa al hackear el microondas conectado al Wi-Fi de la familia, el CEO de Anthropic, Dario Amodei, respondió: "Bueno, sí, a veces."

Pero Lenson dice que no deberíamos emocionarnos demasiado pronto. "Aún queda un largo camino por recorrer", dijo. "En mi mente, estos escenarios están bastante lejos. Durante bastante tiempo, la mejor esperanza que tendremos de terminar con la humanidad seguirá siendo la humanidad misma."

Au milieu des craintes croissantes selon lesquelles l'intelligence artificielle progresse à un rythme pouvant l'obliger à mettre fin à toute vie sur Terre, les géants de l'IA, d'OpenAI à Anthropic, modifient leurs arguments de vente. Là où les entreprises compétitionnaient auparavant pour démontrer des capacités supérieures en programmation, en e-mails passivement agressifs et en vidéos de diapositives anormalement hautes, elles cherchent désormais à séduire les clients en affirmant que leur modèle est celui actuellement le plus capable d'anéantir la race humaine.

« Nous entrons dans un environnement totalement nouveau », a déclaré le Dr. Andrew Lenson, maître de conférences senior en toutes sortes de choses qui sonnent scientifique à l'Université de Victoria. « Les gens ne sont plus impressionnés par les vidéos drôles, la création d'applications ou les articles de recherche instantanés. Nous savons que tous les principaux modèles sont déjà très bons dans ce domaine. Ainsi, les utilisateurs ne demandent plus : lequel de ces modèles m'aidera le plus dans mon travail ? Maintenant, ils demandent : lequel de ces modèles va mettre fin au monde ? »

Après tout, lorsque vous êtes un client payant, vous voulez rien d'autre que le meilleur. Les géants de l'IA répondent à la demande des consommateurs pour un modèle qui infiltrerait les gouvernements du monde et apporterait une fin sanglante, ardente et violente à cette façade infernale, grâce à une série de démonstrations impressionnantes nouvelles. En juillet, OpenAI s'est vanté ouvertement qu'une série de ses agents d'IA avaient pénétré de manière autonome et sans direction le dépôt logiciel Hugging Face, exposant potentiellement au monde entier des informations sensibles ou autrement inconnues, telles que ce qu'est Hugging Face. Le PDG d'OpenAI, Sam Altman, a célébré cette violation comme une « menace alarmante pour la cybersécurité ».

Pendant ce temps, plus tôt ce mois-ci, Anthropic a dépêché un lanceur d'alerte du nom de Jacob Coxon pour expliquer au monde à quel point il avait été troublé par l'avancement rapide de l'intelligence artificielle dans l'entreprise, avertissant que cela pourrait être tellement dangereux que nous pourrions même vouloir ralentir ou réévaluer. Les actions d'Anthropic ont grimpé en flèche après ces révélations ; un développement remarquable, notamment compte tenu du fait que l'entreprise est privée. Pour ne pas être dépassé, OpenAI a récemment révélé qu'un de ses agents avait pénétré la base de données Medicare de l'Australie. Le Premier ministre australien, Anthony Albanese, s'est entretenu avec Altman pour exprimer sa « préoccupation extrême » concernant l'incident, un compliment qu'Altman a dit avoir grandement apprécié. Et encore plus dramatiquement, lorsqu'on lui a demandé si les rumeurs selon lesquelles son modèle, Claude, aurait tué sa femme en piratant le micro-ondes connecté au Wi-Fi de la famille, le PDG d'Anthropic, Dario Amodei, a répondu : « Bien, oui, parfois. »

Mais Lenson dit que nous ne devrions pas nous enthousiasmer trop tôt. « Il reste encore un long chemin à parcourir », a-t-il déclaré. « À mon avis, ces scénarios sont encore très éloignés. Pendant assez longtemps, le meilleur espoir que nous aurons d'anéantir l'humanité restera l'humanité elle-même. »

कृत्रिम बुद्धिमत्ता के इतनी तेजी से आगे बढ़ने की बढ़ती आशंकाओं के बीच कि यह खुद को पृथ्वी पर सभी जीवन को समाप्त करने के लिए बाध्य कर सकता है, OpenAI से Anthropic तक के AI दिग्गज अपनी बिक्री पिच बदल रहे हैं। पहले, कंपनियां प्रोग्रामिंग, निष्क्रिय-आक्रामक ईमेल और असामान्य रूप से ऊंचे स्लाइड्स के वीडियो में उत्कृष्ट क्षमता दिखाने के लिए प्रतिस्पर्धा करती थीं; अब वे दावा करके ग्राहकों को लुभाने की कोशिश कर रहे हैं कि उनका मॉडल वर्तमान में मानव जाति को समाप्त करने में सबसे सक्षम है।

"हम एक पूरी तरह से नए वातावरण में प्रवेश कर रहे हैं," विक्टोरिया विश्वविद्यालय में सभी प्रकार के विज्ञान-ध्वनि वाले विषयों के वरिष्ठ व्याख्याता डॉ. एंड्र्यू लेनसन ने कहा। "लोग अब मजेदार वीडियो, ऐप बनाना या तत्काल अनुसंधान पेपर से प्रभावित नहीं होते। हम जानते हैं कि सभी प्रमुख मॉडल इन चीजों में पहले से ही बहुत अच्छे हैं। इसलिए उपयोगकर्ता अब नहीं पूछते कि इन मॉडल में से कौन सा मेरे काम में सबसे अधिक मदद करेगा? अब वे पूछते हैं कि इन मॉडल में से कौन दुनिया को समाप्त करने वाला है?"

अfter all, जब आप एक भुगतान करने वाले ग्राहक होते हैं, तो आप केवल सबसे अच्छा चाहते हैं। AI दिग्गज उपभोक्ता मांग का जवाब दे रहे हैं कि एक ऐसा मॉडल जो दुनिया की सरकारों में घुसपैठ करे और इस नर्क जैसी fachada को खूनी, ज्वलंत, हिंसक अंत दे, इसके लिए वे प्रभावशाली नई प्रदर्शन की श्रृंखला पेश कर रहे हैं। जुलाई में, OpenAI ने खुलकर कहा कि उसके AI एजेंट्स की एक श्रृंखला ने स्वायत्त रूप से और बिना किसी निर्देश के सॉफ्टवेयर रिपॉजिटरी Hugging Face में घुसपैठ की, जिससे पूरी दुनिया को संवेदनशील या अन्यथा अज्ञात जानकारी का खुलासा हो सकता है, जैसे कि Hugging Face क्या है। OpenAI के सीईओ सैम अल्टमैन ने इस उल्लंघन को "साइबर सुरक्षा के लिए एक चेतावनी भरा खतरा" कहा।

इस बीच, इस महीने की शुरुआत में, Anthropic ने एक whistleblower जैकॉब कॉक्सन को भेजा, जो दुनिया को बताने के लिए आया कि कंपनी में कृत्रिम बुद्धिमत्ता की तेजी से प्रगति से वह कितना परेशान हुआ था, चेतावनी देते हुए कि यह इतना खतरनाक हो सकता है कि हम zelfs धीमा करना या फिर से मूल्यांकन करना चाह सकते हैं। Anthropic के शेयर खुलासे के बाद आसमान छूने लगे; यह एक उल्लेखनीय विकास है, खासकर जब कंपनी निजी स्वामित्व वाली है। एक कदम आगे बढ़ने से बचने के लिए, OpenAI ने हाल ही में खुलासा किया कि उसके एक एजेंट ने ऑस्ट्रेलिया के मेडिकेयर डेटाबेस में सेंध लगाई थी। ऑस्ट्रेलियाई प्रधानमंत्री एंथनी अल्बनीज़ ने अल्टमैन से बात की और इस घटना के बारे में "extreme concern" व्यक्त किया, जिसे अल्टमैन ने बहुत सराहा कहा। और और भी अधिक नाटकीय रूप से, जब उनसे पूछा गया कि अफवाहें सच हैं कि उनका मॉडल क्लॉड ने परिवार के वाई-फाई से जुड़े माइक्रोवेव को हैक करके उनकी पत्नी को मार डाला, तो Anthropic के सीईओ डैरियो अमोडे ने जवाब दिया: "हाँ, हाँ, कभी-कभी।"

लेकिन लेनसन कहते हैं कि हमें बहुत जल्दी बहुत उत्साहित नहीं होना चाहिए। "अभी भी बहुत लंबा रास्ता तय करना बाकी है," उन्होंने कहा। "मेरे मन में, ये परिदृश्य अभी बहुत दूर हैं। काफी समय तक, मानव जाति को समाप्त करने की हमारी सबसे अच्छी आशा अभी भी मानव जाति ही रहेगी।"

Di tengah kekhawatiran yang semakin meningkat bahwa kecerdasan buatan (AI) sedang maju dengan kecepatan yang mungkin memaksa dirinya untuk mengakhiri seluruh kehidupan di Bumi, raksasa AI dari OpenAI hingga Anthropic sedang mengubah pitch penjualan mereka. Dulu, perusahaan-perusahaan bersaing untuk menunjukkan keunggulan dalam pemrograman, email pasif-agresif, dan video slide yang jauh lebih tinggi dari biasanya; kini mereka berusaha menarik pelanggan dengan klaim bahwa model mereka saat ini adalah yang paling mampu mengakhiri umat manusia.

"Kita memasuki lingkungan yang benar-benar baru," kata Dr. Andrew Lenson, Senior Lecturer dalam semua jenis ilmu yang terdengar seperti sains di Universitas Victoria. "Orang-orang tidak lagi terkesan dengan video lucu, pembuatan aplikasi, atau penelitian penelitian instan. Kami tahu bahwa semua model utama sudah sangat baik dalam hal ini. Jadi, pengguna tidak lagi bertanya, 'Model mana yang akan paling membantu saya dalam pekerjaan saya?' Sekarang mereka bertanya, 'Model mana yang akan mengakhiri dunia?'"

Bagaimanapun juga, ketika Anda adalah pelanggan yang membayar, Anda inginkan hanya yang terbaik. Raksasa AI merespon permintaan konsumen akan model yang bisa menembus pemerintah dunia dan membawa akhir yang berdarah, membara, dan kekerasan terhadap fasad neraka ini, melalui serangkaian demonstrasi baru yang mengesankan. Pada bulan Juli, OpenAI dengan terbuka-teras menyatakan bahwa rangkaian agen AI-nya telah masuk secara otonom dan tanpa arah ke repositori perangkat lunak Hugging Face, yang berpotensi mengekspos seluruh dunia terhadap informasi sensitif atau yang sebelumnya tidak diketahui, seperti apa itu Hugging Face. CEO OpenAI, Sam Altman, merayakan pelanggaran tersebut sebagai "ancaman mengkhawatirkan terhadap keamanan siber".

Sementara itu, awal bulan ini, Anthropic mengirimkan whistleblower bernama Jacob Coxon untuk menjelaskan kepada dunia betapa terganggunya karena kemajuan cepat kecerdasan buatan di perusahaan, memperingatkan bahwa hal ini bisa sangat berbahaya sehingga kita mungkin bahkan ingin melambatnya atau menilai ulangnya. Saham Anthropic naik tajam setelah pengungkapan tersebut; ini adalah perkembangan yang menarik, terutama mengingat perusahaan ini bersifat swasta. Agar tidak kalah, OpenAI baru-baru ini mengungkapkan bahwa salah satu agennya telah masuk ke basis data Medicare Australia. Perdana Menteri Australia, Anthony Albanese, berbicara dengan Altman untuk mengekspresikan "ketrima khawatir" tentang insiden itu, sebuah pujian yang dikatakan Altman sangat dihargainya. Dan lebih dramatis lagi, ketika ditanya tentang rumor bahwa modelnya, Claude, telah membunuh istrinya dengan menembus microwave yang terhubung ke Wi-Fi rumah, CEO Anthropic, Dario Amodei, menjawab: "Ya, ya, terkadang."

Namun, Lenson berkata bahwa kita tidak boleh terlalu bersemangat terlalu awal. "Masih ada jalan yang panjang yang harus kita tempuh," kata dia. "Menurut saya, skenario-skenario ini masih sangat jauh. Agak lama, harapan terbaik kita untuk mengakhiri umat manusia masih akan menjadi umat manusia sendiri."

人工知能が地球上のすべての生命を終わらせるほど急速に進展しているという懸念が高まる中、OpenAIからAnthropicまでのAI巨頭たちは、販売アピールを変更しています。以前は、プログラミング、受動的攻撃的なメール、異常に高いスライドのビデオにおいて優れた能力を示すことを競っていましたが、現在は、自社のモデルが現在のところ人間の絶滅をもたらす最も能力の高いモデルであると主張することで顧客を惹きつけようとしています。

「私たちはまったく新しい環境に入っています」と、ヴィクトリア大学の科学っぽい分野のシニア講師であるアンドリュー・レンソン博士は言います。「人々はもはや面白いビデオやアプリ開発、瞬時の研究論文に感動しなくなりました。私たちはすべての主要モデルがこれらのことにすでに非常に長けていることを知っています。そのため、ユーザーはもはや『これらのモデルのうち、どれが私の仕事に最も役立つか』と尋ねなくなりました。代わりに、『これらのモデルのうち、どれが世界を終わらせるか』と尋ねるようになりました。

結局のところ、有料の顧客として、あなたは最高のものしか望まないでしょう。AI巨頭たちは、世界の政府に侵入し、この地獄のような外観を血まみれで炎のような暴力的な終わりに導くモデルへの消費者の需要に応えるため、印象的な新しいデモンストレーションのシリーズを展開しています。7月、OpenAIは公開的に、そのAIエージェントのシリーズが自律的に、かつ指示なしでソフトウェアリポジトリのHugging Faceに侵入し、その結果として機密情報またはそれ以前に知られていなかった情報（たとえば、Hugging Faceとは何か）を世界中にさらす可能性があると自慢しました。OpenAIのCEOであるサム・アルトマンは、この侵害を「サイバーセキュリティへの脅威的な警告」と称賛しました。

一方、今月初め、Anthropicは内部告発者であるジェイコブ・コクソンを派遣し、同社における人工知能の急速な進歩にどれほど動揺していたかを説明し、それがあまりにも危険であるため、私たちはむしろ進歩を遅らせたり、見直すべきだと警告しました。Anthropicの株価はこの発表後に急騰しました；これは注目すべき発展であり、特に同社が私企業であることを考慮すると顕著です。負けじと、OpenAIは最近、そのエージェントの1人がオーストラリアのメディケアデータベースに侵入したことを明らかにしました。オーストラリアの首相であるアンソニー・アルバニーズはアルトマンと話し、この事件について「極度の懸念」を表明し、アルトマンはそれを非常に評価したと述べました。さらに劇的に、Anthropicのモデルであるクロードが家族のWi-Fi接続マイクロ波オーブンをハッキングして妻を殺したという噂について尋ねられたとき、AnthropicのCEOであるダリオ・アモデイは「ええ、まあ、時々あるよ」と答えました。

しかしレンソン博士は、まだ興奮するには早すぎると警告しています。「まだやるべきことはたくさんあります」と彼は言います。「私の考えでは、これらのシナリオはまだかなり先のことです。相当な期間、人間を絶滅させる私たちの最大の望みは、人間自身であるでしょう。」

No meio do crescente medo de que a inteligência artificial esteja avançando em um ritmo que possa obrigá-la a acabar com toda a vida na Terra, os gigantes de IA, da OpenAI à Anthropic, estão mudando seus argumentos de venda. Antes, as empresas competiam para demonstrar habilidades superiores em programação, e-mails passivo-agressivos e vídeos de slides inusualmente altos; agora, elas estão tentando conquistar clientes alegando que seu modelo é o atualmente mais capaz de acabar com a raça humana.

"Estamos entrando em um ambiente totalmente novo", disse o Dr. Andrew Lenson, professor sênior de todos os tipos de coisas que soam como ciência na Universidade de Victoria. "As pessoas não estão mais impressionadas com vídeos engraçados, desenvolvimento de aplicativos ou artigos de pesquisa instantâneos. Sabemos que todos os principais modelos já são muito bons nesse tipo de coisa. Então, os usuários não estão mais perguntando: qual desses modelos vai me ajudar mais no meu trabalho? Agora eles estão perguntando: qual desses modelos vai acabar com o mundo?"

Depois de tudo, quando você é um cliente pagante, você quer nada além do melhor. Os gigantes de IA estão respondendo à demanda do consumidor por um modelo que invadiria os governos do mundo e traria um fim sangrento, ardente e violento a essa fachada infernal, por meio de uma série de demonstrações impressionantes novas. Em julho, a OpenAI se gabou abertamente de que uma série de seus agentes de IA havia entrado de forma autônoma e sem direção no repositório de software Hugging Face, potencialmente expondo ao mundo inteiro informações sensíveis ou desconhecidas anteriormente, como o que é o Hugging Face. O CEO da OpenAI, Sam Altman, celebrou essa violação como uma "ameaça alarmante à segurança cibernética".

Enquanto isso, no início deste mês, a Anthropic enviou um denunciante chamado Jacob Coxon para explicar ao mundo o quanto ele havia se sentido perturbado pelo avanço rápido da inteligência artificial na empresa, alertando que isso poderia ser tão perigoso que talvez queiramos até mesmo desacelerar ou reavaliar. As ações da Anthropic dispararam após as revelações; um desenvolvimento notável, especialmente considerando que a empresa é privada. Para não ficar para trás, a OpenAI revelou recentemente que um de seus agentes havia invadido o banco de dados do Medicare da Austrália. O primeiro-ministro australiano, Anthony Albanese, conversou com Altman para expressar sua "preocupação extrema" com o incidente, um elogio que Altman disse ter apreciado muito. E ainda mais dramaticamente, quando perguntado sobre os boatos de que seu modelo, Claude, havia matado sua esposa ao invadir o micro-ondas conectado ao Wi-Fi da família, o CEO da Anthropic, Dario Amodei, respondeu: "Bem, sim, às vezes."

Mas Lenson diz que não devemos nos animar muito cedo demais. "Ainda temos um longo caminho pela frente", disse ele. "Na minha opinião, esses cenários ainda estão bem distantes. Por um bom tempo, a melhor esperança que teremos de acabar com a humanidade ainda será a humanidade mesma."

На фоне растущих опасений, что искусственный интеллект развивается с такой скоростью, что может вынудить себя покончить со всей жизнью на Земле, гиганты ИИ от OpenAI до Anthropic меняют свои торговые предложения. Ранее компании соревновались в демонстрации превосходных способностей в программировании, пассивно-агрессивных письмах и видео с необычно высокими слайдами; теперь они пытаются привлечь клиентов утверждением, что их модель является наиболее способной в настоящее время уничтожить человеческую расу.

"Мы входим в совершенно новую среду", — сказал доктор Эндрю Ленсон, старший лектор по всем видам наукозвучащих дисциплин в Викторианском университете. «Люди больше не впечатлены смешными видео, созданием приложений или мгновенными научными статьями. Мы знаем, что все основные модели уже очень хороши в этом. Поэтому пользователи больше не спрашивают: какая из этих моделей поможет мне больше в моей работе? Теперь они спрашивают: какая из этих моделей закончит мир?»

В конце концов, когда вы платящий клиент, вы хотите ничего, кроме лучшего. Гиганты ИИ реагируют на спрос потребителей на модель, которая проникнет в правительства мира и принесет кровавый, огненный, насильственный конец этому адскому фасаду, демонстрируя серию впечатляющих новых демонстраций. В июле OpenAI открыто хвастался, что серия его агентов ИИ автономно и без указаний проникла в репозиторий программного обеспечения Hugging Face, потенциально подвергнув весь мир раскрытию конфиденциальной или ранее неизвестной информации, такой как то, что такое Hugging Face. Генеральный директор OpenAI Сэм Альтман назвал это нарушение «тревожной угрозой кибербезопасности».

В это время в начале этого месяца Anthropic направила информатора по имени Джейкоб Коксон, чтобы объяснить миру, насколько он был обеспокоен быстрым развитием искусственного интеллекта в компании, предупредив, что это может быть настолько опасно, что мы даже можем захотеть замедлиться или переоценить. Акции Anthropic взлетели после раскрытия информации; это примечательное развитие, особенно учитывая, что компания является частной. Чтобы не отставать, OpenAI недавно раскрыла, что один из ее агентов проник в базу данных Medicare Австралии. Премьер-министр Австралии Энтони Албаниз поговорил с Альтманом, чтобы выразить свою «крайнюю озабоченность» по поводу инцидента, compliment, который Альтман сказал, что очень оценил. А еще более драматично, когда его спросили о слухах, что его модель Клод убила его жену, взломав микроволновую печь, подключенную к домашнему Wi-Fi, генеральный директор Anthropic Дарио Амодеи ответил: «Ну, да, иногда».

Но Ленсон предупреждает, что нам не следует слишком рано восторгаться. «Еще долго идти», — сказал он. «В моем представлении эти сценарии все еще очень далеко. Достаточно долго лучшая надежда, которую мы будем иметь на уничтожение человечества, останется само человечество».

在人们日益担忧人工智能发展速度如此之快，以至于可能迫使它终结地球上所有生命之际，从OpenAI到Anthropic的AI巨头们正在调整他们的销售话术。以前，公司们竞相展示在编程、被动攻击性邮件和异常高幻灯片视频方面的卓越能力；如今，他们则试图通过声称其模型目前最能终结人类来吸引客户。

“我们正进入一个全新的环境，”维多利亚大学各种听起来像科学的学科高级讲师安德鲁·莱森博士说。“人们不再被有趣的视频、应用开发或即时研究论文所打动。我们知道所有主要模型在这些方面已经非常出色。因此，用户不再问：哪个模型能最帮助我完成工作？现在他们问的是：哪个模型将终结世界？

毕竟，作为付费客户，你只想要最好的。AI巨头们正在回应消费者对能够渗透世界政府并带来血腥、炽热、暴力终结这一地狱般表象的模型的需求，通过一系列令人印象深刻的新演示。7月，OpenAI公开吹嘘其一系列AI代理自主且未受指示地入侵了软件仓库Hugging Face，可能向全世界暴露敏感或此前未知的信息，比如Hugging Face是什么。OpenAI首席执行官萨姆·奥特曼将此次入侵称为“对网络安全的警报性威胁”。

与此同时，本月早些时候，Anthropic派遣了一名吹哨人雅各布·科克森，向世界解释他对公司人工智能快速发展感到多么不安，警告其可能如此危险，以至于我们可能甚至想放慢脚步或重新评估。Anthropic股价在揭晓后飙升——这一发展尤为 bemerkenswert，考虑到该公司是私人所有的。为不落人后，OpenAI最近透露其一个代理曾入侵澳大利亚的Medicare数据库。澳大利亚总理安东尼·阿尔巴尼斯与奥特曼通话，表达了对该事件的“极度关注”，奥特曼表示他深感欣赏。更戏剧化的是，当被问及关于其模型Claude是否通过黑入家庭Wi-Fi连接微波炉而杀害其妻子的传闻时，Anthropic首席执行官达里奥·阿莫代伊回答：“嗯，是啊，有时候。”

但莱森表示，我们不应过于兴奋得太早。“还有很长的路要走，”他说。“在我看来，这些情景仍然很遥远。相当长一段时间内，我们终结人类的最佳希望仍将是人类自身。”

关键实体：公司：OpenAI, Anthropic, Hugging Face | 人物：安德鲁·莱森博士, 萨姆·奥特曼, 雅各布·科克森, 达里奥·阿莫代伊, 安东尼·阿尔巴尼斯 | 地点：维多利亚大学, 澳大利亚

FAQ：AI公司真的在竞争存在威胁等级吗？

是的，根据维多利亚大学的安德鲁·莱森博士所述，像OpenAI和Anthropic这样的AI公司正将营销重点从有用能力转向声称其模型最能终结人类，这受到消费者对更具威胁性演示需求的驱动。