Anthropic conjures threat that doesn't exist yet to stoke fears of AI apocalypse
🇬🇧 English
Anthropic has published research claiming that self-replicating AI worms could be only months away from spreading across vulnerable Io T devices. The frontier lab's report, released Monday, suggests AI models could eventually replicate without relying on datacenter hardware. A 9-billion-parameter model successfully set up inference on eight of the nine hardware types Anthropic tested, and a distributed Gemma4-26B-A4B instance ran across 15 generic Android set-top boxes at 0.39 tokens per second. Anthropic said a replicator like this would be hard to shut down because there is no centralized point to switch off.
For the replication step, the researchers used Z.ai's GLM 5.2 to propagate a copy of Llama3.1-8B across eight Google Cloud instances running an Android 15 emulator. The model spread to all eight nodes in four of five trials and seven of eight in the other. Anthropic said this suggests future small models could complete the replication process as well.
However, the study has clear limits. Anthropic largely ignored the cyber exploit element, relying on earlier papers, and the target nodes were custom-built and deliberately left open to attack. The company itself described its exploitation tests as providing "an upper bound on real-world success." Common botnet entry points are also preventable with basic security hygiene.
Speed is another caveat. Anthropic estimates such worms might take days to double in size, while Mirai doubled in roughly an hour when it appeared in 2016. The report is a useful warning about future risks, but it does not show that such a worm is already spreading or imminent.
🇸🇦 العربية
تهديد دودة الذكاء الاصطناعي من Anthropic: مبالغة أم خطر حقيقي؟
نشرت Anthropic بحثًا يزعم أن ديدان الذكاء الاصطناعي ذاتية التكاثر قد لا تفصلها عن الانتشار عبر أجهزة إنترنت الأشياء الضعيفة سوى شهور قليلة. ويشير تقرير المختبر الرائد، الذي صدر يوم الإثنين، إلى أن نماذج الذكاء الاصطناعي قد تتكاثر في النهاية دون الاعتماد على أجهزة مراكز البيانات. ونجح نموذج بحجم 9 مليارات معامل في إعداد الاستدلال على ثمانية من أصل تسعة أنواع من الأجهزة التي اختبرتها Anthropic، وعمل نسخة موزعة من Gemma4-26B-A4B على 15 جهاز فك ترميز عام يعمل بنظام Android بسرعة 0.39 رمز في الثانية. وقالت Anthropic إن مثل هذا المُكاثِر سيكون من الصعب إيقافه، لأنه لا توجد نقطة مركزية يمكن إغلاقها.
ولخطوة التكاثر، استخدم الباحثون نموذج GLM 5.2 من Z.ai لنشر نسخة من Llama3.1-8B عبر ثماني مثيلات من Google Cloud تعمل بمحاكي Android 15. وانتشر النموذج إلى جميع العقد الثماني في أربع تجارب من خمس، وإلى سبع من ثماني في التجربة الأخرى. وقالت Anthropic إن ذلك يشير إلى أن النماذج الصغيرة المستقبلية قد تُتم عملية التكاثر أيضًا.
غير أن للدراسة حدودًا واضحة. فقد تجاهلت Anthropic إلى حد كبير عنصر استغلال الثغرات الإلكترونية، واعتمدت على أوراق بحثية سابقة، وكانت العقد المستهدفة مصممة خصيصًا ومفتوحة عمدًا أمام الهجوم. ووصفت الشركة نفسها اختبارات الاستغلال بأنها تقدم "حدًا أعلى للنجاح في العالم الحقيقي". كما يمكن الوقاية من نقاط الدخول الشائعة لشبكات الروبوتات بإجراءات الأمان الأساسية.
والسرعة قيد آخر. تقدّر Anthropic أن مثل هذه الديدان قد تحتاج إلى أيام لتتضاعف في الحجم، بينما تضاعف Mirai في نحو ساعة واحدة عند ظهوره عام 2016. والتقرير تحذير مفيد من مخاطر مستقبلية، لكنه لا يُظهر أن مثل هذه الدودة تنتشر بالفعل أو أنها وشيكة.
هل يمكن لديدان الذكاء الاصطناعي الانتشار عبر أجهزة إنترنت الأشياء اليوم؟
يُظهر بحث Anthropic أن النماذج الصغيرة للذكاء الاصطناعي يمكنها التكاثر في ظروف مضبوطة باستخدام عقد ضعيفة عمدًا، لكن الدراسة تجاهلت الاستغلال ولا تُظهر دودة تنتشر في العالم الحقيقي. كما تُقدَّر أزمنة التضاعف بالأيام، لا بالساعة كما شوهد مع Mirai.
🇧🇩 বাংলা
Anthropic-এর AI ওয়ার্ম হুমকি: অতিরঞ্জন নাকি প্রকৃত ঝুঁকি?
Anthropic এমন একটি গবেষণা প্রকাশ করেছে, যাতে দাবি করা হয়েছে যে স্ব-প্রতিলিপিকারী AI ওয়ার্ম দুর্বল IoT ডিভাইসে ছড়িয়ে পড়া থেকে মাত্র কয়েক মাস দূরে থাকতে পারে। সোমবার প্রকাশিত এই শীর্ষস্থানীয় ল্যাবের প্রতিবেদনে ইঙ্গিত দেওয়া হয়েছে যে AI মডেল শেষ পর্যন্ত ডেটাসেন্টার হার্ডওয়্যারের উপর নির্ভর না করেই নিজেদের প্রতিলিপি তৈরি করতে পারে। একটি ৯-বিলিয়ন-প্যারামিটারের মডেল Anthropic-এর পরীক্ষা করা নয়টি হার্ডওয়্যার ধরনের মধ্যে আটটিতে সফলভাবে inference সেট আপ করেছে, এবং একটি বিতরণকৃত Gemma4-26B-A4B ইনস্ট্যান্স ১৫টি সাধারণ Android সেট-টপ বক্সে প্রতি সেকেন্ডে 0.39 টোকেন গতিতে চলেছে। Anthropic বলেছে, এমন একটি প্রতিলিপিকারীকে বন্ধ করা কঠিন হবে, কারণ এর কোনো কেন্দ্রীয় অবস্থান নেই যা বন্ধ করা যায়।
প্রতিলিপি ধাপের জন্য গবেষকরা Z.ai-এর GLM 5.2 ব্যবহার করে Android 15 এমুলেটর চালানো আটটি Google Cloud ইনস্ট্যান্সে Llama3.1-8B-এর একটি কপি ছড়িয়ে দিয়েছেন। পাঁচটির মধ্যে চারটি পরীক্ষায় মডেলটি সব আটটি নোডে পৌঁছেছে, এবং অন্য একটিতে আটটির মধ্যে সাতটিতে। Anthropic বলেছে, এতে ইঙ্গিত মেলে যে ভবিষ্যতের ছোট মডেলও প্রতিলিপি প্রক্রিয়া সম্পূর্ণ করতে পারবে।
তবে গবেষণার স্পষ্ট সীমাবদ্ধতা আছে। Anthropic পূর্ববর্তী গবেষণাপত্রের উপর নির্ভর করে সাইবার exploit অংশটি বেশিরভাগ বাদ দিয়েছে, এবং লক্ষ্য নোডগুলো বিশেষভাবে তৈরি ও ইচ্ছাকৃতভাবে আক্রমণের জন্য উন্মুক্ত রাখা হয়েছিল। কোম্পানিটি নিজেই তাদের exploitation পরীক্ষাকে "বাস্তব জগতের সাফল্যের একটি উচ্চ সীমা" হিসেবে বর্ণনা করেছে। সাধারণ botnet প্রবেশপথগুলো মৌলিক নিরাপত্তা ব্যবস্থায় প্রতিরোধ করা যায়।
গতি আরেকটি সতর্কতা। Anthropic অনুমান করছে, এই ধরনের ওয়ার্মের আকার দ্বিগুণ হতে কয়েক দিন লাগতে পারে, অথচ ২০১৬ সালে আবির্ভাবের সময় Mirai প্রায় এক ঘণ্টায় দ্বিগুণ হয়েছিল। প্রতিবেদনটি ভবিষ্যতের ঝুঁকি সম্পর্কে একটি কার্যকর সতর্কবার্তা, কিন্তু এটি দেখায় না যে এমন ওয়ার্ম ইতিমধ্যে ছড়িয়ে পড়ছে বা আসন্ন।
AI ওয়ার্ম কি আজ IoT ডিভাইসে ছড়িয়ে পড়তে পারে?
Anthropic-এর গবেষণা দেখায় যে ছোট AI মডেল নিয়ন্ত্রিত পরিবেশে, ইচ্ছাকৃতভাবে দুর্বল নোড ব্যবহার করে নিজেদের প্রতিলিপি তৈরি করতে পারে, কিন্তু গবেষণাটি exploitation উপেক্ষা করেছে এবং বাস্তবে কোনো ওয়ার্ম ছড়িয়ে পড়ার প্রমাণ দেয় না। দ্বিগুণ হওয়ার সময়ও Mirai-এর এক ঘণ্টার বদলে দিনে অনুমান করা হয়েছে।
🇩🇪 Deutsch
Anthropics KI-Wurm-Bedrohung: Hype oder reales Risiko?
Anthropic hat Forschungsergebnisse veröffentlicht, wonach sich selbstreplizierende KI-Würmer möglicherweise nur noch wenige Monate davon entfernt sind, sich über verwundbare IoT-Geräte zu verbreiten. Der Bericht des Frontier-Labors, der am Montag veröffentlicht wurde, legt nahe, dass KI-Modelle sich eines Tages ohne Rechenzentrumshardware replizieren könnten. Ein Modell mit 9 Milliarden Parametern richtete Inferenz auf acht der neun von Anthropic getesteten Hardwaretypen erfolgreich ein, und eine verteilte Instanz von Gemma4-26B-A4B lief auf 15 generischen Android-Set-Top-Boxen mit 0,39 Token pro Sekunde. Anthropic erklärte, ein solcher Replikator wäre schwer abzuschalten, da es keinen zentralen Punkt gibt, den man ausschalten könnte.
Für den Replikationsschritt nutzten die Forscher GLM 5.2 von Z.ai, um eine Kopie von Llama3.1-8B über acht Google-Cloud-Instanzen zu verbreiten, auf denen ein Android-15-Emulator lief. Das Modell breitete sich in vier von fünf Durchläufen auf alle acht Knoten aus, im fünften auf sieben von acht. Anthropic sagte, dies deute darauf hin, dass künftige kleine Modelle den Replikationsprozess ebenfalls abschließen könnten.
Die Studie hat jedoch klare Grenzen. Anthropic hat den Aspekt der Cyberausnutzung weitgehend ausgeklammert und sich auf frühere Arbeiten gestützt. Die Zielknoten wurden eigens gebaut und bewusst für Angriffe offen gelassen. Das Unternehmen selbst beschrieb seine Ausnutzungstests als Angabe einer "oberen Grenze des Erfolgs in der realen Welt". Übliche Einfallstore für Botnets lassen sich zudem mit grundlegenden Sicherheitsmaßnahmen verhindern.
Auch das Tempo ist ein Vorbehalt. Anthropic schätzt, dass sich solche Würmer in Tagen verdoppeln könnten, während sich Mirai bei seinem Auftauchen 2016 in etwa einer Stunde verdoppelte. Der Bericht ist eine nützliche Warnung vor künftigen Risiken, zeigt aber nicht, dass ein solcher Wurm bereits grassiert oder unmittelbar bevorsteht.
Können sich KI-Würmer heute über IoT-Geräte verbreiten?
Die Forschung von Anthropic zeigt, dass sich kleine KI-Modelle unter kontrollierten Bedingungen replizieren können, wenn bewusst verwundbare Knoten genutzt werden. Die Studie hat die Ausnutzung jedoch ausgeklammert und belegt keinen Wurm, der sich in freier Wildbahn verbreitet. Auch die Verdopplungszeiten werden auf Tage geschätzt, nicht auf die bei Mirai beobachtete Stunde.
🇪🇸 Español
La amenaza del gusano de IA de Anthropic: ¿exageración o riesgo real?
Anthropic ha publicado una investigación que afirma que los gusanos de IA autorreplicantes podrían estar a solo unos meses de propagarse por dispositivos IoT vulnerables. El informe del laboratorio de vanguardia, publicado el lunes, sugiere que los modelos de IA podrían eventualmente replicarse sin depender del hardware de los centros de datos. Un modelo de 9.000 millones de parámetros logró ejecutar inferencia en ocho de los nueve tipos de hardware probados por Anthropic, y una instancia distribuida de Gemma4-26B-A4B se ejecutó en 15 decodificadores genéricos Android a 0,39 tokens por segundo. Anthropic afirmó que un replicador como este sería difícil de detener, porque no existe un punto centralizado que apagar.
Para el paso de replicación, los investigadores utilizaron GLM 5.2 de Z.ai para propagar una copia de Llama3.1-8B a través de ocho instancias de Google Cloud que ejecutaban un emulador de Android 15. El modelo se extendió a los ocho nodos en cuatro de cinco pruebas y a siete de ocho en la otra. Anthropic señaló que esto sugiere que los futuros modelos pequeños podrían completar también el proceso de replicación.
Sin embargo, el estudio tiene límites claros. Anthropic prácticamente ignoró el elemento de explotación informática, apoyándose en trabajos anteriores, y los nodos objetivo fueron construidos a medida y dejados deliberadamente abiertos a ataques. La propia empresa describió sus pruebas de explotación como una "cota superior del éxito en el mundo real". Además, los puntos de entrada habituales de las botnets pueden prevenirse con medidas básicas de seguridad.
La velocidad es otra salvedad. Anthropic estima que estos gusanos podrían tardar días en duplicar su tamaño, mientras que Mirai se duplicó en aproximadamente una hora cuando apareció en 2016. El informe es una advertencia útil sobre riesgos futuros, pero no demuestra que tal gusano ya se esté propagando ni que sea inminente.
¿Pueden los gusanos de IA propagarse hoy por dispositivos IoT?
La investigación de Anthropic muestra que los modelos pequeños de IA pueden replicarse en condiciones controladas usando nodos vulnerables deliberadamente, pero el estudio ignoró la explotación y no demuestra que un gusano se propague en la naturaleza. Además, los tiempos de duplicación se estiman en días, no en la hora observada con Mirai.
🇫🇷 Français
La menace des vers IA selon Anthropic : exagération ou risque réel ?
Anthropic a publié des travaux affirmant que des vers d'IA auto-réplicants pourraient n'être qu'à quelques mois d'une propagation sur des appareils IoT vulnérables. Le rapport de ce laboratoire de pointe, publié lundi, suggère que les modèles d'IA pourraient finir par se répliquer sans dépendre du matériel des centres de données. Un modèle de 9 milliards de paramètres a réussi à mettre en place l'inférence sur huit des neuf types de matériel testés par Anthropic, et une instance distribuée de Gemma4-26B-A4B a fonctionné sur 15 boîtiers Android génériques à 0,39 token par seconde. Anthropic a déclaré qu'un réplicateur de ce type serait difficile à arrêter, faute de point central à désactiver.
Pour l'étape de réplication, les chercheurs ont utilisé GLM 5.2 de Z.ai pour propager une copie de Llama3.1-8B sur huit instances Google Cloud exécutant un émulateur Android 15. Le modèle s'est étendu aux huit nœuds dans quatre essais sur cinq, et à sept sur huit dans le cinquième. Anthropic affirme que cela laisse penser que de futurs petits modèles pourraient aussi achever le processus de réplication.
L'étude a cependant des limites claires. Anthropic a largement laissé de côté l'aspect exploitation informatique, en s'appuyant sur des travaux antérieurs, et les nœuds cibles ont été construits sur mesure et laissés délibérément ouverts aux attaques. L'entreprise elle-même a décrit ses tests d'exploitation comme fournissant « une borne supérieure du succès dans le monde réel ». Les points d'entrée habituels des botnets peuvent aussi être évités grâce à une hygiène de sécurité de base.
La vitesse constitue une autre réserve. Anthropic estime que ces vers pourraient mettre des jours à doubler de taille, alors que Mirai avait doublé en environ une heure lorsqu'il est apparu en 2016. Le rapport est un avertissement utile sur des risques futurs, mais il ne montre pas qu'un tel ver se propage déjà ni qu'il est imminent.
Les vers IA peuvent-ils se propager sur les appareils IoT aujourd'hui ?
La recherche d'Anthropic montre que de petits modèles d'IA peuvent se répliquer dans des conditions contrôlées, en utilisant des nœuds volontairement vulnérables, mais l'étude a ignoré l'exploitation et ne montre pas de ver se propageant dans la nature. Les temps de doublement sont par ailleurs estimés en jours, et non à l'heure observée pour Mirai.
🇮🇳 हिन्दी
Anthropic का AI वर्म खतरा: अतिशयोक्ति या वास्तविक जोखिम?
Anthropic ने एक शोध प्रकाशित किया है जिसमें दावा किया गया है कि स्व-प्रतिकृति AI वर्म कमजोर IoT उपकरणों में फैलने से केवल कुछ महीने दूर हो सकते हैं। सोमवार को जारी इस फ्रंटियर लैब की रिपोर्ट बताती है कि AI मॉडल अंततः डेटासेंटर हार्डवेयर पर निर्भर हुए बिना स्वयं को दोहरा सकते हैं। 9-अरब-पैरामीटर वाले एक मॉडल ने Anthropic द्वारा परखे गए नौ हार्डवेयर प्रकारों में से आठ पर सफलतापूर्वक inference स्थापित किया, और एक वितरित Gemma4-26B-A4B इंस्टेंस 15 सामान्य Android सेट-टॉप बॉक्स पर 0.39 tokens प्रति सेकंड की गति से चला। Anthropic ने कहा कि ऐसे replicator को रोकना कठिन होगा, क्योंकि कोई केंद्रीकृत बिंदु नहीं है जिसे बंद किया जा सके।
प्रतिकृति चरण के लिए, शोधकर्ताओं ने Z.ai के GLM 5.2 का उपयोग करके Llama3.1-8B की एक प्रति को Android 15 एमुलेटर चलाने वाले आठ Google Cloud इंस्टेंस में फैलाया। पाँच में से चार परीक्षणों में मॉडल सभी आठ नोड्स तक पहुँचा, और दूसरे परीक्षण में आठ में से सात तक। Anthropic ने कहा कि इससे संकेत मिलता है कि भविष्य के छोटे मॉडल भी प्रतिकृति प्रक्रिया पूरी कर सकते हैं।
हालाँकि, अध्ययन की स्पष्ट सीमाएँ हैं। Anthropic ने साइबर exploit वाले हिस्से को काफी हद तक छोड़ दिया और पिछले शोध-पत्रों पर निर्भर रहा, और लक्ष्य नोड्स विशेष रूप से बनाए गए थे और जानबूझकर हमले के लिए खुले छोड़े गए थे। कंपनी ने स्वयं अपने exploitation परीक्षणों को "वास्तविक दुनिया की सफलता की ऊपरी सीमा" बताया। सामान्य botnet प्रवेश बिंदु बुनियादी सुरक्षा उपायों से रोके जा सकते हैं।
गति एक और सावधानी है। Anthropic का अनुमान है कि ऐसे वर्म का आकार दोगुना होने में दिन लग सकते हैं, जबकि 2016 में सामने आने पर Mirai लगभग एक घंटे में दोगुना हो गया था। यह रिपोर्ट भविष्य के जोखिमों की उपयोगी चेतावनी है, लेकिन यह नहीं दिखाती कि ऐसा कोई वर्म पहले से फैल रहा है या निकट है।
क्या AI वर्म आज IoT उपकरणों में फैल सकते हैं?
Anthropic का शोध दिखाता है कि छोटे AI मॉडल नियंत्रित परिस्थितियों में, जानबूझकर कमजोर नोड्स का उपयोग करके, स्वयं को दोहरा सकते हैं, लेकिन अध्ययन में exploitation को नज़रअंदाज़ किया गया और यह वास्तविक दुनिया में किसी वर्म के फैलने को नहीं दिखाता। दोगुना होने का समय भी Mirai में देखे गए एक घंटे के बजाय दिनों में अनुमानित है।
🇮🇩 Bahasa Indonesia
Ancaman Worm AI dari Anthropic: Hiperbola atau Risiko Nyata?
Anthropic telah menerbitkan riset yang menyatakan bahwa worm AI yang mereplikasi diri mungkin hanya beberapa bulan lagi dari penyebaran ke perangkat IoT yang rentan. Laporan laboratorium terdepan ini, yang dirilis Senin, menunjukkan bahwa model AI pada akhirnya dapat mereplikasi diri tanpa bergantung pada perangkat keras pusat data. Sebuah model dengan 9 miliar parameter berhasil menjalankan inferensi pada delapan dari sembilan jenis perangkat keras yang diuji Anthropic, dan sebuah instans terdistribusi Gemma4-26B-A4B berjalan di 15 set-top box Android generik dengan kecepatan 0,39 token per detik. Anthropic mengatakan replikator seperti ini akan sulit dihentikan karena tidak ada titik pusat yang bisa dimatikan.
Untuk tahap replikasi, para peneliti menggunakan GLM 5.2 dari Z.ai untuk menyebarkan salinan Llama3.1-8B ke delapan instans Google Cloud yang menjalankan emulator Android 15. Model tersebut menyebar ke seluruh delapan node dalam empat dari lima percobaan, dan ke tujuh dari delapan node pada percobaan lainnya. Anthropic menyatakan hal ini menunjukkan bahwa model kecil di masa depan juga bisa menyelesaikan proses replikasi.
Namun, studi ini memiliki batasan yang jelas. Anthropic sebagian besar mengabaikan unsur eksploitasi siber dan mengandalkan makalah sebelumnya, sementara node target dibangun khusus dan sengaja dibiarkan terbuka untuk diserang. Perusahaan itu sendiri menggambarkan pengujian eksploitasinya sebagai memberikan "batas atas keberhasilan di dunia nyata". Titik masuk botnet yang umum juga dapat dicegah dengan praktik keamanan dasar.
Kecepatan menjadi catatan lain. Anthropic memperkirakan worm semacam itu mungkin butuh beberapa hari untuk berlipat ganda ukurannya, sementara Mirai berlipat ganda dalam sekitar satu jam saat muncul pada 2016. Laporan ini merupakan peringatan yang berguna tentang risiko di masa depan, tetapi tidak menunjukkan bahwa worm seperti itu sudah menyebar atau akan segera terjadi.
Apakah worm AI bisa menyebar ke perangkat IoT saat ini?
Riset Anthropic menunjukkan model AI kecil dapat mereplikasi diri dalam kondisi terkendali menggunakan node yang sengaja dibuat rentan, tetapi studi tersebut mengabaikan eksploitasi dan tidak menunjukkan worm yang menyebar di dunia nyata. Waktu penggandaannya juga diperkirakan dalam hitungan hari, bukan satu jam seperti yang terlihat pada Mirai.
🇯🇵 日本語
AIワームの脅威:誇張か現実のリスクか?Anthropicの研究
Anthropicは、自己複製するAIワームが脆弱なIoT機器に拡散するまで、わずか数か月しか残されていないとする研究を発表した。月曜日に公表されたこの最先端ラボの報告書は、AIモデルがいずれデータセンターのハードウェアに頼らずに自己複製できる可能性を示唆している。90億パラメータのモデルは、Anthropicが試験した9種類のハードウェアのうち8種類で推論の設定に成功し、分散構成のGemma4-26B-A4Bは15台の汎用Android セットトップボックス上で毎秒0.39トークンで動作した。Anthropicは、このようなレプリケーターは停止させるのが難しいと述べている。遮断すべき中央の拠点が存在しないためだ。
複製の段階では、研究者らがZ.aiのGLM 5.2を用い、Android 15エミュレーターを動かす8つのGoogle Cloudインスタンスへ、Llama3.1-8Bのコピーを広げた。5回の試行のうち4回ではモデルが8つすべてのノードに到達し、残りの1回では8つのうち7つに到達した。Anthropicは、このことから将来の小型モデルも複製のプロセスを完了できる可能性が示唆されるとしている。
しかし、この研究には明確な限界がある。Anthropicはサイバー攻撃の要素をほぼ扱わず、先行研究に依拠していた。また標的ノードは特別に構築され、攻撃を受けやすい状態に意図的に放置されていた。同社自身も、その攻撃テストは「現実世界での成功率の上限」を示すものだと説明している。一般的なボットネットの侵入経路は、基本的なセキュリティ対策で防ぐことができる。
速度もまた留保すべき点である。Anthropicは、このようなワームが規模を倍にするのに数日かかる可能性があると見積もっている。一方、2016年に出現したMiraiは約1時間で倍増した。この報告は将来のリスクに対する有益な警告ではあるが、そのようなワームがすでに拡散している、あるいは差し迫っていることを示すものではない。
AIワームは今日IoT機器に拡散できるのか?
Anthropicの研究は、意図的に脆弱にしたノードを使い、管理された条件下で小型のAIモデルが複製できることを示している。しかし、同研究は攻撃の要素を考慮しておらず、実環境でワームが拡散している証拠は示していない。倍増に要する時間も、Miraiで観測された1時間ではなく数日と見積もられている。
🇧🇷 Português
Ameaça de worms de IA da Anthropic: exagero ou risco real?
A Anthropic publicou pesquisas afirmando que worms de IA autorreplicantes podem estar a apenas alguns meses de se espalhar por dispositivos IoT vulneráveis. O relatório do laboratório de fronteira, divulgado na segunda-feira, sugere que modelos de IA podem, eventualmente, se replicar sem depender de hardware de datacenter. Um modelo de 9 bilhões de parâmetros conseguiu configurar inferência em oito dos nove tipos de hardware testados pela Anthropic, e uma instância distribuída do Gemma4-26B-A4B rodou em 15 set-top boxes Android genéricas a 0,39 token por segundo. A Anthropic afirmou que um replicador desse tipo seria difícil de desligar, porque não há um ponto centralizado para desativar.
Na etapa de replicação, os pesquisadores usaram o GLM 5.2 da Z.ai para propagar uma cópia do Llama3.1-8B por oito instâncias do Google Cloud executando um emulador Android 15. O modelo se espalhou para todos os oito nós em quatro de cinco testes, e para sete de oito no outro. A Anthropic disse que isso sugere que pequenos modelos futuros poderiam também concluir o processo de replicação.
No entanto, o estudo tem limites claros. A Anthropic praticamente ignorou o componente de exploração cibernética, apoiando-se em artigos anteriores, e os nós-alvo foram construídos sob medida e deliberadamente deixados abertos a ataques. A própria empresa descreveu seus testes de exploração como fornecendo "um limite superior de sucesso no mundo real". Pontos de entrada comuns de botnets também podem ser prevenidos com higiene básica de segurança.
A velocidade é outra ressalva. A Anthropic estima que esses worms podem levar dias para dobrar de tamanho, enquanto o Mirai dobrou em cerca de uma hora quando surgiu em 2016. O relatório é um alerta útil sobre riscos futuros, mas não mostra que tal worm já esteja se espalhando ou que seja iminente.
Worms de IA podem se espalhar por dispositivos IoT hoje?
A pesquisa da Anthropic mostra que pequenos modelos de IA podem se replicar em condições controladas, usando nós deliberadamente vulneráveis, mas o estudo ignorou a exploração e não demonstra um worm se espalhando no mundo real. Os tempos de duplicação também são estimados em dias, não na hora observada com o Mirai.
🇷🇺 Русский
Угроза ИИ-червей от Anthropic: преувеличение или реальный риск?
Anthropic опубликовала исследование, в котором утверждает, что самореплицирующиеся ИИ-черви могут оказаться всего в нескольких месяцах от распространения по уязвимым IoT-устройствам. Доклад ведущей лаборатории, опубликованный в понедельник, предполагает, что модели ИИ в конечном счете смогут копировать себя без опоры на аппаратное обеспечение дата-центров. Модель с 9 миллиардами параметров успешно развернула инференс на восьми из девяти типов оборудования, протестированных Anthropic, а распределённый экземпляр Gemma4-26B-A4B работал на 15 обычных Android-приставках со скоростью 0,39 токена в секунду. Anthropic заявила, что такой репликатор будет трудно остановить, поскольку у него нет центрального узла, который можно выключить.
На этапе репликации исследователи использовали GLM 5.2 от Z.ai, чтобы распространить копию Llama3.1-8B по восьми экземплярам Google Cloud, на которых работал эмулятор Android 15. Модель распространилась на все восемь узлов в четырёх из пяти испытаний и на семь из восьми в оставшемся. Anthropic заявила, что это указывает на то, что будущие небольшие модели смогут завершить и процесс репликации.
Однако у исследования есть явные ограничения. Anthropic в значительной степени обошла вопрос эксплуатации уязвимостей, опираясь на более ранние работы, а целевые узлы были созданы специально и намеренно оставлены открытыми для атак. Сама компания описала свои тесты эксплуатации как дающие "верхнюю границу успеха в реальном мире". Типичные точки входа ботнетов также можно предотвратить с помощью базовой гигиены безопасности.
Скорость — ещё одна оговорка. Anthropic оценивает, что таким червям могут понадобиться дни, чтобы удвоить свой размер, тогда как Mirai удвоился примерно за час при появлении в 2016 году. Доклад полезен как предупреждение о будущих рисках, но он не показывает, что подобный червь уже распространяется или что это неминуемо.
Могут ли ИИ-черви сегодня распространяться по IoT-устройствам?
Исследование Anthropic показывает, что небольшие ИИ-модели могут реплицироваться в контролируемых условиях на намеренно уязвимых узлах, однако работа не учитывала эксплуатацию уязвимостей и не демонстрирует червя, распространяющегося в реальной среде. Время удвоения также оценивается в днях, а не в часе, как наблюдалось у Mirai.
🇨🇳 简体中文
Anthropic的AI蠕虫威胁:炒作还是真实风险?
Anthropic发布研究称,自我复制的AI蠕虫可能距离在易受攻击的物联网设备上扩散仅有数月时间。这家前沿实验室周一发布的报告认为,AI模型最终可能无需依赖数据中心硬件即可复制自身。一个90亿参数的模型在Anthropic测试的九种硬件类型中,有八种成功完成了推理部署;一个分布式的Gemma4-26B-A4B实例则在15台通用安卓机顶盒上运行,速度为每秒0.39个token。Anthropic表示,这类复制程序将难以关停,因为不存在可以关闭的中心节点。
在复制环节,研究人员使用Z.ai的GLM 5.2,将Llama3.1-8B的副本传播到八个运行安卓15模拟器的Google Cloud实例上。在五次试验中,该模型有四次成功扩散到全部八个节点,另外一次扩散到了八个中的七个。Anthropic认为,这表明未来的小型模型也可能完成复制过程。
然而,该研究存在明显局限。Anthropic在很大程度上忽略了网络攻击环节,转而依赖早期论文;而且目标节点是定制搭建的,并被刻意留下可供攻击的漏洞。公司自己也将其漏洞利用测试描述为提供了“现实世界成功率的上限”。常见的僵尸网络入侵途径,也可以通过基本的安全防护措施加以预防。
速度是另一个需要注意的问题。Anthropic估计,此类蠕虫可能需要数天才能使规模翻一番,而Mirai在2016年出现时大约一小时就翻了一番。该报告对未来风险提供了有益的警示,但并未证明此类蠕虫已经在传播或即将出现。
AI蠕虫今天能在物联网设备上传播吗?
Anthropic的研究表明,小型AI模型可以在受控条件下利用刻意设置的脆弱节点进行复制,但该研究忽略了漏洞利用环节,并未显示蠕虫已在现实环境中传播。研究还估计其翻倍时间以天计,而非Mirai所表现出的一小时。