Open models have real benefits. Do they outweigh the risks?

Late last month, Anthropic released a report arguing that GLM-5.3, a powerful model released in August by the Chinese company Z.ai, poses a major cyberattack risk because it is freely available for anyone to download and modify. The claim is the latest move in a long-running debate about whether frontier AI models should be open or locked behind the doors of frontier labs.

Much of the debate is playing out in public, and a lot of money rides on the outcome. Nvidia CEO Jensen Huang, who stands to gain if people keep buying their own hardware to run open models, enthusiastically advocates for the United States to develop more of them. Anthropic's Dario Amodei, whose company could be undermined by cheap, powerful models, advocates a more cautious approach. Beneath these commercial incentives, however, there is real substance. As David Gray Widder of the University of Texas at Austin puts it, how someone views openness is shaped by how they view AI overall.

Those concerned about AI safety warn that open models can easily be misused by bad actors. Others focus on AI's practical potential and argue that this power should not sit behind the closed doors of a few big companies, and that open models could spread it more widely. Options range from banning open models entirely to releasing them freely, and any approach involves trade-offs between safety and democratization.

Open models offer concrete benefits. Closed models such as those powering ChatGPT and Claude are accessed only through a website, app, or API. Open models can be downloaded, with their model weights publicly available, letting people run them on their own computers and, given expertise, retrain them. Closed models are currently more capable, with the top eight models on the Artificial Analysis LLM leaderboard all closed, though open models trail by only a few months. Researchers depend on open models to observe internal workings and chains of thought, combine them, compress them, and fine-tune them. Businesses have reasons to prefer them too.

في أواخر الشهر الماضي، أصدرت Anthropic تقريراً يرى أن GLM-5.3، وهو نموذج قوي أطلقته شركة Z.ai الصينية في أغسطس، يشكل خطراً كبيراً للهجمات الإلكترونية لأنه متاح للجميع لتنزيله وتعديله مجاناً. ويأتي هذا الادعاء كأحدث فصول نقاش طويل حول ما إذا كان ينبغي أن تكون نماذج الذكاء الاصطناعي المتقدمة مفتوحة أم محجوبة خلف أبواب مختبرات الطليعة.

يدور جزء كبير من هذا النقاش علناً، وتتعلق بنتيجته أموال طائلة. يدعو الرئيس التنفيذي لشركة Nvidia جنسن هوانغ، الذي سيستفيد إذا استمر الناس في شراء أجهزتهم الخاصة لتشغيل النماذج المفتوحة، بحماس إلى أن تطور الولايات المتحدة المزيد منها. أما داريو أمودي من Anthropic، التي قد تتضرر من النماذج الرخيصة والقوية، فيدعو إلى نهج أكثر حذراً. لكن تحت هذه الحوافز التجارية يكمن جوهر حقيقي، إذ يرى David Gray Widder من جامعة تكساس في أوستن أن طريقة نظر الشخص إلى الانفتاح تتشكل بحسب نظرته إلى الذكاء الاصطناعي عموماً.

يحذر المهتمون بسلامة الذكاء الاصطناعي من أن النماذج المفتوحة قد يسيء استخدامها بسهولة أصحاب النوايا السيئة. ويركز آخرون على الإمكانات العملية للذكاء الاصطناعي ويرون أن هذه القوة لا ينبغي أن تبقى خلف الأبواب المغلقة لعدد قليل من الشركات الكبرى، وأن النماذج المفتوحة قد تنشرها على نطاق أوسع. وتتراوح الخيارات بين حظر النماذج المفتوحة كلياً وإتاحتها مجاناً، وينطوي أي نهج على مفاضلات بين السلامة وإضفاء الطابع الديمقراطي.

تقدم النماذج المفتوحة فوائد ملموسة. فالنماذج المغلقة، مثل تلك التي تشغّل ChatGPT وClaude، لا يمكن الوصول إليها إلا عبر موقع أو تطبيق أو واجهة برمجية. أما النماذج المفتوحة فيمكن تنزيلها، مع إتاحة أوزان النموذج للعامة، ما يتيح تشغيلها على أجهزة الحاسوب الخاصة بالناس وإعادة تدريبها متى توفرت الخبرة. والنماذج المغلقة أكثر قدرة حالياً، إذ إن الثمانية الأوائل في لوحة صدارة Artificial Analysis LLM كلها مغلقة، لكن النماذج المفتوحة متأخرة بضعة أشهر فقط. ويعتمد الباحثون على النماذج المفتوحة لملاحظة آليات عملها الداخلية وسلاسل تفكيرها، ولدمجها وضغطها وضبطها الدقيق. ولدى الشركات أيضاً أسباب لتفضيلها.

গত মাসের শেষের দিকে, Anthropic একটি প্রতিবেদন প্রকাশ করে যাতে বলা হয়েছে, চীনা কোম্পানি Z.ai আগস্টে যে শক্তিশালী মডেল GLM-5.3 প্রকাশ করেছে, তা যেকেউ বিনামূল্যে ডাউনলোড ও পরিবর্তন করতে পারায় বড় সাইবার আক্রমণের ঝুঁকি তৈরি করে। এই দাবিটি দীর্ঘদিনের একটি বিতর্কের সর্বশেষ অধ্যায়, যেখানে প্রশ্ন হলো, অত্যাধুনিক AI মডেল কি উন্মুক্ত থাকা উচিত, নাকি ফ্রন্টিয়ার ল্যাবগুলোর বন্ধ দরজার আড়ালে আটকে রাখা উচিত।

এই বিতর্কের বড় অংশ প্রকাশ্যে চলছে, এবং এর ফলাফলের সঙ্গে প্রচুর অর্থ জড়িত। Nvidia-র সিইও জেনসেন হুয়াং, যিনি লাভবান হবেন যদি মানুষ উন্মুক্ত মডেল চালাতে নিজস্ব হার্ডওয়্যার কিনতে থাকে, উৎসাহের সঙ্গে আহ্বান জানান যে যুক্তরাষ্ট্র আরও এমন মডেল তৈরি করুক। Anthropic-এর দারিও আমোদেই, যাঁর কোম্পানি সস্তা ও শক্তিশালী মডেলের কারণে ক্ষতিগ্রস্ত হতে পারে, আরও সতর্ক পদ্ধতির পক্ষে। তবে এই বাণিজ্যিক প্রণোদনার নিচেও প্রকৃত যুক্তি রয়েছে। টেক্সাস বিশ্ববিদ্যালয়, অস্টিনের David Gray Widder-এর মতে, কেউ উন্মুক্ততাকে কীভাবে দেখেন, তা নির্ভর করে তিনি সামগ্রিকভাবে AI-কে কীভাবে দেখেন তার উপর।

AI নিরাপত্তা নিয়ে উদ্বিগ্নরা সতর্ক করেন যে উন্মুক্ত মডেল সহজেই অসৎ ব্যক্তিদের হাতে অপব্যবহৃত হতে পারে। অন্যরা AI-এর ব্যবহারিক সম্ভাবনার উপর জোর দেন এবং বলেন, এই ক্ষমতা কয়েকটি বড় কোম্পানির বন্ধ দরজার আড়ালে থাকা উচিত নয়, এবং উন্মুক্ত মডেল একে আরও ব্যাপকভাবে ছড়িয়ে দিতে পারে। বিকল্পগুলোর মধ্যে রয়েছে উন্মুক্ত মডেল পুরোপুরি নিষিদ্ধ করা থেকে শুরু করে সেগুলো বিনামূল্যে প্রকাশ করা, এবং যেকোনো পদ্ধতিতেই নিরাপত্তা ও গণতন্ত্রায়নের মধ্যে আপসের প্রশ্ন জড়িত।

উন্মুক্ত মডেল বাস্তব সুবিধা দেয়। ChatGPT ও Claude-কে চালিত করে এমন বন্ধ মডেলগুলোতে কেবল একটি ওয়েবসাইট, অ্যাপ বা API-র মাধ্যমে প্রবেশ করা যায়। উন্মুক্ত মডেল ডাউনলোড করা যায়, যার মডেল ওয়েটস সর্বজনীনভাবে উপলব্ধ, ফলে মানুষ নিজের কম্পিউটারে সেগুলো চালাতে পারে এবং দক্ষতা থাকলে পুনরায় প্রশিক্ষণও দিতে পারে। বর্তমানে বন্ধ মডেলগুলো বেশি সক্ষম, Artificial Analysis LLM লিডারবোর্ডের শীর্ষ আটটিই বন্ধ, যদিও উন্মুক্ত মডেলগুলো মাত্র কয়েক মাস পিছিয়ে আছে। গবেষকরা অভ্যন্তরীণ কার্যপ্রণালী ও চিন্তার শৃঙ্খল পর্যবেক্ষণ, একত্রিত, সংকুচিত ও ফাইন-টিউন করতে উন্মুক্ত মডেলের উপর নির্ভর করেন। ব্যবসারও এগুলো পছন্দ করার যথেষ্ট কারণ রয়েছে।

Ende des vergangenen Monats veröffentlichte Anthropic einen Bericht, wonach GLM-5.3, ein leistungsstarkes Modell, das im August vom chinesischen Unternehmen Z.ai vorgestellt wurde, ein erhebliches Cyberangriffsrisiko darstellt, weil es von jedem frei heruntergeladen und verändert werden kann. Die Behauptung ist der jüngste Schritt in einer langjährigen Debatte darüber, ob fortschrittliche KI-Modelle offen zugänglich sein oder hinter den Türen der führenden Labore verschlossen bleiben sollten.

Der größte Teil dieser Debatte findet öffentlich statt, und für ihren Ausgang steht viel Geld auf dem Spiel. Nvidia-CEO Jensen Huang, der profitiert, wenn Menschen weiterhin eigene Hardware kaufen, um offene Modelle zu betreiben, setzt sich mit Begeisterung dafür ein, dass die Vereinigten Staaten mehr davon entwickeln. Dario Amodei von Anthropic, dessen Unternehmen durch günstige, leistungsstarke Modelle unter Druck geraten könnte, plädiert für einen vorsichtigeren Ansatz. Hinter diesen kommerziellen Anreizen steckt jedoch durchaus ernsthafte Substanz. Wie David Gray Widder von der University of Texas at Austin es formuliert, wird die Haltung zur Offenheit davon geprägt, wie jemand KI insgesamt sieht.

Wer sich um die Sicherheit von KI sorgt, warnt, dass offene Modelle von böswilligen Akteuren leicht missbraucht werden können. Andere konzentrieren sich auf das praktische Potenzial der KI und argumentieren, dass diese Macht nicht hinter den verschlossenen Türen weniger großer Konzerne bleiben sollte und offene Modelle sie breiter verteilen könnten. Die Optionen reichen von einem vollständigen Verbot offener Modelle bis zu ihrer freien Veröffentlichung, und jeder Ansatz bringt Abwägungen zwischen Sicherheit und Demokratisierung mit sich.

Offene Modelle bieten konkrete Vorteile. Geschlossene Modelle wie jene, die ChatGPT und Claude antreiben, sind nur über eine Website, eine App oder eine API zugänglich. Offene Modelle lassen sich herunterladen, ihre Modellgewichte sind öffentlich verfügbar, sodass Menschen sie auf eigenen Computern betreiben und mit entsprechendem Fachwissen neu trainieren können. Geschlossene Modelle sind derzeit leistungsfähiger: Die acht führenden Modelle der Rangliste von Artificial Analysis sind allesamt geschlossen, doch offene Modelle liegen nur wenige Monate zurück. Forschende sind auf offene Modelle angewiesen, um ihre inneren Abläufe und Gedankenketten zu beobachten, sie zu kombinieren, zu komprimieren und feinabzustimmen. Auch Unternehmen haben gute Gründe, sie zu bevorzugen.

A finales del mes pasado, Anthropic publicó un informe en el que sostiene que GLM-5.3, un potente modelo lanzado en agosto por la empresa china Z.ai, supone un importante riesgo de ciberataques porque cualquiera puede descargarlo y modificarlo gratuitamente. La afirmación es el último episodio de un debate de larga data sobre si los modelos de IA más avanzados deberían ser abiertos o estar encerrados tras las puertas de los laboratorios punteros.

Gran parte del debate se desarrolla en público, y mucho dinero está en juego. Jensen Huang, consejero delegado de Nvidia, que se beneficiaría si la gente sigue comprando su propio hardware para ejecutar modelos abiertos, defiende con entusiasmo que Estados Unidos desarrolle más de ellos. Dario Amodei, de Anthropic, cuya empresa podría verse perjudicada por modelos baratos y potentes, aboga por un enfoque más cauteloso. Pero más allá de estos incentivos comerciales hay una base real. Como explica David Gray Widder, de la Universidad de Texas en Austin, la forma en que alguien ve la apertura depende de cómo ve la IA en general.

Quienes se preocupan por la seguridad de la IA advierten de que los modelos abiertos pueden ser fácilmente mal utilizados por actores malintencionados. Otros se centran en el potencial práctico de la IA y sostienen que ese poder no debería quedar tras las puertas cerradas de unas pocas grandes empresas, y que los modelos abiertos podrían difundirlo más ampliamente. Las opciones van desde prohibir por completo los modelos abiertos hasta publicarlos libremente, y cualquier enfoque implica compensaciones entre seguridad y democratización.

Los modelos abiertos ofrecen beneficios concretos. Los modelos cerrados, como los que impulsan ChatGPT y Claude, solo se utilizan a través de un sitio web, una aplicación o una API. Los modelos abiertos pueden descargarse, con sus pesos del modelo disponibles públicamente, lo que permite ejecutarlos en los propios ordenadores y, con los conocimientos adecuados, reentrenarlos. Actualmente los modelos cerrados son más capaces: los ocho primeros de la clasificación de LLM de Artificial Analysis son todos cerrados, aunque los modelos abiertos van por detrás solo unos pocos meses. Los investigadores dependen de los modelos abiertos para observar su funcionamiento interno y sus cadenas de razonamiento, combinarlos, comprimirlos y ajustarlos. Las empresas también tienen razones para preferirlos.

Fin le mois dernier, Anthropic a publié un rapport affirmant que GLM-5.3, un modèle puissant lancé en août par l'entreprise chinoise Z.ai, présente un risque majeur de cyberattaque, car il peut être librement téléchargé et modifié par n'importe qui. Cette affirmation s'inscrit dans un débat de longue date : les modèles d'IA de pointe doivent-ils être ouverts ou rester enfermés derrière les portes des laboratoires de pointe ?

Une grande partie de ce débat se déroule publiquement, et des sommes considérables sont en jeu. Jensen Huang, PDG de Nvidia, qui profiterait si les gens continuaient d'acheter leur propre matériel pour faire tourner des modèles ouverts, plaide avec enthousiasme pour que les États-Unis en développent davantage. Dario Amodei, d'Anthropic, dont l'entreprise pourrait être fragilisée par des modèles peu coûteux et puissants, préconise une approche plus prudente. Sous ces intérêts commerciaux se cache toutefois un fond réel. Comme le souligne David Gray Widder, de l'université du Texas à Austin, la façon dont on perçoit l'ouverture dépend de la façon dont on perçoit l'IA dans son ensemble.

Ceux qui se préoccupent de la sécurité de l'IA avertissent que les modèles ouverts peuvent facilement être détournés par des acteurs malveillants. D'autres insistent sur le potentiel pratique de l'IA et soutiennent que cette puissance ne devrait pas rester derrière les portes closes de quelques grandes entreprises, et que les modèles ouverts pourraient la diffuser plus largement. Les options vont de l'interdiction totale des modèles ouverts à leur publication libre, et toute approche implique des compromis entre sécurité et démocratisation.

Les modèles ouverts offrent des avantages concrets. Les modèles fermés, comme ceux qui alimentent ChatGPT et Claude, ne sont accessibles que via un site web, une application ou une API. Les modèles ouverts peuvent être téléchargés, leurs poids de modèle étant publiquement disponibles, ce qui permet de les exécuter sur ses propres ordinateurs et, avec l'expertise nécessaire, de les réentraîner. Les modèles fermés sont actuellement plus performants : les huit premiers du classement LLM d'Artificial Analysis sont tous fermés, bien que les modèles ouverts ne soient en retard que de quelques mois. Les chercheurs dépendent des modèles ouverts pour observer leur fonctionnement interne et leurs chaînes de raisonnement, les combiner, les compresser et les affiner. Les entreprises ont elles aussi de bonnes raisons de les préférer.

पिछले महीने के अंत में, Anthropic ने एक रिपोर्ट जारी की जिसमें तर्क दिया गया कि GLM-5.3, जो अगस्त में चीनी कंपनी Z.ai द्वारा जारी किया गया एक शक्तिशाली मॉडल है, साइबर हमले का बड़ा जोखिम पैदा करता है, क्योंकि इसे कोई भी मुफ़्त में डाउनलोड और संशोधित कर सकता है। यह दावा इस लंबे समय से चल रही बहस में नया कदम है कि अत्याधुनिक AI मॉडल खुले होने चाहिए या फ्रंटियर लैब्स के बंद दरवाज़ों के पीछे रहने चाहिए।

इस बहस का बड़ा हिस्सा सार्वजनिक रूप से चल रहा है, और इसके परिणाम पर भारी धन दांव पर है। Nvidia के CEO जेनसेन हुआंग, जिन्हें लाभ होगा यदि लोग खुले मॉडल चलाने के लिए अपना हार्डवेयर खरीदते रहें, उत्साहपूर्वक यह पैरवी करते हैं कि संयुक्त राज्य अमेरिका ऐसे और मॉडल विकसित करे। Anthropic के डारियो अमोदेई, जिनकी कंपनी को सस्ते और शक्तिशाली मॉडलों से नुकसान हो सकता है, अधिक सावधानीपूर्ण दृष्टिकोण की वकालत करते हैं। लेकिन इन व्यावसायिक प्रोत्साहनों के नीचे वास्तविक तथ्य भी हैं। टेक्सास विश्वविद्यालय, ऑस्टिन के David Gray Widder के अनुसार, कोई खुलेपन को कैसे देखता है, यह इस पर निर्भर करता है कि वह समग्र रूप से AI को कैसे देखता है।

AI सुरक्षा से चिंतित लोग चेतावनी देते हैं कि खुले मॉडलों का आसानी से बुरे तत्वों द्वारा दुरुपयोग हो सकता है। अन्य लोग AI की व्यावहारिक क्षमता पर ध्यान देते हैं और तर्क देते हैं कि यह शक्ति कुछ बड़ी कंपनियों के बंद दरवाज़ों के पीछे नहीं रहनी चाहिए, और खुले मॉडल इसे अधिक व्यापक रूप से फैला सकते हैं। विकल्प खुले मॉडलों पर पूर्ण प्रतिबंध से लेकर उन्हें मुफ़्त जारी करने तक हैं, और हर दृष्टिकोण में सुरक्षा और लोकतंत्रीकरण के बीच समझौते शामिल हैं।

खुले मॉडल ठोस लाभ देते हैं। ChatGPT और Claude जैसे बंद मॉडल केवल वेबसाइट, ऐप या API के माध्यम से उपयोग किए जाते हैं। खुले मॉडल डाउनलोड किए जा सकते हैं, जिनके मॉडल वेट्स सार्वजनिक रूप से उपलब्ध होते हैं, जिससे लोग उन्हें अपने कंप्यूटर पर चला सकते हैं और विशेषज्ञता होने पर उन्हें पुनः प्रशिक्षित भी कर सकते हैं। फिलहाल बंद मॉडल अधिक सक्षम हैं, Artificial Analysis LLM लीडरबोर्ड के शीर्ष आठ मॉडल सभी बंद हैं, हालांकि खुले मॉडल केवल कुछ महीने पीछे हैं। शोधकर्ता आंतरिक कार्यप्रणाली और विचार-श्रृंखलाओं को देखने, उन्हें मिलाने, संपीड़ित करने और फाइन-ट्यून करने के लिए खुले मॉडलों पर निर्भर रहते हैं। व्यवसायों के पास भी इन्हें पसंद करने के कारण हैं।

Akhir bulan lalu, Anthropic merilis laporan yang menyatakan bahwa GLM-5.3, model canggih yang dirilis Agustus lalu oleh perusahaan Tiongkok Z.ai, menimbulkan risiko serangan siber yang besar karena siapa pun dapat mengunduh dan memodifikasinya secara gratis. Klaim ini adalah langkah terbaru dalam perdebatan panjang tentang apakah model AI tercanggih seharusnya terbuka atau tetap terkunci di balik pintu laboratorium terdepan.

Sebagian besar perdebatan ini berlangsung di ruang publik, dan banyak uang dipertaruhkan dari hasilnya. CEO Nvidia Jensen Huang, yang akan diuntungkan jika orang terus membeli perangkat keras sendiri untuk menjalankan model terbuka, dengan antusias mendorong Amerika Serikat untuk mengembangkan lebih banyak model semacam itu. Dario Amodei dari Anthropic, yang perusahaannya bisa terancam oleh model murah dan canggih, menganjurkan pendekatan yang lebih hati-hati. Namun di balik insentif komersial tersebut, ada substansi yang nyata. Seperti kata David Gray Widder dari University of Texas di Austin, cara seseorang memandang keterbukaan dibentuk oleh cara ia memandang AI secara keseluruhan.

Mereka yang peduli pada keamanan AI memperingatkan bahwa model terbuka dapat dengan mudah disalahgunakan oleh pihak jahat. Yang lain berfokus pada potensi praktis AI dan berpendapat bahwa kekuatan ini tidak seharusnya berada di balik pintu tertutup beberapa perusahaan besar, dan bahwa model terbuka dapat menyebarkannya lebih luas. Pilihannya mulai dari melarang model terbuka sepenuhnya hingga merilisnya secara bebas, dan setiap pendekatan melibatkan pertukaran antara keamanan dan demokratisasi.

Model terbuka menawarkan manfaat nyata. Model tertutup seperti yang menggerakkan ChatGPT dan Claude hanya dapat diakses melalui situs web, aplikasi, atau API. Model terbuka dapat diunduh, dengan bobot model yang tersedia untuk publik, sehingga orang dapat menjalankannya di komputer mereka sendiri dan, dengan keahlian yang memadai, melatihnya ulang. Model tertutup saat ini lebih mumpuni, dengan delapan model teratas di papan peringkat LLM Artificial Analysis semuanya tertutup, meskipun model terbuka hanya tertinggal beberapa bulan. Para peneliti mengandalkan model terbuka untuk mengamati cara kerja internal dan rangkaian penalarannya, menggabungkannya, mengompresinya, dan melakukan penyempurnaan lanjutan. Bisnis juga memiliki alasan untuk lebih memilihnya.

先月下旬、Anthropicは報告書を発表し、中国企業Z.aiが8月に公開した強力なモデルGLM-5.3は、誰でも無料でダウンロードして改変できるため、重大なサイバー攻撃のリスクをもたらすと主張しました。この主張は、最先端のAIモデルはオープンにすべきか、それとも最先端の研究所の扉の内側に閉じ込めておくべきか、という長年の議論における最新の動きです。

この議論の多くは公の場で展開されており、その結果には多額の資金がかかっています。自社のハードウェアを購入してオープンモデルを動かす人が増えれば利益を得るNvidia CEOのジェンスン・ファンは、米国がより多くのオープンモデルを開発すべきだと熱心に主張しています。安価で強力なモデルによって事業が脅かされうるAnthropicのダリオ・アモデイは、より慎重なアプローチを提唱しています。ただし、こうした商業的な動機の背後には実質的な論点もあります。テキサス大学オースティン校のDavid Gray Widderが指摘するように、オープン性をどう捉えるかは、AI全般をどう捉えるかによって形作られるのです。

AIの安全性を懸念する人々は、オープンモデルが悪意ある者によって容易に悪用されうると警告しています。一方で、AIの実用的な可能性に注目する人々は、この力が少数の大企業の閉ざされた扉の内側に留まるべきではなく、オープンモデルによってより広く行き渡らせられると主張しています。選択肢はオープンモデルの全面禁止から自由な公開までさまざまであり、どのアプローチにも安全性と民主化のあいだのトレードオフが伴います。

オープンモデルには具体的な利点があります。ChatGPTやClaudeを動かすような非公開モデルは、ウェブサイト、アプリ、APIを通じてのみ利用できます。一方、オープンモデルはダウンロードでき、そのモデルの重みが公開されているため、自分のコンピュータで動かしたり、専門知識があれば再学習させたりできます。現在は非公開モデルの方が高性能で、Artificial AnalysisのLLMリーダーボードの上位8モデルはすべて非公開ですが、オープンモデルとの差はわずか数か月です。研究者は、内部の動作や思考の連鎖を観察し、組み合わせ、圧縮し、ファインチューニングするためにオープンモデルに依存しています。企業にとっても、オープンモデルを選ぶ理由があります。

No final do mês passado, a Anthropic divulgou um relatório que afirma que o GLM-5.3, um modelo poderoso lançado em agosto pela empresa chinesa Z.ai, representa um grande risco de ciberataques porque qualquer pessoa pode baixá-lo e modificá-lo gratuitamente. A afirmação é o mais recente capítulo de um debate antigo sobre se os modelos de IA de fronteira devem ser abertos ou permanecer trancados atrás das portas dos laboratórios de ponta.

Grande parte desse debate acontece em público, e muito dinheiro está em jogo. Jensen Huang, CEO da Nvidia, que se beneficia se as pessoas continuarem comprando seu próprio hardware para executar modelos abertos, defende com entusiasmo que os Estados Unidos desenvolvam mais deles. Dario Amodei, da Anthropic, cuja empresa poderia ser prejudicada por modelos baratos e poderosos, defende uma abordagem mais cautelosa. Por trás desses incentivos comerciais, no entanto, há substância real. Como afirma David Gray Widder, da Universidade do Texas em Austin, a forma como alguém enxerga a abertura é moldada por sua visão geral sobre a IA.

Quem se preocupa com a segurança da IA alerta que modelos abertos podem ser facilmente usados de forma indevida por agentes mal-intencionados. Outros concentram-se no potencial prático da IA e argumentam que esse poder não deveria ficar atrás das portas fechadas de algumas grandes empresas, e que modelos abertos poderiam difundi-lo mais amplamente. As opções vão desde proibir totalmente os modelos abertos até liberá-los gratuitamente, e qualquer abordagem envolve compensações entre segurança e democratização.

Os modelos abertos oferecem benefícios concretos. Modelos fechados, como os que alimentam o ChatGPT e o Claude, são acessados apenas por meio de um site, aplicativo ou API. Já os modelos abertos podem ser baixados, com seus pesos do modelo disponíveis publicamente, permitindo que as pessoas os executem em seus próprios computadores e, com conhecimento especializado, os retreinem. Atualmente, os modelos fechados são mais capazes: os oito primeiros do ranking LLM da Artificial Analysis são todos fechados, embora os modelos abertos estejam atrás por apenas alguns meses. Pesquisadores dependem de modelos abertos para observar seu funcionamento interno e suas cadeias de raciocínio, combiná-los, comprimi-los e ajustá-los. As empresas também têm motivos para preferi-los.

В конце прошлого месяца Anthropic опубликовала доклад, в котором утверждается, что GLM-5.3, мощная модель, выпущенная в августе китайской компанией Z.ai, создает серьезный риск кибератак, поскольку любой может бесплатно скачать и изменить ее. Это заявление стало очередным эпизодом давнего спора о том, должны ли передовые модели ИИ быть открытыми или оставаться закрытыми за дверями ведущих лабораторий.

Значительная часть дискуссии происходит публично, и на ее исход поставлены большие деньги. Генеральный директор Nvidia Дженсен Хуанг, который выиграет, если люди продолжат покупать собственное оборудование для запуска открытых моделей, активно выступает за то, чтобы Соединенные Штаты разрабатывали их больше. Дарио Амодеи из Anthropic, чья компания может пострадать от дешевых и мощных моделей, выступает за более осторожный подход. Однако за этими коммерческими интересами стоит и реальное содержание. Как отмечает Дэвид Грей Видер из Техасского университета в Остине, то, как человек относится к открытости, определяется тем, как он смотрит на ИИ в целом.

Сторонники безопасности ИИ предупреждают, что открытыми моделями легко могут злоупотребить недобросовестные участники. Другие же сосредоточены на практическом потенциале ИИ и утверждают, что эта сила не должна оставаться за закрытыми дверями нескольких крупных компаний, а открытые модели способны распространить ее шире. Варианты простираются от полного запрета открытых моделей до их свободного выпуска, и любой подход предполагает компромиссы между безопасностью и демократизацией.

Открытые модели дают конкретные преимущества. Закрытые модели, такие как те, на которых работают ChatGPT и Claude, доступны только через сайт, приложение или API. Открытые модели можно скачать, а их веса модели общедоступны, что позволяет запускать их на собственных компьютерах и, при наличии нужных знаний, переобучать. Сейчас закрытые модели более мощны: все восемь лидеров рейтинга LLM от Artificial Analysis закрытые, однако открытые отстают лишь на несколько месяцев. Исследователи полагаются на открытые модели, чтобы наблюдать за их внутренней работой и цепочками рассуждений, объединять, сжимать и тонко настраивать их. Есть у таких моделей и бизнес-причины, по которым компании их предпочитают.

上月底，Anthropic发布报告称，Z.ai于8月推出的强大模型GLM-5.3因可供任何人免费下载和修改，构成重大网络攻击风险。这一说法是关于前沿AI模型应当开放还是锁在前沿实验室大门之后这一长期争论的最新动向。

这场争论大多在公开场合进行，其结果涉及大量资金。英伟达首席执行官黄仁勋如果人们继续购买自有硬件来运行开放模型，他将从中获益，他热情主张美国应开发更多此类模型。Anthropic的达里奥·阿莫代伊所在公司可能因廉价而强大的模型而受到冲击，他主张采取更为审慎的态度。然而，在这些商业动机之下，确实存在实质性的问题。正如德克萨斯大学奥斯汀分校的David Gray Widder所言，一个人如何看待开放性，取决于他如何看待整个AI。

关注AI安全的人士警告，开放模型容易被不法分子滥用。另一些人则关注AI的实际潜力，认为这种力量不应只掌握在少数大公司的封闭大门之后，开放模型可以使其更广泛地传播。可选方案从完全禁止开放模型到免费发布不等，任何做法都涉及安全与民主化之间的权衡。

开放模型带来了具体的好处。ChatGPT和Claude等封闭模型只能通过网站、应用程序或API访问。开放模型可以下载，其模型权重公开可用，人们可以在自己的电脑上运行它们，并在具备相应专业能力的情况下对其重新训练。目前封闭模型能力更强，Artificial Analysis LLM排行榜上排名前八的模型均为封闭模型，但开放模型仅落后几个月。研究人员依靠开放模型来观察其内部运作和思维链，并对其进行组合、压缩和微调。企业也有理由偏爱它们。