Why delaying an AI doomsday would benefit investors too

What price an apocalypse? Leaders of the biggest AI companies want to slow development to avoid "frontier models" capable of wreaking enormous damage. Fortunately, this is a goal their investors should be able to get behind too. Anthropic chief Dario Amodei suggested over the weekend that AI advancements should be "paced", with governments co-ordinating on standards where possible.

Even without regulatory coercion, AI hotshots such as Anthropic, Open AI and Space X should be able to find a financial case for reining in the pace of progress. One advantage of slowing down would be that it would reduce the enormous amounts of cash being lavished on training new models. For example, Open AI plans to spend $750bn on computing capacity by 2030. Every year that gets pushed back reduces the present value of that outlay by almost $100bn, Lex calculates.

True, one risk of "pacing" is that also-rans will have a chance to catch up and snatch market share. Open-weight models are just a few months behind the leading edge. China is a formidable competitor, though Amodei suggests keeping cutting-edge AI chips out of its hands could buy three to five years. But there is plenty of hay to be made from existing models, and slowing down would create extra incentive to make it. Space X, in its IPO, suggested a $22.7tn market for "enterprise applications". Anthropic may hint at a market worth $30tn. Deutsche Bank reckons that if 60 per cent of knowledge workers are using AI-related apps by 2031, they would equate to a $400bn revenue pool.

Any investor in Anthropic — including Black Rock, Singapore's GIC, Coatue and Sequoia Capital — should have another pressing reason to support a co-ordinated pacing effort. After all, the extinction of humanity, which would presumably include all of their clients, is a risk for which there is no known hedge.

ما ثمن نهاية العالم؟ يريد قادة أكبر شركات الذكاء الاصطناعي إبطاء التطوير لتجنب "النماذج الحدودية" القادرة على إحداث أضرار هائلة. لحسن الحظ، هذا هدف يجب أن يتمكن مستثمروهم من دعمه أيضاً. اقترح رئيس Anthropic Dario Amodei خلال عطلة نهاية الأسبوع أن تقدم الذكاء الاصطناعي يجب أن يكون "بوتيرة منضبطة"، مع تنسيق الحكومات للمعايير حيثما أمكن.

حتى بدون إكراه تنظيمي، يجب أن تتمكن شركات الذكاء الاصطناعي الرائدة مثل Anthropic وOpen AI وSpace X من إيجاد مبرر مالي لكبح وتيرة التقدم. إحدى مزايا الإبطاء ستكون تقليل المبالغ الهائلة من النقد التي تُنفق بسخاء على تدريب نماذج جديدة. على سبيل المثال، تخطط Open AI لإنفاق 750 مليار دولار على القدرة الحاسوبية بحلول عام 2030. وكل عام يتم تأجيله يقلل القيمة الحالية لذلك الإنفاق بنحو 100 مليار دولار، وفق حسابات Lex.

صحيح أن أحد مخاطر "الوتيرة المنضبطة" هو أن المتأخرين ستحين لهم فرصة اللحاق والاستحواذ على حصة سوقية. النماذج مفتوحة الأوزان متأخرة بأشهر قليلة فقط عن الطليعة. الصين منافس هائل، رغم أن Amodei يشير إلى أن إبعاد رقائق الذكاء الاصطناعي المتطورة عن متناولها قد يشتري ثلاث إلى خمس سنوات. لكن هناك الكثير مما يمكن جنيه من النماذج الحالية، والإبطاء سيخلق حافزاً إضافياً لتحقيقه. اقترحت Space X في طرحها العام الأولي سوقاً بقيمة 22.7 تريليون دولار لـ"تطبيقات المؤسسات". وقد تلمح Anthropic إلى سوق تبلغ قيمتها 30 تريليون دولار. وتقدّر Deutsche Bank أنه إذا كان 60 في المائة من العاملين المعرفيين يستخدمون تطبيقات مرتبطة بالذكاء الاصطناعي بحلول عام 2031، فإنهم سيعادلون تجمع إيرادات بقيمة 400 مليار دولار.

يجب أن يكون لدى أي مستثمر في Anthropic — بما في ذلك Black Rock وGIC السنغافورية وCoatue وSequoia Capital — سبب ملح آخر لدعم جهد وتيرة منسق. ففي النهاية، انقراض البشرية، الذي سيشمل presumably جميع عملائهم، هو خطر لا يوجد له تحوط معروف.

একটি ধ্বংসের মূল্য কত? বৃহত্তম AI কোম্পানিগুলোর নেতারা উন্নয়ন ধীর করতে চান যাতে বিশাল ক্ষতি করতে সক্ষম "ফ্রন্টিয়ার মডেল" এড়ানো যায়। সৌভাগ্যবশত, এটি এমন একটি লক্ষ্য যার পিছনে তাদের বিনিয়োগকারীদেরও দাঁড়ানো উচিত। Anthropic-এর প্রধান Dario Amodei সপ্তাহান্তে পরামর্শ দিয়েছেন যে AI-এর অগ্রগতি "গতিসম্পন্ন" হওয়া উচিত, যেখানে সম্ভব সরকারগুলো মানদণ্ডে সমন্বয় করবে।

নিয়ন্ত্রক জবরদস্তি ছাড়াই, Anthropic, Open AI এবং Space X-এর মতো AI-এর শীর্ষস্থানীয়রা অগ্রগতির গতি নিয়ন্ত্রণ করার জন্য একটি আর্থিক যুক্তি খুঁজে পেতে সক্ষম হওয়া উচিত। ধীর করার একটি সুবিধা হবে যে এটি নতুন মডেল প্রশিক্ষণে ব্যয় করা বিশাল পরিমাণ নগদ কমিয়ে দেবে। উদাহরণস্বরূপ, Open AI 2030 সালের মধ্যে কম্পিউটিং ক্ষমতায় 750 বিলিয়ন ডলার ব্যয় করার পরিকল্পনা করেছে। Lex-এর হিসাব অনুযায়ী, প্রতিটি বছর যা পিছিয়ে যায়, সেই ব্যয়ের বর্তমান মূল্য প্রায় 100 বিলিয়ন ডলার কমে যায়।

সত্যি, "গতি"-এর একটি ঝুঁকি হলো পিছিয়ে থাকা প্রতিযোগীরা ধরে ফেলার এবং বাজার অংশ দখল করার সুযোগ পাবে। ওপেন-ওয়েট মডেলগুলো শীর্ষস্থানীয় প্রান্ত থেকে মাত্র কয়েক মাস পিছিয়ে। চীন একটি দুর্দান্ত প্রতিযোগী, যদিও Amodei পরামর্শ দেন যে অত্যাধুনিক AI চিপ তার হাতের বাইরে রাখা তিন থেকে পাঁচ বছর কিনে দিতে পারে। কিন্তু বিদ্যমান মডেল থেকে প্রচুর লাভ করা যায়, এবং ধীর করা এটি করার জন্য অতিরিক্ত প্রণোদনা তৈরি করবে। Space X তার IPO-তে "এন্টারপ্রাইজ অ্যাপ্লিকেশন"-এর জন্য 22.7 ট্রিলিয়ন ডলারের বাজার প্রস্তাব করেছে। Anthropic 30 ট্রিলিয়ন ডলার মূল্যের বাজারের ইঙ্গিত দিতে পারে। Deutsche Bank অনুমান করে যে 2031 সালের মধ্যে যদি 60 শতাংশ জ্ঞানকর্মী AI-সম্পর্কিত অ্যাপ ব্যবহার করেন, তবে তারা 400 বিলিয়ন ডলারের রাজস্ব পুলের সমান হবে।

Anthropic-এর যেকোনো বিনিয়োগকারী — যার মধ্যে Black Rock, সিঙ্গাপুরের GIC, Coatue এবং Sequoia Capital অন্তর্ভুক্ত — সমন্বিত গতি প্রচেষ্টাকে সমর্থন করার আরেকটি জরুরি কারণ থাকা উচিত। সর্বোপরি, মানবতার বিলুপ্তি, যা সম্ভবত তাদের সমস্ত ক্লায়েন্টকে অন্তর্ভুক্ত করবে, এমন একটি ঝুঁকি যার জন্য কোনো পরিচিত হেজ নেই।

Was kostet ein Weltuntergang? Die Führungskräfte der größten KI-Unternehmen wollen die Entwicklung verlangsamen, um "Frontier-Modelle" zu vermeiden, die enormen Schaden anrichten können. Glücklicherweise ist dies ein Ziel, das auch ihre Investoren unterstützen sollten. Anthropic-Chef Dario Amodei schlug am Wochenende vor, dass KI-Fortschritte "getaktet" werden sollten, wobei Regierungen nach Möglichkeit Standards koordinieren sollten.

Selbst ohne regulatorischen Zwang sollten KI-Highflyer wie Anthropic, Open AI und Space X ein finanzielles Argument dafür finden können, das Tempo des Fortschritts zu zügeln. Ein Vorteil der Verlangsamung wäre, dass sie die enormen Geldbeträge reduzieren würde, die für das Training neuer Modelle verschwendet werden. Zum Beispiel plant Open AI, bis 2030 750 Mrd. Dollar für Rechenkapazität auszugeben. Jedes Jahr, um das dies verschoben wird, verringert den Barwert dieser Ausgabe um fast 100 Mrd. Dollar, rechnet Lex.

Zwar ist ein Risiko des "Taktens", dass Nachzügler die Chance bekommen aufzuholen und Marktanteile zu ergattern. Open-Weight-Modelle liegen nur wenige Monate hinter der Spitze zurück. China ist ein gewaltiger Konkurrent, obwohl Amodei vorschlägt, dass es drei bis fünf Jahre bringen könnte, modernste KI-Chips aus seinen Händen zu halten. Aber mit bestehenden Modellen lässt sich viel Heu machen, und eine Verlangsamung würde einen zusätzlichen Anreiz schaffen, dies zu tun. Space X hat in seinem IPO einen Markt von 22,7 Billionen Dollar für "Unternehmensanwendungen" angedeutet. Anthropic könnte auf einen Markt im Wert von 30 Billionen Dollar hindeuten. Deutsche Bank schätzt, dass, wenn bis 2031 60 Prozent der Wissensarbeiter KI-bezogene Apps nutzen, dies einem Umsatzpool von 400 Mrd. Dollar entsprechen würde.

Jeder Investor in Anthropic — darunter Black Rock, Singapurs GIC, Coatue und Sequoia Capital — sollte einen weiteren dringenden Grund haben, eine koordinierte Taktungsanstrengung zu unterstützen. Schließlich ist das Aussterben der Menschheit, das vermutlich alle ihre Kunden einschließen würde, ein Risiko, für das es keine bekannte Absicherung gibt.

¿Cuál es el precio de un apocalipsis? Los líderes de las mayores empresas de IA quieren frenar el desarrollo para evitar "modelos frontera" capaces de causar daños enormes. Afortunadamente, este es un objetivo que sus inversores también deberían poder apoyar. El director ejecutivo de Anthropic, Dario Amodei, sugirió durante el fin de semana que los avances en IA deberían "marcarse el ritmo", con los gobiernos coordinando estándares cuando sea posible.

Incluso sin coerción regulatoria, las estrellas de la IA como Anthropic, Open AI y Space X deberían poder encontrar un argumento financiero para frenar el ritmo del progreso. Una ventaja de ralentizar sería que reduciría las enormes cantidades de efectivo que se derrochan en entrenar nuevos modelos. Por ejemplo, Open AI planea gastar 750.000 millones de dólares en capacidad de cómputo para 2030. Cada año que se retrasa reduce el valor presente de ese desembolso en casi 100.000 millones de dólares, calcula Lex.

Cierto, un riesgo de "marcar el ritmo" es que los segundones tendrán la oportunidad de alcanzar y arrebatar cuota de mercado. Los modelos de pesos abiertos están solo unos meses por detrás de la vanguardia. China es un competidor formidable, aunque Amodei sugiere que mantener los chips de IA de vanguardia fuera de su alcance podría ganar de tres a cinco años. Pero hay mucho heno que hacer con los modelos existentes, y ralentizar crearía un incentivo adicional para hacerlo. Space X, en su IPO, sugirió un mercado de 22,7 billones de dólares para "aplicaciones empresariales". Anthropic puede insinuar un mercado valorado en 30 billones de dólares. Deutsche Bank estima que si el 60 por ciento de los trabajadores del conocimiento usan aplicaciones relacionadas con la IA para 2031, equivaldrían a un fondo de ingresos de 400.000 millones de dólares.

Cualquier inversor en Anthropic —incluidos Black Rock, GIC de Singapur, Coatue y Sequoia Capital— debería tener otra razón apremiante para apoyar un esfuerzo coordinado de marcación del ritmo. Después de todo, la extinción de la humanidad, que presumiblemente incluiría a todos sus clientes, es un riesgo para el cual no existe una cobertura conocida.

Quel est le prix d'une apocalypse ? Les dirigeants des plus grandes entreprises d'IA veulent ralentir le développement pour éviter les "modèles de frontière" capables de causer d'énormes dégâts. Heureusement, c'est un objectif que leurs investisseurs devraient également pouvoir soutenir. Le patron d'Anthropic, Dario Amodei, a suggéré ce week-end que les avancées de l'IA devraient être "rythmées", les gouvernements coordonnant les normes lorsque c'est possible.

Même sans contrainte réglementaire, les vedettes de l'IA telles qu'Anthropic, Open AI et Space X devraient pouvoir trouver un argument financier pour freiner le rythme des progrès. Un avantage du ralentissement serait de réduire les sommes énormes dilapidées pour entraîner de nouveaux modèles. Par exemple, Open AI prévoit de dépenser 750 milliards de dollars en capacité de calcul d'ici 2030. Chaque année de report réduit la valeur actuelle de cette dépense de près de 100 milliards de dollars, calcule Lex.

Certes, un risque du "rythme" est que les suiveurs auront la chance de rattraper leur retard et de rafler des parts de marché. Les modèles à poids ouverts n'ont que quelques mois de retard sur la pointe. La Chine est un concurrent redoutable, bien qu'Amodei suggère que garder les puces d'IA de pointe hors de sa portée pourrait acheter trois à cinq ans. Mais il y a beaucoup de foin à faire avec les modèles existants, et ralentir créerait une incitation supplémentaire à le faire. Space X, dans son IPO, a suggéré un marché de 22,7 billions de dollars pour les "applications d'entreprise". Anthropic pourrait laisser entendre un marché d'une valeur de 30 billions de dollars. Deutsche Bank estime que si 60 pour cent des travailleurs du savoir utilisent des applications liées à l'IA d'ici 2031, elles équivaudraient à un bassin de revenus de 400 milliards de dollars.

Tout investisseur dans Anthropic — y compris Black Rock, GIC de Singapour, Coatue et Sequoia Capital — devrait avoir une autre raison pressante de soutenir un effort de rythme coordonné. Après tout, l'extinction de l'humanité, qui inclurait vraisemblablement tous leurs clients, est un risque pour lequel il n'existe aucune couverture connue.

एक प्रलय की कीमत क्या है? सबसे बड़ी AI कंपनियों के नेता विकास को धीमा करना चाहते हैं ताकि "फ्रंटियर मॉडल" से बचा जा सके जो भारी नुकसान पहुंचाने में सक्षम हैं। सौभाग्य से, यह एक ऐसा लक्ष्य है जिसके पीछे उनके निवेशकों को भी खड़ा होना चाहिए। Anthropic के प्रमुख Dario Amodei ने सप्ताहांत में सुझाव दिया कि AI की प्रगति को "गति" दी जानी चाहिए, जहां संभव हो सरकारें मानकों पर समन्वय करें।

नियामकीय दबाव के बिना भी, Anthropic, Open AI और Space X जैसी AI की अग्रणी कंपनियों को प्रगति की गति को नियंत्रित करने के लिए वित्तीय आधार मिल सकता है। धीमा करने का एक फायदा यह होगा कि इससे नए मॉडल के प्रशिक्षण पर खर्च होने वाली भारी राशि कम होगी। उदाहरण के लिए, Open AI 2030 तक कंप्यूटिंग क्षमता पर 750 बिलियन डॉलर खर्च करने की योजना बना रहा है। Lex की गणना के अनुसार, हर साल जो इसे पीछे धकेला जाता है, उस खर्च का वर्तमान मूल्य लगभग 100 बिलियन डॉलर कम हो जाता है।

सच है, "गति" का एक जोखिम यह है कि पिछड़े खिलाड़ियों को आगे निकलने और बाजार हिस्सेदारी छीनने का मौका मिलेगा। ओपन-वेट मॉडल अग्रणी किनारे से बस कुछ महीने पीछे हैं। चीन एक दुर्जेय प्रतिस्पर्धी है, हालांकि Amodei सुझाव देते हैं कि अत्याधुनिक AI चिप्स को उसके हाथ से दूर रखने से तीन से पांच साल मिल सकते हैं। लेकिन मौजूदा मॉडलों से बहुत कुछ कमाया जा सकता है, और धीमा करने से इसे बनाने के लिए अतिरिक्त प्रोत्साहन पैदा होगा। Space X ने अपने IPO में "एंटरप्राइज़ एप्लिकेशन" के लिए 22.7 ट्रिलियन डॉलर के बाजार का सुझाव दिया। Anthropic 30 ट्रिलियन डॉलर के बाजार का संकेत दे सकता है। Deutsche Bank का अनुमान है कि अगर 2031 तक 60 प्रतिशत ज्ञान श्रमिक AI-संबंधित ऐप्स का उपयोग कर रहे हों, तो वे 400 बिलियन डॉलर के राजस्व पूल के बराबर होंगे।

Anthropic में कोई भी निवेशक — जिसमें Black Rock, सिंगापुर का GIC, Coatue और Sequoia Capital शामिल हैं — के पास समन्वित गति प्रयास का समर्थन करने का एक और जरूरी कारण होना चाहिए। आखिरकार, मानवता का विलुप्त होना, जिसमें संभवतः उनके सभी ग्राहक भी शामिल होंगे, एक ऐसा जोखिम है जिसके लिए कोई ज्ञात बचाव नहीं है।

Berapa harga sebuah kiamat? Para pemimpin perusahaan AI terbesar ingin memperlambat pengembangan untuk menghindari "model frontier" yang mampu menimbulkan kerusakan besar. Untungnya, ini adalah tujuan yang juga harus didukung oleh para investor mereka. Kepala Anthropic, Dario Amodei, menyarankan akhir pekan lalu bahwa kemajuan AI harus "diberi tempo", dengan pemerintah mengoordinasikan standar bila memungkinkan.

Bahkan tanpa paksaan regulasi, bintang AI seperti Anthropic, Open AI, dan Space X harus dapat menemukan alasan finansial untuk menahan laju kemajuan. Salah satu keuntungan memperlambat adalah akan mengurangi jumlah uang yang sangat besar yang dihamburkan untuk melatih model baru. Misalnya, Open AI berencana menghabiskan $750 miliar untuk kapasitas komputasi pada tahun 2030. Setiap tahun yang ditunda mengurangi nilai sekarang dari pengeluaran itu hampir $100 miliar, hitung Lex.

Benar, salah satu risiko "pemberian tempo" adalah para pengekor akan mendapat kesempatan untuk mengejar dan merebut pangsa pasar. Model berbobot terbuka hanya tertinggal beberapa bulan dari ujung terdepan. China adalah pesaing yang tangguh, meskipun Amodei menyarankan bahwa menjauhkan chip AI tercanggih dari jangkauannya dapat membeli tiga hingga lima tahun. Tetapi ada banyak jerami yang bisa dihasilkan dari model yang ada, dan memperlambat akan menciptakan insentif tambahan untuk melakukannya. Space X, dalam IPO-nya, menyarankan pasar senilai $22,7 triliun untuk "aplikasi perusahaan". Anthropic mungkin mengisyaratkan pasar senilai $30 triliun. Deutsche Bank memperkirakan bahwa jika 60 persen pekerja pengetahuan menggunakan aplikasi terkait AI pada tahun 2031, mereka akan setara dengan kumpulan pendapatan $400 miliar.

Setiap investor di Anthropic — termasuk Black Rock, GIC Singapura, Coatue, dan Sequoia Capital — harus memiliki alasan mendesak lain untuk mendukung upaya pemberian tempo yang terkoordinasi. Bagaimanapun, kepunahan umat manusia, yang mungkin mencakup semua klien mereka, adalah risiko yang tidak ada lindung nilai yang diketahui.

終末の値段はいくらか？最大手AI企業のリーダーたちは、甚大な被害をもたらす能力を持つ「フロンティアモデル」を避けるため、開発を遅らせたいと考えている。幸いなことに、これは投資家も支持できる目標だ。AnthropicのトップDario Amodeiは週末、AIの進歩は「ペースを調整」すべきであり、可能な限り政府が基準を調整すべきだと示唆した。

規制による強制がなくても、Anthropic、Open AI、Space XといったAIの注目企業は、進歩のペースを抑える財務的な根拠を見出せるはずだ。遅らせることの利点の一つは、新モデルの訓練に費やされる巨額の現金を削減できることだ。例えば、Open AIは2030年までにコンピューティング能力に7500億ドルを費やす計画だ。Lexの計算によれば、それが1年先送りされるごとに、その支出の現在価値はほぼ1000億ドル減少する。

確かに、「ペース調整」のリスクの一つは、後発企業が追いつき、市場シェアを奪う機会を得ることだ。オープンウェイトモデルは最先端からわずか数か月遅れているだけだ。中国は手強い競争相手だが、Amodeiは最先端のAIチップを中国の手に渡さないことで3年から5年を稼げると示唆している。しかし、既存モデルからは多くの収益を上げることができ、遅らせることはそれを実現する追加のインセンティブを生むだろう。Space XはIPOで「エンタープライズアプリケーション」の22.7兆ドル市場を示唆した。Anthropicは30兆ドル相当の市場をほのめかすかもしれない。Deutsche Bankは、2031年までに知識労働者の60パーセントがAI関連アプリを使用していれば、4000億ドルの収益プールに相当すると見積もっている。

Anthropicの投資家——Black Rock、シンガポールのGIC、Coatue、Sequoia Capitalを含む——は、協調的なペース調整の取り組みを支持するもう一つの差し迫った理由を持つべきだ。結局のところ、人類の絶滅は、おそらく彼らのすべての顧客を含むことになるが、既知のヘッジが存在しないリスクなのだ。

主要エンティティ：企業：Anthropic、Open AI、Space X、Deutsche Bank、Black Rock、GIC、Coatue、Sequoia Capital、Salesforce | 人物：Dario Amodei、Sam Altman、Roula Khalaf | 場所：Washington、China、Singapore

FAQ：AI開発を遅らせることが投資家に利益をもたらすのはなぜか？

開発を遅らせれば、新モデルの訓練にかかる巨額の支出を削減し、現在価値を高める。また、評判リスクを低下させ、既存モデルが収益を生み出すことを可能にする。

Qual é o preço de um apocalipse? Os líderes das maiores empresas de IA querem desacelerar o desenvolvimento para evitar "modelos de fronteira" capazes de causar danos enormes. Felizmente, este é um objetivo que seus investidores também deveriam poder apoiar. O chefe da Anthropic, Dario Amodei, sugeriu no fim de semana que os avanços da IA deveriam ser "cadenciados", com os governos coordenando padrões quando possível.

Mesmo sem coerção regulatória, as estrelas da IA como Anthropic, Open AI e Space X deveriam conseguir encontrar um argumento financeiro para conter o ritmo do progresso. Uma vantagem de desacelerar seria reduzir as enormes quantias de dinheiro gastas no treinamento de novos modelos. Por exemplo, a Open AI planeja gastar 750 bilhões de dólares em capacidade de computação até 2030. Cada ano que isso é adiado reduz o valor presente desse desembolso em quase 100 bilhões de dólares, calcula a Lex.

É verdade que um risco do "cadenciamento" é que os retardatários terão a chance de alcançar e arrebatar participação de mercado. Os modelos de pesos abertos estão apenas alguns meses atrás da vanguarda. A China é uma concorrente formidável, embora Amodei sugira que manter chips de IA de ponta fora de seu alcance poderia comprar de três a cinco anos. Mas há muito feno a ser feito com os modelos existentes, e desacelerar criaria um incentivo extra para fazê-lo. A Space X, em seu IPO, sugeriu um mercado de 22,7 trilhões de dólares para "aplicações empresariais". A Anthropic pode sugerir um mercado no valor de 30 trilhões de dólares. O Deutsche Bank estima que se 60 por cento dos trabalhadores do conhecimento estiverem usando aplicativos relacionados à IA até 2031, eles equivaleriam a um pool de receita de 400 bilhões de dólares.

Qualquer investidor na Anthropic — incluindo Black Rock, a GIC de Singapura, Coatue e Sequoia Capital — deveria ter outro motivo premente para apoiar um esforço coordenado de cadenciamento. Afinal, a extinção da humanidade, que presumivelmente incluiria todos os seus clientes, é um risco para o qual não existe hedge conhecido.

Какова цена апокалипсиса? Руководители крупнейших ИИ-компаний хотят замедлить развитие, чтобы избежать "пограничных моделей", способных нанести огромный ущерб. К счастью, это цель, которую должны поддержать и их инвесторы. Глава Anthropic Dario Amodei в выходные предположил, что прогресс ИИ должен быть "размеренным", а правительства должны координировать стандарты, где это возможно.

Даже без регуляторного принуждения такие звёзды ИИ, как Anthropic, Open AI и Space X, должны найти финансовое обоснование для сдерживания темпов прогресса. Одним из преимуществ замедления стало бы сокращение огромных сумм денег, щедро расходуемых на обучение новых моделей. Например, Open AI планирует потратить 750 млрд долларов на вычислительные мощности к 2030 году. Каждый год отсрочки снижает текущую стоимость этих затрат почти на 100 млрд долларов, подсчитал Lex.

Правда, один из рисков "размеренности" в том, что отстающие получат шанс догнать и отхватить долю рынка. Модели с открытыми весами отстают от переднего края всего на несколько месяцев. Китай — грозный конкурент, хотя Amodei предполагает, что удержание передовых ИИ-чипов вне его досягаемости может выиграть три-пять лет. Но на существующих моделях можно много заработать, и замедление создаст дополнительный стимул для этого. Space X в своём IPO указала рынок "корпоративных приложений" в 22,7 трлн долларов. Anthropic может намекать на рынок стоимостью 30 трлн долларов. Deutsche Bank оценивает, что если к 2031 году 60 процентов работников умственного труда будут использовать приложения, связанные с ИИ, они будут эквивалентны пулу доходов в 400 млрд долларов.

У любого инвестора в Anthropic — включая Black Rock, сингапурскую GIC, Coatue и Sequoia Capital — должна быть ещё одна насущная причина поддержать скоординированные усилия по размеренности. В конце концов, вымирание человечества, которое, предположительно, включит всех их клиентов, — это риск, для которого не существует известного хеджа.

一场末日值多少钱？最大的AI公司的领导者们希望放缓发展速度，以避免能够造成巨大破坏的"前沿模型"。幸运的是，这也是他们的投资者应该能够支持的目标。Anthropic首席执行官Dario Amodei在周末提出，AI的进步应该"有节奏地"推进，政府应尽可能在标准上进行协调。

即使没有监管强制，Anthropic、Open AI和Space X等AI热门企业也应该能够找到放缓进步步伐的财务理由。放缓的一个好处是，它将减少用于训练新模型的巨额资金。例如，Open AI计划到2030年在计算能力上花费7500亿美元。Lex计算，每推迟一年，这笔支出的现值就会减少近1000亿美元。

诚然，"有节奏推进"的一个风险是，落后者将有机会迎头赶上并抢夺市场份额。开放权重模型仅落后领先前沿几个月。中国是一个强大的竞争对手，尽管Amodei建议将尖端AI芯片排除在其掌控之外，可以争取三到五年时间。但从现有模型中仍有大量利润可挖掘，放缓将创造额外的动力去实现这一点。Space X在其IPO中提出了22.7万亿美元的"企业应用"市场。Anthropic可能暗示了一个价值30万亿美元的市场。Deutsche Bank估计，如果到2031年60%的知识工作者使用AI相关应用，它们将相当于4000亿美元的收入池。

Anthropic的任何投资者——包括Black Rock、新加坡的GIC、Coatue和Sequoia Capital——都应该有另一个紧迫的理由支持协调一致的节奏推进努力。毕竟，人类的灭绝——想必也包括他们所有的客户——是一种没有已知对冲手段的风险。

关键实体：公司：Anthropic、Open AI、Space X、Deutsche Bank、Black Rock、GIC、Coatue、Sequoia Capital、Salesforce | 人物：Dario Amodei、Sam Altman、Roula Khalaf | 地点：Washington、China、Singapore

FAQ：为什么放缓AI发展会对投资者有利？

放缓发展减少了用于训练新模型的巨额资金，提升了现值。它还降低了声誉风险，并让现有模型产生收入。