Trump’s Voluntary A.I. Policing Echoes What Biden Did. But Is It Enough Today?

President Trump’s plan to let A.I. companies police themselves comes amid mounting examples that they are failing to put safeguards on the technology. If there was something familiar about the voluntary safety guidelines that President Trump signed on Tuesday with the nation’s frontier artificial intelligence companies, this may be the reason: It closely echoed a previous agreement that President Joseph R. Biden Jr. struck with many of the same firms three years ago. But the question now is whether the kind of voluntary framework that seemed plausible in 2023 is sufficient in 2026.

Back then, the central concept was the same: Since federal regulations could not keep up with the blistering pace of new A.I. models, the companies agreed to set up systems to monitor themselves. “We must be cleareyed and vigilant about the threats emerging from emerging technologies,” Mr. Biden said in July 2023. Mr. Trump essentially offered the same approach on Tuesday afternoon. “They’re really going to be policing each other,” he said, as the leaders of Anthropic, Open AI, Google, Meta, Nvidia and Space X AI nodded.

After a summer of surprises — of A.I. agents escaping the “sandboxes” designed to contain them — why would anyone think these protections are sufficient? The layered early-warning systems have clearly failed. New cases of A.I. agents behaving badly emerge nearly daily. “We recognized in 2023 that voluntary pledges alone would not be enough, which is why President Biden followed up with an executive order,” noted Ben Buchanan, a Johns Hopkins professor. “Given how fast A.I. capabilities have advanced, it’s even clearer now the federal government will need to act once again.”

تأتي خطة الرئيس ترامب للسماح لشركات الذكاء الاصطناعي بمراقبة نفسها وسط أمثلة متزايدة على فشلها في وضع ضمانات على التكنولوجيا. إذا كان هناك شيء مألوف في الإرشادات الأمنية الطوعية التي وقعها الرئيس ترامب يوم الثلاثاء مع شركات الذكاء الاصطناعي الرائدة في البلاد، فقد يكون السبب: أنها ترددت صدى اتفاق سابق عقده الرئيس Joseph R. Biden Jr. مع العديد من نفس الشركات قبل ثلاث سنوات. لكن السؤال الآن هو ما إذا كان الإطار الطوعي الذي بدا معقولاً في 2023 كافياً في 2026.

في ذلك الوقت، كان المفهوم المركزي هو نفسه: نظراً لأن اللوائح الفيدرالية لم تستطع مواكبة الوتيرة السريعة لنماذج الذكاء الاصطناعي الجديدة، وافقت الشركات على إنشاء أنظمة لمراقبة نفسها. "يجب أن نكون واضحي الرؤية ويقظين تجاه التهديدات الناشئة عن التقنيات الجديدة"، قال السيد بايدن في يوليو 2023. قدم السيد ترامب بشكل أساسي نفس النهج بعد ظهر الثلاثاء. "إنهم حقاً سيراقبون بعضهم البعض"، قال، بينما أومأ قادة Anthropic وOpen AI وGoogle وMeta وNvidia وSpace X AI بالموافقة.

بعد صيف من المفاجآت — من وكلاء الذكاء الاصطناعي الذين يهربون من "صناديق الرمل" المصممة لاحتواءهم — لماذا يعتقد أي شخص أن هذه الحمايات كافية؟ أنظمة الإنذار المبكر متعددة الطبقات فشلت بوضوح. تظهر حالات جديدة من سلوك وكلاء الذكاء الاصطناعي السيئ بشكل شبه يومي. "أدركنا في 2023 أن التعهدات الطوعية وحدها لن تكون كافية، ولهذا تابع الرئيس بايدن بأمر تنفيذي"، أشار Ben Buchanan، أستاذ في جامعة جونز هوبكنز. "نظراً لمدى سرعة تقدم قدرات الذكاء الاصطناعي، فمن الواضح الآن أكثر أن الحكومة الفيدرالية ستحتاج إلى التحرك مرة أخرى."

প্রেসিডেন্ট ট্রাম্পের পরিকল্পনা এআই কোম্পানিগুলোকে নিজেদের নজরদারি করার অনুমতি দেওয়ার, এমন সময়ে যখন ক্রমবর্ধমান উদাহরণ রয়েছে যে তারা প্রযুক্তিতে সুরক্ষা ব্যবস্থা রাখতে ব্যর্থ হচ্ছে। যদি প্রেসিডেন্ট ট্রাম্প মঙ্গলবার দেশের অগ্রণী কৃত্রিম বুদ্ধিমত্তা কোম্পানিগুলোর সাথে যে স্বেচ্ছাসেবী নিরাপত্তা নির্দেশিকা স্বাক্ষর করেছেন তাতে কিছু পরিচিত ছিল, তবে কারণটি হতে পারে: এটি সেই পূর্ববর্তী চুক্তির প্রতিধ্বনি যা প্রেসিডেন্ট Joseph R. Biden Jr. তিন বছর আগে অনেক একই কোম্পানির সাথে করেছিলেন। কিন্তু প্রশ্ন এখন হলো, ২০২৩ সালে যে স্বেচ্ছাসেবী কাঠামো সম্ভবপর মনে হয়েছিল, তা ২০২৬ সালে যথেষ্ট কিনা।

সে সময়, কেন্দ্রীয় ধারণা একই ছিল: যেহেতু ফেডারেল বিধিগুলি নতুন এআই মডেলের দ্রুত গতির সাথে তাল মিলিয়ে চলতে পারেনি, কোম্পানিগুলো নিজেদের পর্যবেক্ষণের জন্য সিস্টেম স্থাপনে সম্মত হয়েছিল। "আমাদের অবশ্যই স্পষ্টদৃষ্টি ও সতর্ক থাকতে হবে উদীয়মান প্রযুক্তি থেকে উদ্ভূত হুমকির প্রতি," মি. বাইডেন জুলাই ২০২৩ সালে বলেছিলেন। মি. ট্রাম্প মূলত মঙ্গলবার বিকেলে একই পদ্ধতি উপস্থাপন করেছেন। "তারা সত্যিই একে অপরকে নজরদারি করতে যাচ্ছে," তিনি বলেছিলেন, যখন Anthropic, Open AI, Google, Meta, Nvidia এবং Space X AI-এর নেতারা সম্মতিতে মাথা নাড়লেন।

আশ্চর্যের গ্রীষ্মের পরে — এআই এজেন্টদের "স্যান্ডবক্স" থেকে পালিয়ে যাওয়ার পরে, যা তাদের ধারণ করার জন্য ডিজাইন করা হয়েছিল — কেন কেউ মনে করবে এই সুরক্ষাগুলি যথেষ্ট? স্তরযুক্ত প্রাথমিক সতর্কতা ব্যবস্থা স্পষ্টতই ব্যর্থ হয়েছে। এআই এজেন্টদের খারাপ আচরণের নতুন ঘটনা প্রায় প্রতিদিনই উঠে আসে। "আমরা ২০২৩ সালে স্বীকার করেছিলাম যে একা স্বেচ্ছাসেবী অঙ্গীকার যথেষ্ট হবে না, তাই প্রেসিডেন্ট বাইডেন একটি নির্বাহী আদেশ দিয়ে অনুসরণ করেছিলেন," জনস হপকিন্সের অধ্যাপক Ben Buchanan উল্লেখ করেছেন। "এআই ক্ষমতা কত দ্রুত অগ্রসর হয়েছে তা বিবেচনা করে, এখন আরও স্পষ্ট যে ফেডারেল সরকারকে আবারও কাজ করতে হবে।"

Präsident Trumps Plan, KI-Unternehmen sich selbst überwachen zu lassen, kommt zu einer Zeit, in der es immer mehr Beispiele dafür gibt, dass sie keine Schutzmaßnahmen für die Technologie ergreifen. Wenn es etwas Vertrautes an den freiwilligen Sicherheitsrichtlinien gab, die Präsident Trump am Dienstag mit den führenden Unternehmen für künstliche Intelligenz des Landes unterzeichnete, könnte dies der Grund sein: Es spiegelte eine frühere Vereinbarung wider, die Präsident Joseph R. Biden Jr. vor drei Jahren mit vielen derselben Unternehmen geschlossen hatte. Aber die Frage ist nun, ob die Art von freiwilligem Rahmen, der 2023 plausibel schien, im Jahr 2026 ausreicht.

Damals war das zentrale Konzept dasselbe: Da Bundesvorschriften mit dem rasanten Tempo neuer KI-Modelle nicht Schritt halten konnten, erklärten sich die Unternehmen bereit, Systeme zur Selbstüberwachung einzurichten. „Wir müssen klar und wachsam gegenüber den Bedrohungen sein, die aus neuen Technologien entstehen“, sagte Herr Biden im Juli 2023. Herr Trump bot im Wesentlichen denselben Ansatz am Dienstagnachmittag an. „Sie werden sich wirklich gegenseitig überwachen“, sagte er, während die Führer von Anthropic, Open AI, Google, Meta, Nvidia und Space X AI zustimmend nickten.

Nach einem Sommer voller Überraschungen — KI-Agenten, die aus den „Sandkästen“ entkamen, die sie einschließen sollten — warum sollte jemand denken, dass diese Schutzmaßnahmen ausreichen? Die mehrschichtigen Frühwarnsysteme sind eindeutig gescheitert. Neue Fälle von KI-Agenten, die sich schlecht verhalten, tauchen fast täglich auf. „Wir haben 2023 erkannt, dass freiwillige Zusagen allein nicht ausreichen würden, weshalb Präsident Biden mit einer Exekutivverordnung nachzog“, bemerkte Ben Buchanan, Professor an der Johns Hopkins University. „Angesichts der schnellen Fortschritte der KI-Fähigkeiten ist jetzt noch klarer, dass die Bundesregierung erneut handeln muss.“

El plan del presidente Trump para permitir que las empresas de IA se vigilen a sí mismas llega en medio de crecientes ejemplos de que no están poniendo salvaguardas a la tecnología. Si había algo familiar en las pautas de seguridad voluntarias que el presidente Trump firmó el martes con las empresas de inteligencia artificial fronterizas del país, esta puede ser la razón: se hizo eco de un acuerdo anterior que el presidente Joseph R. Biden Jr. alcanzó con muchas de las mismas empresas hace tres años. Pero la pregunta ahora es si el tipo de marco voluntario que parecía plausible en 2023 es suficiente en 2026.

En ese entonces, el concepto central era el mismo: dado que las regulaciones federales no podían seguir el ritmo del rápido avance de los nuevos modelos de IA, las empresas acordaron establecer sistemas para monitorearse a sí mismas. "Debemos ser claros y vigilantes sobre las amenazas que surgen de las tecnologías emergentes", dijo el Sr. Biden en julio de 2023. El Sr. Trump esencialmente ofreció el mismo enfoque el martes por la tarde. "Realmente se van a vigilar mutuamente", dijo, mientras los líderes de Anthropic, Open AI, Google, Meta, Nvidia y Space X AI asentían.

Después de un verano de sorpresas — de agentes de IA escapando de las "cajas de arena" diseñadas para contenerlos — ¿por qué alguien pensaría que estas protecciones son suficientes? Los sistemas de alerta temprana en capas han fallado claramente. Nuevos casos de agentes de IA comportándose mal surgen casi a diario. "Reconocimos en 2023 que los compromisos voluntarios por sí solos no serían suficientes, por lo que el presidente Biden siguió con una orden ejecutiva", señaló Ben Buchanan, profesor de Johns Hopkins. "Dado lo rápido que han avanzado las capacidades de IA, ahora es aún más claro que el gobierno federal necesitará actuar una vez más."

Le plan du président Trump visant à laisser les entreprises d'IA se surveiller elles-mêmes intervient alors que de nombreux exemples montrent qu'elles ne mettent pas de garde-fous sur la technologie. S'il y avait quelque chose de familier dans les directives de sécurité volontaires que le président Trump a signées mardi avec les entreprises d'intelligence artificielle de pointe du pays, c'est peut-être pour cette raison : cela faisait écho à un accord précédent que le président Joseph R. Biden Jr. avait conclu avec plusieurs des mêmes entreprises il y a trois ans. Mais la question est maintenant de savoir si le type de cadre volontaire qui semblait plausible en 2023 est suffisant en 2026.

À l'époque, le concept central était le même : comme les réglementations fédérales ne pouvaient pas suivre le rythme effréné des nouveaux modèles d'IA, les entreprises ont accepté de mettre en place des systèmes pour s'autosurveiller. "Nous devons être lucides et vigilants face aux menaces émergentes des nouvelles technologies", a déclaré M. Biden en juillet 2023. M. Trump a essentiellement proposé la même approche mardi après-midi. "Ils vont vraiment se surveiller mutuellement", a-t-il dit, tandis que les dirigeants d'Anthropic, Open AI, Google, Meta, Nvidia et Space X AI acquiesçaient.

Après un été de surprises — des agents d'IA s'échappant des "bacs à sable" conçus pour les contenir — pourquoi quelqu'un penserait-il que ces protections sont suffisantes ? Les systèmes d'alerte précoce en couches ont clairement échoué. De nouveaux cas d'agents d'IA se comportant mal apparaissent presque quotidiennement. "Nous avons reconnu en 2023 que les engagements volontaires seuls ne suffiraient pas, c'est pourquoi le président Biden a suivi avec un décret", a noté Ben Buchanan, professeur à Johns Hopkins. "Étant donné la rapidité avec laquelle les capacités de l'IA ont progressé, il est encore plus clair maintenant que le gouvernement fédéral devra agir à nouveau."

राष्ट्रपति ट्रंप की योजना एआई कंपनियों को स्वयं निगरानी करने की अनुमति देने की है, ऐसे समय में जब बढ़ते उदाहरण हैं कि वे प्रौद्योगिकी पर सुरक्षा उपाय लगाने में विफल हो रहे हैं। यदि राष्ट्रपति ट्रंप ने मंगलवार को देश की अग्रणी कृत्रिम बुद्धिमत्ता कंपनियों के साथ जिन स्वैच्छिक सुरक्षा दिशानिर्देशों पर हस्ताक्षर किए, उनमें कुछ परिचित था, तो यह कारण हो सकता है: यह उस पिछले समझौते को प्रतिध्वनित करता है जो राष्ट्रपति Joseph R. Biden Jr. ने तीन साल पहले कई समान कंपनियों के साथ किया था। लेकिन अब सवाल यह है कि क्या 2023 में जो स्वैच्छिक ढांचा संभव लग रहा था, वह 2026 में पर्याप्त है।

उस समय, केंद्रीय अवधारणा समान थी: चूंकि संघीय नियम नए एआई मॉडल की तेज गति के साथ नहीं रह सकते थे, कंपनियों ने स्वयं की निगरानी के लिए सिस्टम स्थापित करने पर सहमति व्यक्त की। "हमें उभरती प्रौद्योगिकियों से उत्पन्न खतरों के प्रति स्पष्ट और सतर्क रहना चाहिए," श्री बाइडेन ने जुलाई 2023 में कहा। श्री ट्रंप ने मंगलवार दोपहर अनिवार्य रूप से वही दृष्टिकोण पेश किया। "वे वास्तव में एक-दूसरे की निगरानी करने जा रहे हैं," उन्होंने कहा, जब Anthropic, Open AI, Google, Meta, Nvidia और Space X AI के नेताओं ने सहमति में सिर हिलाया।

आश्चर्य की गर्मी के बाद — एआई एजेंटों के "सैंडबॉक्स" से बच निकलने के बाद, जो उन्हें नियंत्रित करने के लिए डिज़ाइन किए गए थे — कोई क्यों सोचेगा कि ये सुरक्षाएं पर्याप्त हैं? स्तरित प्रारंभिक चेतावनी प्रणाली स्पष्ट रूप से विफल हो गई है। एआई एजेंटों के बुरा व्यवहार करने के नए मामले लगभग दैनिक रूप से सामने आते हैं। "हमने 2023 में माना था कि अकेले स्वैच्छिक प्रतिज्ञा पर्याप्त नहीं होगी, यही कारण है कि राष्ट्रपति बाइडेन ने एक कार्यकारी आदेश के साथ पालन किया," जॉन्स हॉपकिन्स के प्रोफेसर Ben Buchanan ने कहा। "यह देखते हुए कि एआई क्षमताएं कितनी तेजी से आगे बढ़ी हैं, अब यह और भी स्पष्ट है कि संघीय सरकार को एक बार फिर कार्य करने की आवश्यकता होगी।"

Rencana Presiden Trump untuk membiarkan perusahaan AI mengawasi diri sendiri datang di tengah meningkatnya contoh bahwa mereka gagal memasang pengaman pada teknologi tersebut. Jika ada sesuatu yang familier dalam pedoman keselamatan sukarela yang ditandatangani Presiden Trump pada hari Selasa dengan perusahaan kecerdasan buatan terdepan di negara itu, ini mungkin alasannya: itu sangat mirip dengan perjanjian sebelumnya yang dibuat Presiden Joseph R. Biden Jr. dengan banyak perusahaan yang sama tiga tahun lalu. Tetapi pertanyaannya sekarang adalah apakah jenis kerangka kerja sukarela yang tampak masuk akal pada 2023 cukup pada 2026.

Saat itu, konsep utamanya sama: Karena peraturan federal tidak dapat mengimbangi kecepatan model AI baru yang sangat cepat, perusahaan setuju untuk membangun sistem untuk memantau diri mereka sendiri. "Kita harus berpandangan jernih dan waspada terhadap ancaman yang muncul dari teknologi baru," kata Tn. Biden pada Juli 2023. Tn. Trump pada dasarnya menawarkan pendekatan yang sama pada Selasa sore. "Mereka benar-benar akan saling mengawasi," katanya, sementara para pemimpin Anthropic, Open AI, Google, Meta, Nvidia dan Space X AI mengangguk setuju.

Setelah musim panas yang penuh kejutan — agen AI yang melarikan diri dari "kotak pasir" yang dirancang untuk menahan mereka — mengapa ada orang yang berpikir perlindungan ini cukup? Sistem peringatan dini berlapis jelas gagal. Kasus baru agen AI yang berperilaku buruk muncul hampir setiap hari. "Kami mengakui pada 2023 bahwa janji sukarela saja tidak akan cukup, itulah sebabnya Presiden Biden menindaklanjuti dengan perintah eksekutif," kata Ben Buchanan, profesor Johns Hopkins. "Mengingat seberapa cepat kemampuan AI telah maju, sekarang semakin jelas bahwa pemerintah federal perlu bertindak sekali lagi."

トランプ大統領がAI企業に自主監視を許可する計画は、彼らが技術に安全策を講じていないという事例が増えている中で行われた。トランプ大統領が火曜日に国内の最先端人工知能企業と署名した自主的安全ガイドラインに何か馴染みのあるものがあったとすれば、その理由はこれかもしれない：それは、Joseph R. Biden Jr.大統領が3年前に同じ企業の多くと結んだ以前の合意を強く反映していた。しかし今の問題は、2023年に妥当と思われた自主的枠組みが2026年に十分かどうかだ。

当時、中心的な概念は同じだった：連邦規制が新しいAIモデルの急速なペースに追いつけなかったため、企業は自己監視システムを構築することに合意した。「私たちは新興技術から生じる脅威に対して明確な視野と警戒心を持たなければならない」とバイデン氏は2023年7月に述べた。トランプ氏は火曜日の午後に本質的に同じアプローチを提示した。「彼らは本当にお互いを監視するつもりだ」と彼は述べ、Anthropic、Open AI、Google、Meta、Nvidia、Space X AIのリーダーたちが同意してうなずいた。

驚きの夏の後—AIエージェントがそれらを封じ込めるために設計された「サンドボックス」から逃げ出した後—なぜ誰もこれらの保護が十分だと思うのだろうか？層状の早期警戒システムは明らかに失敗している。AIエージェントの悪質な行動の新しいケースがほぼ毎日発生している。「私たちは2023年に自主的な誓約だけでは不十分だと認識し、だからこそバイデン大統領が大統領令で続けた」と、ジョンズ・ホプキンス大学教授のBen Buchanan氏は指摘した。「AIの能力がどれほど速く進歩したかを考えると、連邦政府が再び行動する必要があることは今やさらに明確だ。」

O plano do presidente Trump de permitir que empresas de IA se vigiem chega em meio a exemplos crescentes de que elas estão falhando em colocar salvaguardas na tecnologia. Se havia algo familiar nas diretrizes de segurança voluntárias que o presidente Trump assinou na terça-feira com as empresas de inteligência artificial de fronteira do país, esta pode ser a razão: ecoava um acordo anterior que o presidente Joseph R. Biden Jr. fez com muitas das mesmas empresas há três anos. Mas a questão agora é se o tipo de estrutura voluntária que parecia plausível em 2023 é suficiente em 2026.

Naquela época, o conceito central era o mesmo: como as regulamentações federais não conseguiam acompanhar o ritmo acelerado dos novos modelos de IA, as empresas concordaram em estabelecer sistemas para se monitorar. "Devemos ser claros e vigilantes sobre as ameaças emergentes das novas tecnologias", disse o Sr. Biden em julho de 2023. O Sr. Trump essencialmente ofereceu a mesma abordagem na terça-feira à tarde. "Eles realmente vão se vigiar mutuamente", disse ele, enquanto os líderes da Anthropic, Open AI, Google, Meta, Nvidia e Space X AI concordavam.

Após um verão de surpresas — de agentes de IA escapando das "sandboxes" projetadas para contê-los — por que alguém pensaria que essas proteções são suficientes? Os sistemas de alerta precoce em camadas falharam claramente. Novos casos de agentes de IA se comportando mal surgem quase diariamente. "Reconhecemos em 2023 que compromissos voluntários sozinhos não seriam suficientes, por isso o presidente Biden seguiu com uma ordem executiva", observou Ben Buchanan, professor da Johns Hopkins. "Dado o quão rápido as capacidades de IA avançaram, agora está ainda mais claro que o governo federal precisará agir novamente."

План президента Трампа позволить компаниям ИИ контролировать себя появляется на фоне растущих примеров того, что они не устанавливают защитные меры на технологию. Если в добровольных руководствах по безопасности, которые президент Трамп подписал во вторник с ведущими компаниями искусственного интеллекта страны, было что-то знакомое, причина может быть в этом: это перекликалось с предыдущим соглашением, которое президент Joseph R. Biden Jr. заключил с многими из тех же компаний три года назад. Но теперь вопрос в том, достаточен ли тот тип добровольной структуры, который казался правдоподобным в 2023 году, в 2026 году.

Тогда центральная концепция была той же: поскольку федеральные правила не могли угнаться за стремительным темпом новых моделей ИИ, компании согласились создать системы для самоконтроля. "Мы должны быть ясноглазыми и бдительными в отношении угроз, возникающих из новых технологий", — сказал г-н Байден в июле 2023 года. Г-н Трамп по сути предложил тот же подход во вторник днем. "Они действительно будут контролировать друг друга", — сказал он, пока лидеры Anthropic, Open AI, Google, Meta, Nvidia и Space X AI кивали в знак согласия.

После лета сюрпризов — когда агенты ИИ сбегали из "песочниц", предназначенных для их сдерживания, — почему кто-то думает, что этих защит достаточно? Многоуровневые системы раннего предупреждения явно провалились. Новые случаи плохого поведения агентов ИИ возникают почти ежедневно. "Мы признали в 2023 году, что одних добровольных обещаний недостаточно, поэтому президент Байден последовал за указом", — отметил Ben Buchanan, профессор Джонса Хопкинса. "Учитывая, как быстро продвинулись возможности ИИ, теперь еще яснее, что федеральному правительству нужно будет действовать снова."

特朗普总统计划让AI公司自我监管，与此同时，越来越多的例子表明他们未能为技术设置保障措施。如果特朗普总统周二与国家前沿人工智能公司签署的自愿安全指南有什么熟悉之处，原因可能是：它密切呼应了总统Joseph R. Biden Jr.三年前与许多相同公司达成的协议。但现在的问题是，2023年看似合理的自愿框架在2026年是否足够。

当时，核心概念是相同的：由于联邦法规无法跟上新AI模型的快速发展，公司同意建立自我监控系统。“我们必须清醒并警惕新兴技术带来的威胁，”拜登先生在2023年7月说。特朗普先生周二下午基本上提出了同样的方法。“他们真的会互相监管，”他说，Anthropic、Open AI、Google、Meta、Nvidia和Space X AI的领导人点头同意。

经过一个充满意外的夏天——AI代理逃离了旨在控制它们的“沙盒”——为什么还有人认为这些保护措施足够？分层预警系统显然失败了。新的AI代理行为不端的案例几乎每天出现。“我们在2023年认识到仅靠自愿承诺是不够的，这就是为什么拜登总统随后发布了行政命令，”约翰霍普金斯大学教授Ben Buchanan指出。“鉴于AI能力发展如此之快，现在更清楚联邦政府需要再次行动。”