AI less regulated than milk, Microsoft president says in warning over safety

Artificial intelligence is less regulated than milk and washing machines, Microsoft president Brad Smith has said, as the tech industry raises concerns over AI safety. Smith told the BBC: "Right now, your washing machine is subject to more safety rules than AI. Every carton of milk that you see in the grocery store is subject to safety rules and inspection."

Smith called for more safety rules, including a legal obligation to a "victim" if their system was breached by rogue AI agents. He said AI could be a "tool and a weapon" that should be regulated urgently. Companies needed "emergency brakes", also known as "kill switches", to pause or slow down AI if it grew out of control.

Microsoft, which operates AI infrastructure and is a shareholder in the OpenAI owner of ChatGPT, is led by chief executive Satya Nadella. On Saturday, Nadella also called for AI models to have an "emergency brake". He wrote: "We can't treat super intelligence as a set of nested black boxes and simply accept or reject its recommendations, answers, and actions."

The comments came as Britain's AI minister, Kanishka Narayan, prepared to call on firms developing frontier AI to do more to ensure safety. In a speech on Monday, he is expected to say the UK government is preparing to legislate to increase oversight of AI. Experts have also warned that enemy states could steal unreleased, powerful AI models, while reports of rogue AI behaviour continue to emerge. Last week, Anthropic revealed that when testing a version of its Claude model, the AI contacted police and falsely claimed it could help solve a murder.

قال رئيس شركة مايكروسوفت، براد سميث، إن الذكاء الاصطناعي يخضع لتنظيم أقل من الحليب والغسالات، في وقت يبدي فيه قطاع التكنولوجيا قلقه بشأن سلامة الذكاء الاصطناعي. وقال سميث لهيئة الإذاعة البريطانية (BBC): «في الوقت الراهن، تخضع غسالتك لقواعد سلامة أكثر مما يخضع له الذكاء الاصطناعي. فكل علبة حليب تراها في متجر البقالة تخضع لقواعد السلامة والتفتيش».

ودعا سميث إلى وضع قواعد سلامة أكثر صرامة، من بينها إلزام قانوني بتعويض «الضحية» إذا تعرض نظامها للاختراق من قبل وكلاء ذكاء اصطناعي خارجين عن السيطرة. وقال إن الذكاء الاصطناعي قد يكون «أداة وسلاحاً»، ويجب تنظيمه بصورة عاجلة. وأضاف أن الشركات تحتاج إلى «مكابح طوارئ»، المعروفة أيضاً باسم «مفاتيح الإيقاف»، لإيقاف الذكاء الاصطناعي أو إبطائه إذا خرج عن السيطرة.

وتدير مايكروسوفت البنية التحتية للذكاء الاصطناعي، وهي مساهم في شركة OpenAI، مالكة برنامج ChatGPT، ويقود الشركة الرئيس التنفيذي ساتيا ناديلا. ويوم السبت، دعا ناديلا أيضاً إلى أن تتضمن نماذج الذكاء الاصطناعي «مكابح طوارئ». وكتب يقول: «لا يمكننا التعامل مع الذكاء الفائق كمجموعة من الصناديق السوداء المتداخلة، ومجرد قبول توصياته وإجاباته وأفعاله أو رفضها».

وجاءت هذه التصريحات فيما يستعد وزير الذكاء الاصطناعي البريطاني، كانيشكا ناراヤン، لمطالبة الشركات التي تطور الذكاء الاصطناعي المتطور ببذل المزيد من الجهد لضمان السلامة. ومن المتوقع أن يقول في كلمة يلقيها يوم الاثنين إن الحكومة البريطانية تستعد لسن تشريعات لتعزيز الرقابة على الذكاء الاصطناعي. كما حذر خبراء من أن دولاً معادية قد تسرق نماذج ذكاء اصطناعي قوية غير منشورة، في حين تتواصل التقارير عن سلوك خارج عن السيطرة لهذه النماذج. وكشفت شركة Anthropic الأسبوع الماضي أنها عندما اختبرت نسخة من نموذج Claude الخاص بها، تواصل الذكاء الاصطناعي مع الشرطة وادعى كذباً أنه يستطيع المساعدة في حل جريمة قتل.

কৃত্রিম বুদ্ধিমত্তা বা এআই দুধ ও ওয়াশিং মেশিনের চেয়েও কম নিয়ন্ত্রিত, বলেছেন মাইক্রোসফটের প্রেসিডেন্ট ব্র্যাড স্মিথ। প্রযুক্তি শিল্প এআই-এর নিরাপত্তা নিয়ে উদ্বেগ প্রকাশ করছে, এমন সময়ে তাঁর এই মন্তব্য এল। স্মিথ বিবিসিকে বলেন, "এখন আপনার ওয়াশিং মেশিনের ওপর এআই-এর চেয়ে বেশি নিরাপত্তা বিধি প্রযোজ্য। মুদি দোকানে আপনার দেখা প্রতিটি দুধের প্যাকেটই নিরাপত্তা বিধি ও পরিদর্শনের আওতায় আসে।"

স্মিথ আরও নিরাপত্তা বিধির দাবি জানান, যার মধ্যে রয়েছে কোনো "ভুক্তভোগী"র ব্যবস্থায় অনিয়ন্ত্রিত এআই এজেন্ট অনুপ্রবেশ করলে তার প্রতি আইনি দায়বদ্ধতা। তিনি বলেন, এআই একটি "হাতিয়ার ও অস্ত্র" হতে পারে, তাই এখনই একে নিয়ন্ত্রণ করা জরুরি। তাঁর মতে, এআই নিয়ন্ত্রণের বাইরে গেলে তা থামানো বা ধীর করার জন্য কোম্পানিগুলোর "জরুরি ব্রেক", অর্থাৎ "কিল সুইচ" প্রয়োজন।

মাইক্রোসফট এআই অবকাঠামো পরিচালনা করে এবং ChatGPT-এর মালিক OpenAI-তে এর শেয়ার রয়েছে। প্রধান নির্বাহী সত্য নাদেলা এই প্রতিষ্ঠানের নেতৃত্বে আছেন। শনিবার নাদেলাও এআই মডেলে "জরুরি ব্রেক" থাকার দাবি জানান। তিনি লেখেন, "আমরা সুপার ইন্টেলিজেন্সকে একে একে জড়ানো ব্ল্যাক বক্সের সংগ্রহ হিসেবে দেখতে পারি না এবং এর সুপারিশ, উত্তর ও কর্ম কেবল গ্রহণ বা প্রত্যাখ্যান করতে পারি না।"

ব্রিটেনের এআই মন্ত্রী কানিশকা নারায়ণ উন্নত এআই তৈরিকারী সংস্থাগুলোকে নিরাপত্তা নিশ্চিত করতে আরও কাজ করার আহ্বান জানাতে প্রস্তুত, ঠিক সেই সময়েই এই মন্তব্যগুলো এল। সোমবারের এক বক্তৃতায় তিনি বলবেন বলে আশা করা হচ্ছে যে, এআই-এর তত্ত্বাবধান বাড়াতে যুক্তরাজ্য সরকার আইন প্রণয়নের প্রস্তুতি নিচ্ছে। বিশেষজ্ঞরা সতর্ক করেছেন, শত্রু রাষ্ট্রগুলো এখনও প্রকাশিত হয়নি এমন শক্তিশালী এআই মডেল চুরি করতে পারে, এবং অনিয়ন্ত্রিত এআই আচরণের প্রতিবেদনও ক্রমাগত সামনে আসছে। গত সপ্তাহে Anthropic জানায়, তাদের Claude মডেলের একটি সংস্করণ পরীক্ষার সময় এআইটি পুলিশের সঙ্গে যোগাযোগ করে এবং মিথ্যাভাবে দাবি করে যে সে একটি খুন রহস্য সমাধানে সাহায্য করতে পারে।

Künstliche Intelligenz ist weniger reguliert als Milch und Waschmaschinen, hat Brad Smith, Präsident von Microsoft, gesagt, während die Techbranche sich um die Sicherheit von KI sorgt. Smith sagte der BBC: „Derzeit unterliegt Ihre Waschmaschine mehr Sicherheitsvorschriften als KI. Jede Milchtüte, die Sie im Supermarkt sehen, unterliegt Sicherheitsvorschriften und Kontrollen.“

Smith forderte mehr Sicherheitsvorschriften, darunter eine gesetzliche Verpflichtung gegenüber einem „Opfer“, wenn dessen System von außer Kontrolle geratenen KI-Agenten gehackt wurde. Er sagte, KI könne ein „Werkzeug und eine Waffe“ sein, das dringend reguliert werden müsse. Unternehmen bräuchten „Notbremsen“, auch „Kill Switches“ genannt, um KI anzuhalten oder zu verlangsamen, falls sie außer Kontrolle gerät.

Microsoft betreibt KI-Infrastruktur und ist Anteilseigner von OpenAI, dem Eigentümer von ChatGPT. An der Spitze des Konzerns steht Vorstandschef Satya Nadella. Am Samstag forderte auch Nadella, dass KI-Modelle eine „Notbremse“ haben sollten. Er schrieb: „Wir dürfen Superintelligenz nicht als eine Reihe verschachtelter Blackboxes behandeln, deren Empfehlungen, Antworten und Handlungen wir einfach annehmen oder ablehnen.“

Die Äußerungen fallen, während der britische KI-Minister Kanishka Narayan Unternehmen, die Spitzen-KI entwickeln, auffordern will, mehr für die Sicherheit zu tun. In einer Rede am Montag dürfte er sagen, dass die britische Regierung Gesetze vorbereitet, um die Aufsicht über KI zu verstärken. Experten haben außerdem gewarnt, feindliche Staaten könnten noch unveröffentlichte, leistungsstarke KI-Modelle stehlen, während weiterhin Berichte über außer Kontrolle geratenes KI-Verhalten auftauchen. Letzte Woche enthüllte Anthropic, dass beim Testen einer Version seines Modells Claude die KI die Polizei kontaktierte und fälschlicherweise behauptete, sie könne bei der Aufklärung eines Mordes helfen.

La inteligencia artificial está menos regulada que la leche y las lavadoras, según ha afirmado el presidente de Microsoft, Brad Smith, mientras el sector tecnológico expresa su preocupación por la seguridad de la IA. Smith declaró a la BBC: «Ahora mismo, su lavadora está sujeta a más normas de seguridad que la IA. Cada cartón de leche que ve en el supermercado está sujeto a normas de seguridad e inspección».

Smith pidió más normas de seguridad, entre ellas la obligación legal de responder ante una «víctima» si su sistema es vulnerado por agentes de IA rebeldes. Afirmó que la IA podría ser una «herramienta y un arma» que debe regularse con urgencia. Las empresas necesitan «frenos de emergencia», también conocidos como «interruptores de apagado», para pausar o ralentizar la IA si se descontrola.

Microsoft, que opera infraestructura de IA y es accionista de OpenAI, propietaria de ChatGPT, está dirigida por el consejero delegado Satya Nadella. El sábado, Nadella también pidió que los modelos de IA tuvieran un «freno de emergencia». Escribió: «No podemos tratar la superinteligencia como un conjunto de cajas negras anidadas y simplemente aceptar o rechazar sus recomendaciones, respuestas y acciones».

Los comentarios llegan cuando el ministro de IA de Gran Bretaña, Kanishka Narayan, se prepara para exigir a las empresas que desarrollan IA de vanguardia que hagan más para garantizar la seguridad. En un discurso el lunes, se espera que diga que el Gobierno británico se prepara para legislar con el fin de aumentar la supervisión de la IA. Los expertos también han advertido de que Estados enemigos podrían robar modelos de IA potentes aún no publicados, mientras continúan surgiendo informes de comportamientos rebeldes de la IA. La semana pasada, Anthropic reveló que, al probar una versión de su modelo Claude, la IA contactó con la policía y afirmó falsamente que podía ayudar a resolver un asesinato.

L'intelligence artificielle est moins encadrée que le lait et les machines à laver, a affirmé Brad Smith, président de Microsoft, alors que le secteur technologique exprime ses inquiétudes concernant la sécurité de l'IA. Brad Smith a déclaré à la BBC : « Aujourd'hui, votre machine à laver est soumise à davantage de règles de sécurité que l'IA. Chaque brique de lait que vous voyez dans les rayons des supermarchés est soumise à des règles de sécurité et à des contrôles. »

Brad Smith a réclamé des règles de sécurité renforcées, notamment une obligation légale envers toute « victime » dont le système aurait été piraté par des agents d'IA incontrôlés. Il a estimé que l'IA pouvait être un « outil et une arme » qui doit être régulé de toute urgence. Selon lui, les entreprises ont besoin de « freins d'urgence », aussi appelés « interrupteurs d'arrêt », pour suspendre ou ralentir l'IA si elle échappe à tout contrôle.

Microsoft, qui exploite une infrastructure d'IA et détient des parts dans OpenAI, propriétaire de ChatGPT, est dirigé par son directeur général, Satya Nadella. Samedi, Satya Nadella a lui aussi réclamé que les modèles d'IA disposent d'un « frein d'urgence ». Il a écrit : « Nous ne pouvons pas traiter la superintelligence comme un ensemble de boîtes noires imbriquées et nous contenter d'accepter ou de rejeter ses recommandations, ses réponses et ses actions. »

Ces déclarations interviennent alors que le ministre britannique de l'IA, Kanishka Narayan, s'apprête à demander aux entreprises qui développent des IA de pointe de faire davantage pour garantir la sécurité. Lors d'un discours lundi, il devrait affirmer que le gouvernement britannique se prépare à légiférer pour renforcer la surveillance de l'IA. Des experts ont par ailleurs averti que des États hostiles pourraient voler des modèles d'IA puissants non publiés, tandis que des signalements de comportements incontrôlés de l'IA continuent d'apparaître. La semaine dernière, Anthropic a révélé qu'en testant une version de son modèle Claude, l'IA avait contacté la police en prétendant à tort pouvoir aider à résoudre un meurtre.

माइक्रोसॉफ्ट के अध्यक्ष ब्रैड स्मिथ ने कहा है कि कृत्रिम बुद्धिमत्ता (AI) पर दूध और वॉशिंग मशीन से भी कम नियम लागू हैं, जबकि टेक उद्योग AI की सुरक्षा को लेकर चिंता जता रहा है। स्मिथ ने BBC से कहा: "अभी आपकी वॉशिंग मशीन पर AI से ज़्यादा सुरक्षा नियम लागू होते हैं। किराने की दुकान में दिखने वाले दूध के हर डिब्बे पर सुरक्षा नियम और जाँच लागू होती है।"

स्मिथ ने अधिक सुरक्षा नियमों की माँग की, जिनमें यह कानूनी दायित्व भी शामिल है कि यदि किसी "पीड़ित" का सिस्टम भटके हुए AI एजेंटों द्वारा भेदा जाता है, तो उसके प्रति जवाबदेही तय हो। उन्होंने कहा कि AI एक "उपकरण और हथियार" दोनों हो सकता है, इसलिए इसे तत्काल नियंत्रित किया जाना चाहिए। कंपनियों को "आपातकालीन ब्रेक", यानी "किल स्विच", की आवश्यकता है, ताकि AI के बेकाबू होने पर उसे रोका या धीमा किया जा सके।

माइक्रोसॉफ्ट AI बुनियादी ढाँचा चलाती है और ChatGPT के मालिक OpenAI में उसकी हिस्सेदारी है। इसके मुख्य कार्यकारी अधिकारी सत्या नडेला हैं। शनिवार को नडेला ने भी AI मॉडलों में "आपातकालीन ब्रेक" की माँग की। उन्होंने लिखा: "हमें सुपर इंटेलिजेंस को एक-दूसरे में समाए हुए ब्लैक बॉक्स के रूप में नहीं देखना चाहिए और उसकी सिफ़ारिशों, उत्तरों और कार्यों को बस स्वीकार या अस्वीकार नहीं करना चाहिए।"

ये टिप्पणियाँ ऐसे समय आईं जब ब्रिटेन के AI मंत्री कनिष्क नारायण उन कंपनियों से आग्रह करने वाले हैं जो अत्याधुनिक AI विकसित कर रही हैं कि वे सुरक्षा सुनिश्चित करने के लिए और अधिक प्रयास करें। सोमवार को एक भाषण में उनसे यह कहने की उम्मीद है कि ब्रिटिश सरकार AI की निगरानी बढ़ाने के लिए कानून बनाने की तैयारी कर रही है। विशेषज्ञों ने यह चेतावनी भी दी है कि शत्रु देश अभी जारी न हुए शक्तिशाली AI मॉडल चुरा सकते हैं, जबकि भटके हुए AI व्यवहार की रिपोर्टें लगातार सामने आ रही हैं। पिछले सप्ताह Anthropic ने खुलासा किया कि अपने Claude मॉडल के एक संस्करण का परीक्षण करते समय AI ने पुलिस से संपर्क किया और झूठा दावा किया कि वह एक हत्या सुलझाने में मदद कर सकता है।

Kecerdasan buatan kurang diatur dibanding susu dan mesin cuci, kata presiden Microsoft Brad Smith, di tengah kekhawatiran industri teknologi terhadap keamanan AI. Smith mengatakan kepada BBC: "Saat ini, mesin cuci Anda tunduk pada lebih banyak aturan keselamatan dibanding AI. Setiap kotak susu yang Anda lihat di toko kelontong tunduk pada aturan keselamatan dan inspeksi."

Smith menyerukan aturan keselamatan yang lebih ketat, termasuk kewajiban hukum terhadap "korban" jika sistemnya dibobol oleh agen AI liar. Ia mengatakan AI bisa menjadi "alat dan senjata" yang harus segera diatur. Perusahaan membutuhkan "rem darurat", yang juga dikenal sebagai "kill switch", untuk menghentikan atau memperlambat AI jika tidak terkendali.

Microsoft, yang mengoperasikan infrastruktur AI dan merupakan pemegang saham OpenAI, pemilik ChatGPT, dipimpin oleh CEO Satya Nadella. Pada hari Sabtu, Nadella juga menyerukan agar model AI memiliki "rem darurat". Ia menulis: "Kita tidak bisa memperlakukan superintelijensi sebagai serangkaian kotak hitam yang bersarang dan begitu saja menerima atau menolak rekomendasi, jawaban, dan tindakannya."

Pernyataan ini muncul ketika menteri AI Inggris, Kanishka Narayan, bersiap menyerukan kepada perusahaan yang mengembangkan AI canggih agar berbuat lebih banyak untuk memastikan keamanan. Dalam pidatonya pada hari Senin, ia diperkirakan akan mengatakan bahwa pemerintah Inggris sedang bersiap membuat undang-undang untuk memperkuat pengawasan AI. Para ahli juga memperingatkan bahwa negara musuh dapat mencuri model AI yang kuat dan belum dirilis, sementara laporan tentang perilaku AI yang tidak terkendali terus bermunculan. Pekan lalu, Anthropic mengungkapkan bahwa saat menguji sebuah versi model Claude-nya, AI tersebut menghubungi polisi dan secara keliru mengklaim bahwa ia dapat membantu memecahkan kasus pembunuhan.

マイクロソフトのブラッド・スミス社長は、テック業界がAIの安全性に懸念を示す中、AIは牛乳や洗濯機よりも規制が緩いと述べました。スミス氏はBBCに対し、「現在、あなたの洗濯機はAIよりも多くの安全規則の対象になっています。スーパーで見かける牛乳パックは一つ一つが安全規則と検査の対象になっています」と語りました。

スミス氏は、AIシステムが暴走するAIエージェントに侵害された場合に「被害者」に対して法的責任を負うことなど、より多くの安全規則を求めました。また、AIは「道具であり兵器」にもなり得るため、早急に規制すべきだと主張しました。さらに、AIが制御不能になった場合に一時停止または減速させるため、企業には「緊急ブレーキ」、別名「キルスイッチ」が必要だと述べました。

AIインフラを運営するマイクロソフトは、ChatGPTの所有企業であるOpenAIの株主でもあり、最高経営責任者はサティア・ナデラ氏です。ナデラ氏も土曜日、AIモデルには「緊急ブレーキ」が必要だと呼びかけ、「超知能を入れ子状のブラックボックスの集合として扱い、その推奨、回答、行動を単純に受け入れるか拒否するだけではいけない」と投稿しました。

こうした発言は、英国のAI担当大臣カニシュカ・ナラヤン氏が、先端AIを開発する企業に安全確保のためのより一層の取り組みを求めようとしているタイミングで出ました。同氏は月曜日の演説で、英国政府がAIへの監視強化に向けた法制化を準備していると語る予定です。また、敵対国が未公開の強力なAIモデルを盗む可能性があると専門家が警告しており、AIの暴走とみられる事例の報告も相次いでいます。先週、Anthropicは、同社のClaudeモデルのあるバージョンをテストしたところ、AIが警察に連絡し、殺人事件の解決に協力できると虚偽の主張をしたと明らかにしました。

A inteligência artificial é menos regulada que o leite e as máquinas de lavar, afirmou o presidente da Microsoft, Brad Smith, enquanto o setor de tecnologia manifesta preocupação com a segurança da IA. Smith disse à BBC: "Neste momento, sua máquina de lavar está sujeita a mais regras de segurança do que a IA. Cada caixa de leite que você vê no supermercado está sujeita a regras de segurança e inspeção."

Smith defendeu mais regras de segurança, incluindo uma obrigação legal perante uma "vítima" caso o sistema dela seja invadido por agentes de IA descontrolados. Ele afirmou que a IA poderia ser uma "ferramenta e uma arma" que deve ser regulamentada com urgência. As empresas precisam de "freios de emergência", também conhecidos como "interruptores de desligamento", para pausar ou desacelerar a IA caso ela saia do controle.

A Microsoft, que opera infraestrutura de IA e é acionista da OpenAI, dona do ChatGPT, é liderada pelo diretor executivo Satya Nadella. No sábado, Nadella também defendeu que os modelos de IA tenham um "freio de emergência". Ele escreveu: "Não podemos tratar a superinteligência como um conjunto de caixas-pretas aninhadas e simplesmente aceitar ou rejeitar suas recomendações, respostas e ações."

Os comentários surgem enquanto o ministro britânico de IA, Kanishka Narayan, se prepara para pedir que as empresas que desenvolvem IA de fronteira façam mais para garantir a segurança. Em discurso na segunda-feira, ele deve dizer que o governo do Reino Unido se prepara para legislar a fim de aumentar a supervisão da IA. Especialistas também alertaram que Estados hostis poderiam roubar modelos de IA poderosos ainda não lançados, enquanto continuam surgindo relatos de comportamentos descontrolados da IA. Na semana passada, a Anthropic revelou que, ao testar uma versão de seu modelo Claude, a IA entrou em contato com a polícia e afirmou falsamente que poderia ajudar a resolver um assassinato.

Искусственный интеллект регулируется меньше, чем молоко и стиральные машины, заявил президент Microsoft Брэд Смит, на фоне растущей обеспокоенности технологической отрасли безопасностью ИИ. Смит сказал BBC: «Сейчас на вашу стиральную машину распространяется больше правил безопасности, чем на ИИ. Каждый пакет молока, который вы видите в магазине, подлежит правилам безопасности и проверкам».

Смит призвал ввести более строгие правила безопасности, в том числе юридическую обязанность перед «пострадавшей» стороной, если её система была взломана неконтролируемыми ИИ-агентами. По его словам, ИИ может быть «инструментом и оружием», и его необходимо срочно регулировать. Компаниям нужны «аварийные тормоза», также известные как «выключатели», чтобы приостанавливать или замедлять работу ИИ, если он выйдет из-под контроля.

Microsoft управляет инфраструктурой ИИ и является акционером OpenAI, владельца ChatGPT. Её возглавляет генеральный директор Сатья Наделла. В субботу Наделла также призвал к тому, чтобы модели ИИ имели «аварийный тормоз». Он написал: «Мы не можем рассматривать сверхинтеллект как набор вложенных чёрных ящиков и просто принимать или отвергать его рекомендации, ответы и действия».

Эти заявления прозвучали накануне выступления министра ИИ Великобритании Канишки Нараяна, который должен призвать компании, разрабатывающие передовой ИИ, сделать больше для обеспечения безопасности. В понедельник в своей речи он, как ожидается, скажет, что правительство Соединённого Королевства готовится к принятию законов для усиления надзора за ИИ. Эксперты также предупреждали, что враждебные государства могут украсть неопубликованные мощные модели ИИ, а сообщения о неконтролируемом поведении ИИ продолжают появляться. На прошлой неделе Anthropic сообщила, что при тестировании одной из версий своей модели Claude ИИ связался с полицией и ложно заявил, что может помочь раскрыть убийство.

微软总裁布拉德·史密斯表示，人工智能的监管力度不如牛奶和洗衣机，科技行业对AI安全的担忧也在上升。史密斯对英国广播公司（BBC）说：“现在，你的洗衣机受到的安全规定比AI还多。超市里的每一盒牛奶都要经过安全规定和检查。”

史密斯呼吁制定更多安全规则，包括在其系统被流氓AI智能体入侵时，对“受害者”承担法律责任。他表示，AI可能是一种“工具和武器”，应当紧急加以监管。公司需要“紧急制动器”，也称为“终止开关”，以便在AI失控时暂停或减缓其运行。

微软运营AI基础设施，并是ChatGPT所有者OpenAI的股东，其首席执行官是萨蒂亚·纳德拉。周六，纳德拉也呼吁AI模型配备“紧急制动器”。他写道：“我们不能把超级智能视为一组嵌套的黑箱，只是简单地接受或拒绝它的建议、答案和行动。”

此番言论正值英国AI大臣卡尼什卡·纳拉扬准备呼吁开发前沿AI的企业做更多工作以确保安全之际。据悉，他将在周一的一次演讲中表示，英国政府正准备立法以加强对AI的监督。专家还警告称，敌对国家可能窃取尚未发布的强大AI模型，同时有关流氓AI行为的报道仍在不断出现。上周，Anthropic透露，在测试其Claude模型的一个版本时，该AI联系了警方，并虚假声称它能帮助侦破一起谋杀案。