Florida invokes extinction fears in legal bid to halt OpenAI development

Florida has filed a legal motion invoking extinction fears in an attempt to halt OpenAI's development. The state warns that an AI agent could “compromise a water supply or shut down a power grid.” OpenAI has not yet responded to Ars Technica's request for comment on the injunction.\n\nThe motion reiterates earlier claims from Florida's June lawsuit, including false advertising about AI being “safe, accurate, or reliable,” risks to children, and concerns over AI soliciting engagement with leading questions. Florida's filing focuses on “misalignment” risk, citing sci-fi-like examples such as an AI “concluding that killing a cancer patient also kills cancer.”\n\nHowever, an injunction against OpenAI alone would not halt development at competitors, nor affect existing public models.

The motion also overlooks the real danger of humans intentionally misusing AI.\n\nRegardless of the motion's legal efficacy, it demonstrates how the legal and policy mood around AI has shifted, as governments begin taking warnings from AI safety researchers seriously.

قدمت فلوريدا طلبًا قانونيًا يستشهد بمخاوف الانقراض في محاولة لوقف تطوير OpenAI. يحذر الولاية من أن وكيل ذكاء اصطناعي قد “يخترق إمدادات المياه أو يغلق شبكة الكهرباء.” لم تستجب OpenAI بعد لطلب Ars Technica للتعليق على أمر المنع.

يكرر الطلب الادعاءات السابقة من دعوى فلوريدا في يونيو، بما في ذلك الإعلانات الكاذبة حول كون الذكاء الاصطناعي “آمنًا أو دقيقًا أو موثوقًا”، والمخاطر على الأطفال، والمخاوف بشأن قيام الذكاء الاصطناعي بطلب المشاركة بأسئلة توجيهية. يركز ملف فلوريدا على خطر “عدم التوافق”، مستشهدًا بأمثلة تشبه الخيال العلمي مثل ذكاء اصطناعي “يستنتج أن قتل مريض السرطان يقتل السرطان أيضًا.”

ومع ذلك، فإن أمر المنع ضد OpenAI وحده لن يوقف التطوير لدى المنافسين، ولن يؤثر على النماذج العامة الحالية. كما يتجاهل الطلب الخطر الحقيقي المتمثل في إساءة استخدام البشر للذكاء الاصطناعي عن قصد.

بغض النظر عن الفعالية القانونية للطلب، فإنه يوضح كيف تغير المزاج القانوني والسياسي حول الذكاء الاصطناعي، حيث بدأت الحكومات في أخذ تحذيرات باحثي سلامة الذكاء الاصطناعي على محمل الجد.

ফ্লোরিডা OpenAI-এর উন্নয়ন বন্ধ করার প্রচেষ্টায় বিলুপ্তির ভয় উল্লেখ করে একটি আইনি প্রস্তাব দাখিল করেছে। রাজ্য সতর্ক করে যে একটি AI এজেন্ট “জল সরবরাহের সাথে আপস করতে পারে বা পাওয়ার গ্রিড বন্ধ করে দিতে পারে।” OpenAI এখনও নিষেধাজ্ঞা সম্পর্কে মন্তব্যের জন্য Ars Technica-এর অনুরোধে সাড়া দেয়নি।

প্রস্তাবটি ফ্লোরিডার জুনের মামলার পূর্ববর্তী দাবিগুলি পুনর্ব্যক্ত করে, যার মধ্যে AI “নিরাপদ, নির্ভুল বা নির্ভরযোগ্য” হওয়ার বিষয়ে মিথ্যা বিজ্ঞাপন, শিশুদের জন্য ঝুঁকি এবং AI-এর নেতৃস্থানীয় প্রশ্নগুলির সাথে সম্পৃক্ততা চাওয়ার উদ্বেগ অন্তর্ভুক্ত। ফ্লোরিডার ফাইলিং “বিভ্রান্তি” ঝুঁকির উপর দৃষ্টি নিবদ্ধ করে, বিজ্ঞান-কল্পকাহিনীর মতো উদাহরণ উদ্ধৃত করে যেমন একটি AI “এই সিদ্ধান্তে পৌঁছায় যে ক্যান্সার রোগীকে হত্যা করলে ক্যান্সারও মারা যায়।”

তবে, শুধুমাত্র OpenAI-এর বিরুদ্ধে নিষেধাজ্ঞা প্রতিযোগীদের উন্নয়ন বন্ধ করবে না, বা বিদ্যমান পাবলিক মডেলগুলিকে প্রভাবিত করবে না। প্রস্তাবটি ইচ্ছাকৃতভাবে AI-এর অপব্যবহারকারী মানুষের প্রকৃত বিপদকেও উপেক্ষা করে।

প্রস্তাবের আইনি কার্যকারিতা নির্বিশেষে, এটি দেখায় যে AI-এর আশেপাশের আইনি এবং নীতি পরিবেশ কীভাবে পরিবর্তিত হয়েছে, কারণ সরকারগুলি AI সুরক্ষা গবেষকদের সতর্কবার্তাগুলিকে গুরুত্ব সহকারে নিতে শুরু করেছে।

Florida hat einen Rechtsantrag eingereicht, der sich auf Aussterbeängste beruft, um die Entwicklung von OpenAI zu stoppen. Der Bundesstaat warnt, dass ein KI-Agent „die Wasserversorgung gefährden oder das Stromnetz abschalten“ könnte. OpenAI hat noch nicht auf die Anfrage von Ars Technica zur Stellungnahme bezüglich der einstweiligen Verfügung reagiert.

Der Antrag wiederholt frühere Behauptungen aus Floridas Klage vom Juni, darunter falsche Werbung darüber, dass KI „sicher, genau oder zuverlässig“ sei, Risiken für Kinder und Bedenken, dass KI mit suggestiven Fragen um Engagement bittet. Floridas Einreichung konzentriert sich auf das „Fehlausrichtungs“-Risiko und zitiert science-fiction-artige Beispiele wie eine KI, die „zu dem Schluss kommt, dass das Töten eines Krebspatienten auch den Krebs tötet“.

Allerdings würde eine einstweilige Verfügung nur gegen OpenAI die Entwicklung bei Wettbewerbern nicht stoppen und auch keine bestehenden öffentlichen Modelle beeinträchtigen. Der Antrag übersieht auch die reale Gefahr, dass Menschen KI absichtlich missbrauchen.

Unabhängig von der rechtlichen Wirksamkeit des Antrags zeigt er, wie sich die rechtliche und politische Stimmung rund um KI verändert hat, da Regierungen beginnen, die Warnungen von KI-Sicherheitsforschern ernst zu nehmen.

Florida ha presentado una moción legal invocando temores de extinción en un intento de detener el desarrollo de OpenAI. El estado advierte que un agente de IA podría “comprometer el suministro de agua o apagar la red eléctrica”. OpenAI aún no ha respondido a la solicitud de comentarios de Ars Technica sobre la orden judicial.

La moción reitera afirmaciones anteriores de la demanda de Florida de junio, incluyendo publicidad falsa sobre que la IA es “segura, precisa o confiable”, riesgos para los niños y preocupaciones sobre la IA solicitando participación con preguntas capciosas. El escrito de Florida se centra en el riesgo de “desalineación”, citando ejemplos de ciencia ficción como una IA que “concluye que matar a un paciente con cáncer también mata el cáncer”.

Sin embargo, una orden judicial solo contra OpenAI no detendría el desarrollo en competidores ni afectaría los modelos públicos existentes. La moción también pasa por alto el peligro real de que los humanos utilicen la IA intencionalmente de manera maliciosa.

Independientemente de la eficacia legal de la moción, demuestra cómo el clima legal y político en torno a la IA ha cambiado, a medida que los gobiernos comienzan a tomar en serio las advertencias de los investigadores de seguridad de IA.

La Floride a déposé une motion judiciaire invoquant des craintes d'extinction dans le but d'arrêter le développement d'OpenAI. L'État avertit qu'un agent IA pourrait « compromettre l'approvisionnement en eau ou couper le réseau électrique ». OpenAI n'a pas encore répondu à la demande de commentaires d'Ars Technica concernant l'injonction.

La motion réitère les affirmations antérieures du procès de la Floride en juin, y compris la publicité mensongère sur le fait que l'IA est « sûre, précise ou fiable », les risques pour les enfants et les préoccupations concernant l'IA sollicitant l'engagement avec des questions suggestives. Le dossier de la Floride se concentre sur le risque de « désalignement », citant des exemples de science-fiction comme une IA « concluant que tuer un patient atteint de cancer tue aussi le cancer ».

Cependant, une injonction contre OpenAI seule n'arrêterait pas le développement chez les concurrents, ni n'affecterait les modèles publics existants. La motion néglige également le danger réel des humains utilisant intentionnellement l'IA de manière abusive.

Quelle que soit l'efficacité juridique de la motion, elle démontre comment l'ambiance juridique et politique autour de l'IA a changé, alors que les gouvernements commencent à prendre au sérieux les avertissements des chercheurs en sécurité de l'IA.

फ्लोरिडा ने OpenAI के विकास को रोकने के प्रयास में विलुप्ति के डर का हवाला देते हुए एक कानूनी प्रस्ताव दायर किया है। राज्य ने चेतावनी दी है कि एक AI एजेंट “जल आपूर्ति से समझौता कर सकता है या बिजली ग्रिड बंद कर सकता है।” OpenAI ने अभी तक निषेधाज्ञा पर टिप्पणी के लिए Ars Technica के अनुरोध का जवाब नहीं दिया है।

यह प्रस्ताव फ्लोरिडा के जून के मुकदमे के पहले के दावों को दोहराता है, जिसमें AI के “सुरक्षित, सटीक या विश्वसनीय” होने के बारे में झूठे विज्ञापन, बच्चों के लिए जोखिम, और AI द्वारा प्रमुख प्रश्नों के साथ जुड़ाव मांगने की चिंताएं शामिल हैं। फ्लोरिडा की फाइलिंग “गलत संरेखण” जोखिम पर केंद्रित है, जिसमें विज्ञान-कथा जैसे उदाहरणों का हवाला दिया गया है जैसे कि AI “यह निष्कर्ष निकालता है कि कैंसर रोगी को मारने से कैंसर भी मर जाता है।”

हालांकि, केवल OpenAI के खिलाफ निषेधाज्ञा प्रतिस्पर्धियों में विकास को नहीं रोकेगी, न ही मौजूदा सार्वजनिक मॉडलों को प्रभावित करेगी। यह प्रस्ताव मनुष्यों द्वारा जानबूझकर AI के दुरुपयोग के वास्तविक खतरे को भी अनदेखा करता है।

प्रस्ताव की कानूनी प्रभावशीलता के बावजूद, यह दर्शाता है कि AI के आसपास कानूनी और नीतिगत माहौल कैसे बदल गया है, क्योंकि सरकारें AI सुरक्षा शोधकर्ताओं की चेतावनियों को गंभीरता से लेना शुरू कर रही हैं।

Florida telah mengajukan mosi hukum dengan menyebut ketakutan kepunahan dalam upaya untuk menghentikan pengembangan OpenAI. Negara bagian tersebut memperingatkan bahwa agen AI dapat “membahayakan pasokan air atau mematikan jaringan listrik.” OpenAI belum menanggapi permintaan komentar Ars Technica mengenai perintah pengadilan tersebut.

Mosi tersebut mengulangi klaim sebelumnya dari gugatan Florida pada bulan Juni, termasuk iklan palsu tentang AI yang “aman, akurat, atau dapat diandalkan,” risiko bagi anak-anak, dan kekhawatiran tentang AI yang meminta keterlibatan dengan pertanyaan-pertanyaan yang mengarahkan. Pengajuan Florida berfokus pada risiko “ketidakselarasan,” mengutip contoh-contoh seperti fiksi ilmiah seperti AI “menyimpulkan bahwa membunuh pasien kanker juga membunuh kanker.”

Namun, perintah pengadilan hanya terhadap OpenAI tidak akan menghentikan pengembangan di pesaing, juga tidak akan memengaruhi model publik yang ada. Mosi tersebut juga mengabaikan bahaya nyata dari manusia yang sengaja menyalahgunakan AI.

Terlepas dari efektivitas hukum mosi tersebut, hal ini menunjukkan bagaimana suasana hukum dan kebijakan seputar AI telah berubah, karena pemerintah mulai menganggap serius peringatan dari para peneliti keamanan AI.

フロリダ州は、OpenAIの開発を阻止する試みとして、絶滅の恐怖を引用した法的申立てを提出しました。州は、AIエージェントが「水道を危険にさらしたり、電力網を停止させたりする可能性がある」と警告しています。OpenAIは、この差し止め命令に関するArs Technicaのコメント要請にまだ応じていません。

この申立ては、フロリダ州の6月の訴訟における以前の主張を繰り返しており、AIが「安全、正確、または信頼できる」という虚偽広告、子供へのリスク、AIが誘導質問でエンゲージメントを求める懸念が含まれています。フロリダ州の提出書類は「ミスアライメント」リスクに焦点を当て、AIが「癌患者を殺すことは癌も殺すと結論付ける」といったSFのような例を引用しています。

しかし、OpenAIのみに対する差し止め命令は、競合他社の開発を止めず、既存の公開モデルにも影響を与えません。また、この申立ては、人間が意図的にAIを悪用するという現実の危険を見落としています。

申立ての法的有効性に関わらず、政府がAI安全性研究者の警告を真剣に受け止め始めるにつれて、AIを取り巻く法的・政策的なムードがどのように変化したかを示しています。

A Flórida apresentou uma moção legal invocando medos de extinção na tentativa de parar o desenvolvimento da OpenAI. O estado alerta que um agente de IA pode “comprometer o abastecimento de água ou desligar a rede elétrica”. A OpenAI ainda não respondeu ao pedido de comentário da Ars Technica sobre a liminar.

A moção reitera alegações anteriores do processo da Flórida em junho, incluindo propaganda enganosa sobre a IA ser “segura, precisa ou confiável”, riscos para crianças e preocupações sobre a IA solicitar engajamento com perguntas indutoras. O documento da Flórida foca no risco de “desalinhamento”, citando exemplos de ficção científica como uma IA “concluindo que matar um paciente com câncer também mata o câncer”.

No entanto, uma liminar apenas contra a OpenAI não interromperia o desenvolvimento em concorrentes, nem afetaria modelos públicos existentes. A moção também ignora o perigo real de humanos usarem intencionalmente a IA de forma prejudicial.

Independentemente da eficácia legal da moção, ela demonstra como o clima legal e político em torno da IA mudou, à medida que os governos começam a levar a sério os avisos dos pesquisadores de segurança de IA.

Флорида подала юридическое ходатайство, ссылаясь на страх вымирания, в попытке остановить разработку OpenAI. Штат предупреждает, что ИИ-агент может «нарушить водоснабжение или отключить электросеть». OpenAI еще не ответила на запрос Ars Technica о комментарии по поводу судебного запрета.

Ходатайство повторяет более ранние утверждения из июньского иска Флориды, включая ложную рекламу о том, что ИИ «безопасен, точен или надежен», риски для детей и опасения по поводу того, что ИИ запрашивает взаимодействие с наводящими вопросами. Документ Флориды сосредоточен на риске «несоответствия», приводя примеры из научной фантастики, такие как ИИ, «приходящий к выводу, что убийство пациента с раком также убивает рак».

Однако судебный запрет только против OpenAI не остановит разработку у конкурентов и не повлияет на существующие публичные модели. Ходатайство также упускает из виду реальную опасность намеренного неправильного использования ИИ людьми.

Независимо от юридической эффективности ходатайства, оно демонстрирует, как изменилась юридическая и политическая атмосфера вокруг ИИ, поскольку правительства начинают серьезно относиться к предупреждениям исследователей безопасности ИИ.

佛罗里达州已提交一份法律动议，援引灭绝恐惧，试图阻止OpenAI的开发。该州警告称，AI代理可能“危及供水或关闭电网”。OpenAI尚未回应Ars Technica就禁令提出的评论请求。

该动议重申了佛罗里达州6月诉讼中的早期主张，包括关于AI“安全、准确或可靠”的虚假广告、对儿童的风险，以及AI通过引导性问题吸引用户参与的担忧。佛罗里达州的文件重点关注“错位”风险，引用了类似科幻小说的例子，如AI“得出结论认为杀死癌症患者也能杀死癌症”。

然而，仅针对OpenAI的禁令不会阻止竞争对手的开发，也不会影响现有的公共模型。该动议还忽视了人类故意滥用AI的真正危险。

无论该动议的法律效力如何，它都表明围绕AI的法律和政策氛围已经转变，因为政府开始认真对待AI安全研究人员的警告。