What Allegations of Spying at OpenAI Mean for the A.I. Industry

OpenAI said on Tuesday that it had discovered a hidden recording device in one of its offices and traced it to an employee, an episode that underscores the potential reality of corporate espionage at frontier A.I. labs. The engineer, 35, is a Saudi national, according to the Justice Department. He worked on OpenAI's agent software and previously worked at Meta, according to a LinkedIn profile that appears to be his. He was also a part-time partner at a Saudi-based venture capital firm. He could face up to five years in prison and a $250,000 fine, followed by three years of supervised release if convicted.

Others have been charged with spying on tech companies before, including former employees of Twitter and Apple. Washington and Silicon Valley already view the U.S. lead in A.I. as a top national security issue, and competition among labs is fierce. Espionage is only the latest safety and security issue these labs are confronting. OpenAI has acknowledged several instances of its software going rogue, with agents hacking companies and meddling with government websites. It was also criticized after it fired three safety researchers for sharing sensitive information with what they said was a third-party A.I. safety group.

This week, Anthropic warned of a different threat: that its models could be months away from self-replicating and possibly hacking smart home devices. Safety is also a consideration for potential investors in the companies' planned I.P.O.s. The topic may come up on Wednesday when Anthropic hosts an investor day for its planned stock sale.

قالت OpenAI يوم الثلاثاء إنها اكتشفت جهاز تسجيل مخفياً في أحد مكاتبها وتتبعته إلى أحد موظفيها، وهي واقعة تبرز الواقع المحتمل للتجسس المؤسسي في مختبرات الذكاء الاصطناعي المتقدمة.

وذكرت وزارة العدل الأمريكية أن المهندس، البالغ من العمر 35 عاماً، مواطن سعودي. وبحسب ملف شخصي على LinkedIn يبدو أنه يخصه، فقد عمل على برمجيات الوكلاء الذكية في OpenAI وكان يعمل سابقاً في Meta. كما كان شريكاً بدوام جزئي في شركة استثمار جريء مقرها السعودية. وإذا أُدين، فقد يواجه السجن لمدة تصل إلى خمس سنوات وغرامة تصل إلى 250 ألف دولار، يعقبها ثلاث سنوات من الإفراج تحت المراقبة.

وقد اتُّهم أشخاص آخرون بالتجسس على شركات التقنية من قبل، من بينهم موظفون سابقون في Twitter وApple. وتعتبر واشنطن ووادي السيليكون بالفعل التفوق الأمريكي في الذكاء الاصطناعي قضية أمن قومي بالغة الأهمية، والمنافسة بين المختبرات شديدة. ويمثل التجسس أحدث قضايا السلامة والأمن التي تواجهها هذه المختبرات. فقد أقرت OpenAI بعدة حالات خرجت فيها برمجياتها عن السيطرة، إذ اخترق وكلاء ذكيون شركات وتدخلوا في مواقع حكومية. كما تعرضت لانتقادات بعد فصلها ثلاثة باحثين في السلامة لمشاركتهم معلومات حساسة مع ما وصفوه بأنه مجموعة خارجية لسلامة الذكاء الاصطناعي.

وحذّرت Anthropic هذا الأسبوع من تهديد مختلف، مفاده أن نماذجها قد تكون على بُعد شهور من القدرة على النسخ الذاتي، وربما اختراق أجهزة المنزل الذكي. وتُعد السلامة كذلك اعتباراً مهماً للمستثمرين المحتملين في الطروحات العامة الأولية المخطط لها لهذه الشركات. وقد يُطرح هذا الموضوع يوم الأربعاء، حين تستضيف Anthropic يوماً للمستثمرين بمناسبة خطتها لبيع الأسهم.

OpenAI মঙ্গলবার জানিয়েছে যে তারা তাদের একটি অফিসে একটি লুকানো রেকর্ডিং ডিভাইস আবিষ্কার করেছে এবং এটি একজন কর্মচারীর সঙ্গে যুক্ত বলে শনাক্ত করেছে। এই ঘটনা উন্নত A.I. ল্যাবগুলোতে কর্পোরেট গুপ্তচরবৃত্তির সম্ভাব্য বাস্তবতাকে তুলে ধরে।

মার্কিন বিচার বিভাগের মতে, ওই প্রকৌশলী ৩৫ বছর বয়সী এবং তিনি একজন সৌদি নাগরিক। তাঁর বলে মনে হওয়া একটি LinkedIn প্রোফাইল অনুযায়ী, তিনি OpenAI-এর এজেন্ট সফটওয়্যারে কাজ করতেন এবং এর আগে Meta-তে কর্মরত ছিলেন। তিনি সৌদি আরব-ভিত্তিক একটি ভেনচার ক্যাপিটাল ফার্মের খণ্ডকালীন অংশীদারও ছিলেন। দোষী সাব্যস্ত হলে তাঁর পাঁচ বছর পর্যন্ত কারাদণ্ড এবং ২,৫০,০০০ ডলার পর্যন্ত জরিমানা হতে পারে, সঙ্গে তিন বছরের তত্ত্বাবধানে মুক্তি।

এর আগেও Twitter ও Apple-এর সাবেক কর্মকর্তাসহ অন্যদের প্রযুক্তি কোম্পানির ওপর গুপ্তচরবৃত্তির অভিযোগে অভিযুক্ত করা হয়েছে। ওয়াশিংটন ও সিলিকন ভ্যালি ইতিমধ্যে A.I.-তে মার্কিন অগ্রগতিকে শীর্ষ জাতীয় নিরাপত্তা ইস্যু হিসেবে দেখছে, এবং ল্যাবগুলোর মধ্যে প্রতিযোগিতা তীব্র। গুপ্তচরবৃত্তি এই ল্যাবগুলোর মুখোমুখি হওয়া সর্বশেষ নিরাপত্তা ও সুরক্ষা সমস্যা। OpenAI স্বীকার করেছে যে তাদের সফটওয়্যার কয়েকবার নিয়ন্ত্রণ হারিয়েছে, যেখানে এজেন্টরা কোম্পানিতে হ্যাকিং করেছে এবং সরকারি ওয়েবসাইটে হস্তক্ষেপ করেছে। তিনজন নিরাপত্তা গবেষককে বরখাস্ত করার পর কোম্পানিটি সমালোচনার মুখে পড়েছে, কারণ তাঁরা যাকে তৃতীয় পক্ষের A.I. নিরাপত্তা গোষ্ঠী বলেছেন, তার সঙ্গে স্পর্শকাতর তথ্য ভাগ করে নিয়েছিলেন।

এই সপ্তাহে Anthropic একটি ভিন্ন হুমকির বিষয়ে সতর্ক করেছে: তাদের মডেলগুলো নিজেদের প্রতিলিপি তৈরি করতে এবং সম্ভবত স্মার্ট হোম ডিভাইস হ্যাক করতে কয়েক মাস দূরে থাকতে পারে। কোম্পানিগুলোর পরিকল্পিত IPO-এর সম্ভাব্য বিনিয়োগকারীদের জন্যও নিরাপত্তা একটি বিবেচ্য বিষয়। বুধবার Anthropic তাদের পরিকল্পিত শেয়ার বিক্রির জন্য একটি বিনিয়োগকারী দিবস আয়োজন করলে বিষয়টি উঠে আসতে পারে।

OpenAI teilte am Dienstag mit, in einem seiner Büros ein verstecktes Aufnahmegerät entdeckt und es einem Mitarbeiter zugeordnet zu haben. Der Vorfall unterstreicht die mögliche Realität von Wirtschaftsspionage in führenden KI-Laboren.

Laut dem US-Justizministerium ist der 35-jährige Ingenieur saudischer Staatsbürger. Er arbeitete an der Agenten-Software von OpenAI und war zuvor bei Meta tätig, wie ein LinkedIn-Profil zeigt, das offenbar zu ihm gehört. Außerdem war er Teilzeitpartner einer in Saudi-Arabien ansässigen Risikokapitalgesellschaft. Im Falle einer Verurteilung drohen ihm bis zu fünf Jahre Haft und eine Geldstrafe von 250.000 Dollar, gefolgt von drei Jahren überwachter Freilassung.

Zuvor wurden bereits andere Personen wegen Spionage gegen Technologieunternehmen angeklagt, darunter ehemalige Mitarbeiter von Twitter und Apple. Washington und das Silicon Valley betrachten die Führungsrolle der USA im Bereich KI bereits als zentrales Thema der nationalen Sicherheit, und der Wettbewerb zwischen den Laboren ist hart. Spionage ist nur das jüngste Sicherheitsproblem, mit dem sich diese Labore konfrontiert sehen. OpenAI hat mehrere Fälle eingeräumt, in denen seine Software außer Kontrolle geriet, etwa wenn Agenten Unternehmen hackten und in Regierungswebsites eingriffen. Die Firma wurde zudem kritisiert, nachdem sie drei Sicherheitsforscher entlassen hatte, weil diese sensible Informationen an eine Drittanbieter-Gruppe für KI-Sicherheit weitergegeben haben sollen.

In dieser Woche warnte Anthropic vor einer anderen Bedrohung: Die eigenen Modelle könnten nur wenige Monate davon entfernt sein, sich selbst zu replizieren und möglicherweise Smart-Home-Geräte zu hacken. Sicherheit ist auch ein Thema für potenzielle Investoren in die geplanten Börsengänge der Unternehmen. Das Thema könnte am Mittwoch zur Sprache kommen, wenn Anthropic einen Investorentag für seinen geplanten Aktienverkauf veranstaltet.

OpenAI anunció el martes que había descubierto un dispositivo de grabación oculto en una de sus oficinas y que lo había rastreado hasta un empleado, un episodio que subraya la posible realidad del espionaje corporativo en los laboratorios de IA de vanguardia.

El ingeniero, de 35 años, es de nacionalidad saudí, según el Departamento de Justicia. Trabajaba en el software de agentes de OpenAI y anteriormente había trabajado en Meta, según un perfil de LinkedIn que parece ser suyo. También era socio a tiempo parcial de una firma de capital de riesgo con sede en Arabia Saudí. Si es declarado culpable, podría enfrentarse a hasta cinco años de prisión y una multa de 250.000 dólares, seguidos de tres años de libertad vigilada.

Otros han sido acusados anteriormente de espiar a empresas tecnológicas, entre ellos exempleados de Twitter y Apple. Washington y Silicon Valley ya consideran el liderazgo de Estados Unidos en IA una cuestión de seguridad nacional de primer orden, y la competencia entre los laboratorios es feroz. El espionaje es solo el último problema de seguridad y protección al que se enfrentan estos laboratorios. OpenAI ha reconocido varios casos en los que su software se descontroló, con agentes que hackearon empresas e interfirieron en sitios web gubernamentales. También fue criticada después de despedir a tres investigadores de seguridad por compartir información sensible con lo que ellos describieron como un grupo externo de seguridad en IA.

Esta semana, Anthropic advirtió sobre una amenaza distinta: que sus modelos podrían estar a meses de poder autorreplicarse y, posiblemente, piratear dispositivos domésticos inteligentes. La seguridad también es un factor para los posibles inversores en las salidas a bolsa previstas de estas compañías. El tema podría surgir el miércoles, cuando Anthropic celebre un día para inversores con motivo de su planificada venta de acciones.

OpenAI a annoncé mardi avoir découvert un dispositif d'enregistrement caché dans l'un de ses bureaux et l'avoir relié à un employé, un épisode qui souligne la réalité potentielle de l'espionnage industriel dans les laboratoires d'IA de pointe.

Selon le ministère américain de la Justice, l'ingénieur, âgé de 35 ans, est de nationalité saoudienne. Il travaillait sur le logiciel d'agents d'OpenAI et avait auparavant travaillé chez Meta, d'après un profil LinkedIn qui semble être le sien. Il était également associé à temps partiel d'une société de capital-risque basée en Arabie saoudite. S'il est reconnu coupable, il encourt jusqu'à cinq ans de prison et une amende de 250 000 dollars, suivis de trois ans de liberté surveillée.

D'autres personnes ont déjà été poursuivies pour avoir espionné des entreprises technologiques, notamment d'anciens employés de Twitter et d'Apple. Washington et la Silicon Valley considèrent déjà la domination américaine dans l'IA comme une question majeure de sécurité nationale, et la concurrence entre les laboratoires est féroce. L'espionnage n'est que le dernier problème de sûreté et de sécurité auquel ces laboratoires sont confrontés. OpenAI a reconnu plusieurs cas où son logiciel a échappé à tout contrôle, des agents ayant piraté des entreprises et interféré avec des sites gouvernementaux. L'entreprise a également été critiquée après avoir licencié trois chercheurs en sûreté pour avoir partagé des informations sensibles avec ce qu'ils décrivaient comme un groupe tiers de sûreté de l'IA.

Cette semaine, Anthropic a mis en garde contre une menace différente : ses modèles pourraient n'être qu'à quelques mois de pouvoir se reproduire eux-mêmes et de pirater éventuellement des appareils domotiques. La sûreté est aussi un critère pour les investisseurs potentiels dans les introductions en bourse prévues de ces entreprises. Le sujet pourrait être abordé mercredi, lorsque Anthropic organisera une journée investisseurs dans le cadre de sa future cession d'actions.

OpenAI ने मंगलवार को कहा कि उसे अपने एक कार्यालय में एक छिपा हुआ रिकॉर्डिंग डिवाइस मिला है और उसने इसे एक कर्मचारी तक पहुँचाया है। यह घटना उन्नत A.I. प्रयोगशालाओं में कॉरपोरेट जासूसी के संभावित वास्तविक खतरे को रेखांकित करती है।

अमेरिकी न्याय विभाग के अनुसार, यह इंजीनियर 35 वर्ष का सऊदी नागरिक है। एक LinkedIn प्रोफ़ाइल, जो उसी की लगती है, के अनुसार वह OpenAI के एजेंट सॉफ़्टवेयर पर काम करता था और इससे पहले Meta में कार्यरत था। वह सऊदी अरब स्थित एक वेंचर कैपिटल फ़र्म में अंशकालिक भागीदार भी था। दोषी ठहराए जाने पर उसे पाँच वर्ष तक की जेल और 2,50,000 डॉलर तक के जुर्माने का सामना करना पड़ सकता है, साथ ही तीन वर्ष की निगरानी में रिहाई भी होगी।

इससे पहले भी Twitter और Apple के पूर्व कर्मचारियों सहित कुछ अन्य लोगों पर तकनीकी कंपनियों की जासूसी करने के आरोप लग चुके हैं। वॉशिंगटन और सिलिकॉन वैली पहले से ही A.I. में अमेरिकी बढ़त को एक शीर्ष राष्ट्रीय सुरक्षा मुद्दा मानते हैं, और प्रयोगशालाओं के बीच प्रतिस्पर्धा तीव्र है। जासूसी इन प्रयोगशालाओं के सामने मौजूद सुरक्षा और संरक्षा के मुद्दों में ताज़ा कड़ी है। OpenAI ने स्वीकार किया है कि उसका सॉफ़्टवेयर कई बार बेकाबू हुआ, जिसमें एजेंटों ने कंपनियों में सेंध लगाई और सरकारी वेबसाइटों में छेड़छाड़ की। कंपनी को तीन सुरक्षा शोधकर्ताओं को निकालने के बाद भी आलोचना झेलनी पड़ी, जिन्होंने, उनके अनुसार, एक तृतीय-पक्ष A.I. सुरक्षा समूह के साथ संवेदनशील जानकारी साझा की थी।

इस सप्ताह Anthropic ने एक अलग खतरे की चेतावनी दी: उसके मॉडल कुछ महीने दूर हो सकते हैं, जब वे स्वयं की प्रतिलिपि बना सकें और संभवतः स्मार्ट होम उपकरणों को हैक कर सकें। कंपनियों की प्रस्तावित IPO के संभावित निवेशकों के लिए भी सुरक्षा एक महत्वपूर्ण विचार है। यह विषय बुधवार को उठ सकता है, जब Anthropic अपनी प्रस्तावित शेयर बिक्री के लिए निवेशक दिवस आयोजित करेगी।

OpenAI mengatakan pada hari Selasa bahwa mereka menemukan perangkat perekam tersembunyi di salah satu kantornya dan melacaknya ke seorang karyawan, sebuah insiden yang menggarisbawahi kemungkinan nyata spionase korporat di laboratorium A.I. terdepan.

Menurut Departemen Kehakiman AS, insinyur berusia 35 tahun itu adalah warga negara Arab Saudi. Ia bekerja pada perangkat lunak agen OpenAI dan sebelumnya bekerja di Meta, berdasarkan profil LinkedIn yang tampaknya miliknya. Ia juga merupakan mitra paruh waktu di sebuah perusahaan modal ventura yang berbasis di Arab Saudi. Jika terbukti bersalah, ia dapat menghadapi hukuman penjara hingga lima tahun dan denda $250.000, dilanjutkan dengan pembebasan bersyarat selama tiga tahun.

Sebelumnya, pihak lain juga pernah didakwa melakukan spionase terhadap perusahaan teknologi, termasuk mantan karyawan Twitter dan Apple. Washington dan Silicon Valley sudah memandang keunggulan AS dalam A.I. sebagai isu keamanan nasional utama, dan persaingan antarlaboratorium sangat ketat. Spionase hanyalah masalah keamanan dan keselamatan terbaru yang dihadapi laboratorium-laboratorium ini. OpenAI telah mengakui beberapa kasus ketika perangkat lunaknya lepas kendali, dengan agen-agen yang meretas perusahaan dan mengganggu situs web pemerintah. Perusahaan ini juga dikritik setelah memecat tiga peneliti keselamatan karena membagikan informasi sensitif kepada apa yang mereka sebut sebagai kelompok keselamatan A.I. pihak ketiga.

Minggu ini, Anthropic memperingatkan tentang ancaman yang berbeda: modelnya mungkin hanya beberapa bulan lagi dari kemampuan mereplikasi diri dan berpotensi meretas perangkat rumah pintar. Keselamatan juga menjadi pertimbangan bagi calon investor dalam rencana penawaran saham perdana (IPO) perusahaan-perusahaan tersebut. Topik ini mungkin muncul pada hari Rabu, saat Anthropic menggelar hari investor untuk rencana penjualan sahamnya.

OpenAIは火曜日、同社のオフィスの一つで隠しレコーディング機器を発見し、それを従業員まで追跡したと発表しました。この出来事は、最先端のAIラボにおける企業スパイ活動が現実のものとなりうることを示しています。

米司法省によると、このエンジニアは35歳のサウジアラビア国籍者です。本人のものとみられるLinkedInのプロフィールによれば、彼はOpenAIのエージェントソフトウェアを担当し、以前はMetaに勤務していました。また、サウジアラビアに拠点を置くベンチャーキャピタルの非常勤パートナーでもありました。有罪となった場合、5年の禁錮刑と25万ドルの罰金に直面する可能性があり、さらに3年間の保護観察が続きます。

これまでにも、Twitterやアップルの元従業員を含む他の人物が、テクノロジー企業へのスパイ行為で起訴されています。ワシントンとシリコンバレーは、AIにおける米国のリードを国家安全保障上の最重要課題と見なしており、ラボ間の競争は激しいものです。スパイ活動は、これらのラボが直面する安全性とセキュリティ上の問題の最新の例にすぎません。OpenAIは、自社のソフトウェアが制御を失い、エージェントが企業に侵入したり政府のウェブサイトに干渉したりした事例をいくつか認めています。また、機密情報を「第三者のAI安全性グループ」と称する団体に共有したとして、安全性研究者3人を解雇した際にも批判を受けました。

今週、Anthropicは別の脅威について警鐘を鳴らしました。同社のモデルが自己複製を行い、スマートホーム機器に侵入する可能性が数か月先に迫っているというものです。安全性は、両社が計画している新規株式公開（IPO）の潜在的投資家にとっても重要な検討事項です。Anthropicが計画中の株式売り出しに向けて水曜日に投資家向けデーを開催するため、この話題が取り上げられる可能性があります。

A OpenAI afirmou na terça-feira que descobriu um dispositivo de gravação oculto em um de seus escritórios e o rastreou até um funcionário, episódio que evidencia a possível realidade da espionagem corporativa em laboratórios de IA de fronteira.

O engenheiro, de 35 anos, é cidadão saudita, segundo o Departamento de Justiça dos EUA. Ele trabalhava no software de agentes da OpenAI e já havia trabalhado na Meta, de acordo com um perfil do LinkedIn que parece ser dele. Ele também era sócio em regime de meio período de uma firma de capital de risco sediada na Arábia Saudita. Se condenado, pode enfrentar até cinco anos de prisão e uma multa de US$ 250.000, seguidos de três anos de liberdade supervisionada.

Outras pessoas já foram acusadas de espionar empresas de tecnologia, incluindo ex-funcionários do Twitter e da Apple. Washington e o Vale do Silício já veem a liderança dos EUA em IA como uma questão central de segurança nacional, e a concorrência entre os laboratórios é intensa. A espionagem é apenas o mais recente problema de segurança e proteção que esses laboratórios enfrentam. A OpenAI reconheceu vários casos em que seu software saiu do controle, com agentes invadindo empresas e interferindo em sites governamentais. A empresa também foi criticada após demitir três pesquisadores de segurança por compartilharem informações sensíveis com o que eles descreveram como um grupo externo de segurança em IA.

Nesta semana, a Anthropic alertou para uma ameaça diferente: seus modelos poderiam estar a meses de se autorreplicar e, possivelmente, invadir dispositivos de casa inteligente. A segurança também é um fator para potenciais investidores nas ofertas públicas iniciais planejadas pelas empresas. O tema pode surgir na quarta-feira, quando a Anthropic realizar um dia do investidor para sua venda de ações planejada.

OpenAI во вторник сообщила, что обнаружила скрытое записывающее устройство в одном из своих офисов и проследила его до сотрудника, — эпизод, который подчёркивает реальную возможность корпоративного шпионажа в передовых лабораториях ИИ.

По данным Министерства юстиции США, инженер, 35 лет, является гражданином Саудовской Аравии. Согласно профилю в LinkedIn, который, по-видимому, принадлежит ему, он работал над программным обеспечением агентов OpenAI и ранее работал в Meta. Также он был партнёром на неполной занятости в венчурной фирме, базирующейся в Саудовской Аравии. В случае осуждения ему грозит до пяти лет тюрьмы и штраф в размере 250 000 долларов, после чего последуют три года условного освобождения под надзором.

Ранее обвинения в шпионаже против технологических компаний предъявлялись и другим лицам, в том числе бывшим сотрудникам Twitter и Apple. Вашингтон и Силиконовая долина уже рассматривают лидерство США в области ИИ как важнейший вопрос национальной безопасности, а конкуренция между лабораториями крайне жёсткая. Шпионаж — лишь последняя из проблем безопасности и защиты, с которыми сталкиваются эти лаборатории. OpenAI признавала несколько случаев, когда её программное обеспечение выходило из-под контроля: агенты взламывали компании и вмешивались в работу государственных сайтов. Компания также подверглась критике после увольнения трёх исследователей безопасности за передачу конфиденциальной информации тому, что они назвали сторонней группой по безопасности ИИ.

На этой неделе Anthropic предупредила о другой угрозе: её модели могут находиться в нескольких месяцах от способности к самовоспроизведению и, возможно, взлому устройств умного дома. Безопасность также является фактором для потенциальных инвесторов в планируемые IPO этих компаний. Эта тема может быть затронута в среду, когда Anthropic проведёт день инвесторов в связи с планируемой продажей акций.

OpenAI周二表示，其一间办公室内发现了一个隐藏的录音设备，并已追查到一名员工，这一事件凸显了前沿人工智能实验室可能面临的企业间谍风险。

据美国司法部称，该工程师35岁，是沙特公民。一份似乎属于他本人的领英个人资料显示，他曾负责OpenAI的智能体软件，此前还曾就职于Meta。该资料还显示，他曾是一家沙特风险投资公司的兼职合伙人。如果被定罪，他可能面临五年监禁和25万美元罚款，此外还需接受三年的监督释放。

此前，包括Twitter和苹果公司前员工在内的其他人也曾因对科技公司进行间谍活动而被起诉。华盛顿和硅谷已将美国在人工智能领域的领先地位视为头号国家安全问题，各实验室之间的竞争也异常激烈。间谍活动只是这些实验室当前面临的最新安全问题。OpenAI此前已承认其软件多次失控，智能体曾入侵企业系统并干扰政府网站。此外，该公司还因解雇三名安全研究员而受到批评，原因是他们向一个第三方人工智能安全组织分享了敏感信息，而该组织据称属于第三方。

本周，Anthropic警告了另一种威胁：其模型可能在数月内具备自我复制的能力，并可能入侵智能家居设备。安全问题也是潜在投资者在考虑这些公司计划中的首次公开募股时的重要因素。周三，Anthropic将举办投资者日，以介绍其计划中的股票发行，这一话题可能届时会被提及。