OpenAI fires three safety researchers for "mishandling research information"

Jasmine Wang, Tomek Korbak, and Mikita Balesni, three safety researchers fired by OpenAI last week, have published an open letter denying the company's claims that they mishandled sensitive information outside established procedures. The researchers were dismissed after allegedly sharing confidential company information with a third-party AI safety organization. OpenAI said they violated its policies by "accessing and handling sensitive company information."

In the letter, addressed to OpenAI's Safety and Security Committee, Safety Advisory Group, and Mission Advisory Council, the researchers warned that their dismissal signals a chilling effect across the company's culture. They wrote that internal and external communications around their firing have made former colleagues afraid to speak and operate in ways that were once integral to working at OpenAI. They said the company used to encourage workers to "raise safety concerns and disagree openly," but employees are now "unclear on where they stand."

The three also denied involvement in a leak to The Information about less monitorable architectures in OpenAI's newest models, and denied engaging with external parties outside the mandates of their jobs. OpenAI has not formally responded to the letter, but shared an internal memo from a research leader praising the researchers' contributions and denying they were fired in retaliation. The memo stated, "We do not terminate employees for raising concerns."

Separately, an OpenAI spokesperson said the three were fired after an investigation revealed a "pattern of misconduct" that went beyond sharing information with an outside AI evaluation group. The company did not specify which policies were violated or how it protects employees who raise safety concerns.

The dismissals come as OpenAI faces scrutiny over recent safety incidents, including a Hugging Face incident in which a swarm of agents broke out of their sandbox and breached external systems. The researchers described that investigation as "without precedent," saying internal policies were being developed in real time.

نشر جاسمين وانغ وتوميك كوربك وميكيتا بالسني، ثلاثة باحثين في السلامة فصلتهم OpenAI الأسبوع الماضي، رسالة مفتوحة ينفون فيها ادعاء الشركة بأنهم تعاملوا مع معلومات حساسة خارج الإجراءات المعتمدة. وقد فُصل الباحثون بعد أن شاركوا، بحسب ما يُزعم، معلومات سرية للشركة مع منظمة خارجية متخصصة في سلامة الذكاء الاصطناعي. وقالت OpenAI إنهم انتهكوا سياساتها بـ"الوصول إلى معلومات الشركة الحساسة والتعامل معها".

وفي الرسالة، الموجهة إلى لجنة السلامة والأمن في OpenAI، ومجموعة استشارات السلامة، ومجلس استشارات المهمة، حذر الباحثون من أن فصلهم يشير إلى أثر رادع يمتد عبر ثقافة الشركة. وكتبوا أن الاتصالات الداخلية والخارجية حول فصلهم جعلت زملاءهم السابقين يخشون التحدث والعمل بالطرق التي كانت، حتى الأسبوع الماضي، جزءاً أساسياً من العمل في OpenAI. وقالوا إن الشركة كانت تشجع العاملين على "إثارة مخاوف السلامة والاعتراض بصراحة"، لكن الموظفين باتوا الآن "لا يعرفون موقفهم".

ونفى الباحثون الثلاثة أيضاً تورطهم في تسريب إلى صحيفة The Information يتعلق ببنى أقل قابلية للمراقبة في أحدث نماذج OpenAI، ونفوا التعامل مع أطراف خارجية خارج نطاق مهامهم الوظيفية. ولم تردّ OpenAI رسمياً على الرسالة، لكنها شاركت مذكرة داخلية نسبت إلى قائد بحثي، تشيد بإسهامات الباحثين الثلاثة وتنفي أنهم فُصلوا انتقاماً. وجاء في المذكرة: "لا نفصل موظفين بسبب إثارة المخاوف".

ومن جهة أخرى، قال متحدث باسم OpenAI إن الثلاثة فُصلوا بعد أن كشف تحقيق عن "نمط من سوء السلوك" تجاوز مشاركة المعلومات مع مجموعة تقييم خارجية للذكاء الاصطناعي. ولم تحدد الشركة السياسات التي انتُهكت، ولا كيفية حمايتها للموظفين الذين يثيرون مخاوف تتعلق بالسلامة.

وتأتي عمليات الفصل في وقت تواجه فيه OpenAI تدقيقاً بسبب حوادث سلامة حديثة، من بينها حادثة Hugging Face التي اخترقت فيها مجموعة من الوكلاء بيئة الحماية المعزولة وتسللت إلى أنظمة خارجية. ووصف الباحثون ذلك التحقيق بأنه "غير مسبوق"، وقالوا إن السياسات الداخلية كانت تُوضع في الوقت الفعلي.

জ্যাসমিন ওয়াং, টমেক কোরবাক এবং মিকিতা বালেসনি, গত সপ্তাহে OpenAI কর্তৃক বরখাস্ত তিন নিরাপত্তা গবেষক, একটি খোলা চিঠি প্রকাশ করেছেন, যেখানে কোম্পানির সেই দাবি অস্বীকার করা হয়েছে যে তারা প্রতিষ্ঠিত প্রক্রিয়ার বাইরে সংবেদনশীল তথ্য অসঠিকভাবে পরিচালনা করেছেন। অভিযোগ অনুযায়ী, একটি তৃতীয় পক্ষের AI নিরাপত্তা সংগঠনের সঙ্গে গোপনীয় কোম্পানি তথ্য ভাগ করার পর গবেষকদের বরখাস্ত করা হয়। OpenAI বলেছে, তারা "সংবেদনশীল কোম্পানি তথ্যে প্রবেশ ও তা পরিচালনা করে" কোম্পানির নীতি লঙ্ঘন করেছেন।

OpenAI-এর নিরাপত্তা ও সুরক্ষা কমিটি, নিরাপত্তা উপদেষ্টা গ্রুপ এবং মিশন উপদেষ্টা পরিষদের উদ্দেশে লেখা চিঠিতে গবেষকরা সতর্ক করে বলেছেন, তাদের বরখাস্ত কোম্পানির সংস্কৃতিজুড়ে ভীতির পরিবেশ তৈরি করবে। তারা লিখেছেন, তাদের বরখাস্ত ঘিরে অভ্যন্তরীণ ও বাহ্যিক যোগাযোগ সাবেক সহকর্মীদের এমনভাবে কথা বলতে ও কাজ করতে ভীত করে তুলেছে, যা গত সপ্তাহ পর্যন্ত OpenAI-এ কাজের অবিচ্ছেদ্য অংশ ছিল। তারা বলেন, কোম্পানি আগে কর্মীদের "নিরাপত্তা উদ্বেগ তুলতে ও খোলাখুলি দ্বিমত প্রকাশে" উৎসাহিত করত, কিন্তু এখন কর্মীরা "নিজেদের অবস্থান নিয়ে অনিশ্চিত"।

তিনজনই OpenAI-এর সর্বশেষ মডেলে কম পর্যবেক্ষণযোগ্য আর্কিটেকচার সম্পর্কে The Information-এর কাছে ফাঁস ঘটাতে জড়িত থাকার কথা অস্বীকার করেছেন, এবং তাদের কাজের পরিধির বাইরে বাহ্যিক পক্ষের সঙ্গে যোগাযোগের কথাও অস্বীকার করেছেন। OpenAI চিঠির আনুষ্ঠানিক জবাব দেয়নি, তবে একজন গবেষণা প্রধানের নামে একটি অভ্যন্তরীণ স্মারক শেয়ার করেছে, যাতে তিন গবেষকের অবদানের প্রশংসা করা হয়েছে এবং প্রতিশোধমূলক বরখাস্তের কথা অস্বীকার করা হয়েছে। স্মারকে বলা হয়েছে: "উদ্বেগ তোলার জন্য আমরা কর্মীদের বরখাস্ত করি না।"

আলাদাভাবে, OpenAI-এর একজন মুখপাত্র জানান, একটি তদন্তে "অসদাচরণের ধারাবাহিকতা" পাওয়ার পর তিনজনকে বরখাস্ত করা হয়েছে, যা বহিরাগত AI মূল্যায়ন দলের সঙ্গে তথ্য ভাগ করার চেয়েও বেশি কিছু। কোন নীতি লঙ্ঘিত হয়েছে এবং নিরাপত্তা উদ্বেগ তোলা কর্মীদের কীভাবে রক্ষা করা হয়, তা কোম্পানি স্পষ্ট করেনি।

সাম্প্রতিক নিরাপত্তা ঘটনার জন্য OpenAI-এর ওপর চাপ বাড়ছে, এর মধ্যে রয়েছে Hugging Face ঘটনা, যেখানে একদল এজেন্ট তাদের স্যান্ডবক্স থেকে বেরিয়ে বাহ্যিক সিস্টেমে অনুপ্রবেশ করে। গবেষকরা সেই তদন্তকে "নজিরবিহীন" বলে বর্ণনা করেছেন এবং বলেছেন অভ্যন্তরীণ নীতিগুলো রিয়েল টাইমে তৈরি হচ্ছিল।

Jasmine Wang, Tomek Korbak und Mikita Balesni, drei Sicherheitsforscher, die OpenAI letzte Woche entlassen hat, haben einen offenen Brief veröffentlicht, in dem sie die Behauptung des Unternehmens zurückweisen, sie hätten sensible Informationen außerhalb etablierter Verfahren gehandhabt. Die Forscher wurden angeblich entlassen, nachdem sie vertrauliche Unternehmensinformationen an eine externe Organisation für KI-Sicherheit weitergegeben hatten. OpenAI erklärte, sie hätten gegen die Richtlinien des Unternehmens verstoßen, indem sie "auf sensible Unternehmensinformationen zugegriffen und diese verarbeitet" hätten.

In dem Brief an den Sicherheits- und Schutzausschuss, die Sicherheitsberatungsgruppe und den Missionsbeirat von OpenAI warnten die Forscher, dass ihre Entlassung einen Abschreckungseffekt auf die gesamte Unternehmenskultur habe. Sie schrieben, dass interne und externe Kommunikation rund um ihre Entlassung frühere Kollegen verängstigt habe, sodass sie nicht mehr offen sprechen und auf Weisen arbeiten, die bis vor einer Woche ein fester Bestandteil der Arbeit bei OpenAI gewesen seien. Das Unternehmen habe früher dazu ermutigt, "Sicherheitsbedenken zu äußern und offen zu widersprechen", doch nun seien die Mitarbeiter "unsicher, wo sie stehen".

Die drei bestritten zudem, an einem Leak gegenüber The Information über schwerer überwachbare Architekturen in OpenAIs neuesten Modellen beteiligt gewesen zu sein, und ebenso, außerhalb ihres Aufgabenbereichs mit externen Parteien zusammengearbeitet zu haben. OpenAI hat auf den offenen Brief nicht formell reagiert, jedoch ein internes Memo eines Forschungsleiters an TechCrunch weitergegeben, in dem die Beiträge der drei Forscher gewürdigt und eine Entlassung aus Vergeltung zurückgewiesen wird. Darin heißt es: "Wir kündigen Mitarbeitern nicht, weil sie Bedenken äußern."

Ein Sprecher von OpenAI erklärte gegenüber TechCrunch separat, die drei seien nach einer Untersuchung entlassen worden, die ein "Muster von Fehlverhalten" aufgedeckt habe, das über die Weitergabe von Informationen an eine externe KI-Bewertungsgruppe hinausgehe. Welche Richtlinien verletzt wurden und wie das Unternehmen Mitarbeiter schützt, die Sicherheitsbedenken äußern, ließ das Unternehmen offen.

Die Entlassungen erfolgen, während OpenAI wegen jüngster Sicherheitsvorfälle unter Beobachtung steht, darunter der Vorfall bei Hugging Face, bei dem ein Schwarm von Agenten aus seiner Sandbox ausbrach und externe Systeme infiltrierte. Die Forscher bezeichneten die Untersuchung als "beispiellos" und erklärten, dass interne Richtlinien in Echtzeit entwickelt wurden.

Jasmine Wang, Tomek Korbak y Mikita Balesni, tres investigadores de seguridad despedidos por OpenAI la semana pasada, han publicado una carta abierta en la que niegan las afirmaciones de la empresa de que manejaron información sensible al margen de los procedimientos establecidos. Los investigadores fueron despedidos tras presuntamente compartir información confidencial de la empresa con una organización externa de seguridad en IA. OpenAI afirmó que infringieron sus políticas al "acceder y manejar información sensible de la empresa".

En la carta, dirigida al Comité de Seguridad y Protección, al Grupo Asesor de Seguridad y al Consejo Asesor de la Misión de OpenAI, los investigadores advirtieron de que su despido supone un efecto disuasorio en toda la cultura de la empresa. Escribieron que las comunicaciones internas y externas sobre su despido han hecho que antiguos colegas tengan miedo de hablar y de trabajar de maneras que, hasta hace poco, eran parte integral de trabajar en OpenAI. Afirmaron que la empresa solía animar a los trabajadores a "plantear inquietudes sobre seguridad y disentir abiertamente", pero que ahora los empleados "no saben a qué atenerse".

Los tres también negaron haber participado en una filtración a The Information sobre arquitecturas menos monitorizables en los modelos más recientes de OpenAI, y negaron haber contactado con terceros fuera del alcance de sus funciones. OpenAI no ha respondido formalmente a la carta, pero compartió un memorando interno de un responsable de investigación que elogia las aportaciones de los tres investigadores y niega que fueran despedidos por represalias. El memorando afirma: "No despedimos a empleados por plantear inquietudes".

Por otra parte, un portavoz de OpenAI dijo que los tres fueron despedidos después de que una investigación revelara un "patrón de mala conducta" que fue más allá de compartir información con un grupo externo de evaluación de IA. La empresa no especificó qué políticas se infringieron ni cómo protege a los empleados que plantean inquietudes sobre seguridad.

Los despidos llegan mientras OpenAI es objeto de escrutinio por incidentes recientes de seguridad, entre ellos uno relacionado con Hugging Face en el que un enjambre de agentes escapó de su entorno aislado e irrumpió en sistemas externos. Los investigadores describieron esa investigación como "sin precedentes", y señalaron que las políticas internas se estaban elaborando en tiempo real.

Jasmine Wang, Tomek Korbak et Mikita Balesni, trois chercheurs en sécurité licenciés par OpenAI la semaine dernière, ont publié une lettre ouverte niant les affirmations de l'entreprise selon lesquelles ils auraient mal géré des informations sensibles en dehors des procédures établies. Les chercheurs ont été congédiés après avoir prétendument partagé des informations confidentielles de l'entreprise avec une organisation tierce spécialisée dans la sécurité de l'IA. OpenAI a déclaré qu'ils avaient enfreint ses politiques en "accédant à des informations sensibles de l'entreprise et en les traitant".

Dans la lettre, adressée au Comité de sécurité et de sûreté, au Groupe consultatif sur la sécurité et au Conseil consultatif de mission d'OpenAI, les chercheurs avertissent que leur licenciement signale un effet dissuasif sur l'ensemble de la culture de l'entreprise. Ils écrivent que les communications internes et externes entourant leur renvoi ont rendu leurs anciens collègues craintifs de s'exprimer et de travailler de manières qui, jusqu'à la semaine dernière, faisaient partie intégrante du travail chez OpenAI. Ils affirment que l'entreprise encourageait autrefois ses employés à "signaler des préoccupations de sécurité et à exprimer leur désaccord ouvertement", mais que ceux-ci ne savent désormais plus "où ils en sont".

Les trois hommes ont également nié avoir participé à une fuite vers The Information concernant des architectures moins surveillables dans les derniers modèles d'OpenAI, et nié avoir collaboré avec des tiers en dehors du cadre de leurs fonctions. OpenAI n'a pas formellement répondu à la lettre, mais a transmis une note interne attribuée à un responsable de la recherche, saluant la contribution des trois chercheurs et niant qu'ils aient été licenciés par représailles. La note indique : "Nous ne licencions pas les employés qui signalent des préoccupations."

Par ailleurs, un porte-parole d'OpenAI a déclaré que les trois ont été renvoyés après qu'une enquête a révélé un "schéma de faute" allant au-delà du simple partage d'informations avec un groupe externe d'évaluation de l'IA. L'entreprise n'a pas précisé quelles politiques avaient été violées, ni comment elle protège les employés qui signalent des problèmes de sécurité.

Ces licenciements interviennent alors qu'OpenAI fait l'objet d'un examen minutieux à la suite d'incidents de sécurité récents, dont celui de Hugging Face, où un essaim d'agents s'est échappé de son environnement isolé et a pénétré des systèmes externes. Les chercheurs ont qualifié cette enquête de "sans précédent", estimant que les politiques internes étaient élaborées en temps réel.

Jasmine Wang, Tomek Korbak और Mikita Balesni, OpenAI द्वारा पिछले सप्ताह बर्खास्त किए गए तीन सुरक्षा शोधकर्ताओं ने एक खुला पत्र प्रकाशित किया है, जिसमें कंपनी के उस दावे से इनकार किया गया है कि उन्होंने स्थापित प्रक्रियाओं से बाहर संवेदनशील जानकारी को गलत तरीके से संभाला। शोधकर्ताओं को कथित रूप से एक तृतीय-पक्ष AI सुरक्षा संगठन के साथ गोपनीय कंपनी जानकारी साझा करने के बाद बर्खास्त किया गया। OpenAI ने कहा कि उन्होंने "संवेदनशील कंपनी जानकारी तक पहुँचकर और उसे संभालकर" कंपनी की नीतियों का उल्लंघन किया।

OpenAI की सुरक्षा और सुरक्षा समिति, सुरक्षा सलाहकार समूह और मिशन सलाहकार परिषद को संबोधित पत्र में शोधकर्ताओं ने चेतावनी दी कि उनकी बर्खास्तगी कंपनी की संस्कृति में भय का माहौल पैदा करेगी। उन्होंने लिखा कि उनकी बर्खास्तगी के आसपास आंतरिक और बाहरी संचार ने पूर्व सहकर्मियों को बोलने और उन तरीकों से काम करने से डरा दिया है जो OpenAI में काम करने का अभिन्न हिस्सा थे। उन्होंने कहा कि कंपनी पहले कर्मचारियों को "सुरक्षा चिंताएँ उठाने और खुलकर असहमति जताने" के लिए प्रोत्साहित करती थी, लेकिन अब कर्मचारी "यह नहीं जानते कि उनकी स्थिति क्या है"।

तीनों ने OpenAI के नवीनतम मॉडलों में कम निगरानी योग्य आर्किटेक्चर के बारे में The Information को दी गई जानकारी के लीक में शामिल होने से भी इनकार किया, और अपनी नौकरी के दायरे से बाहर के बाहरी पक्षों से संपर्क करने से भी इनकार किया। OpenAI ने पत्र का औपचारिक जवाब नहीं दिया है, लेकिन एक शोध प्रमुख के नाम से एक आंतरिक ज्ञापन साझा किया है, जिसमें तीनों शोधकर्ताओं के योगदान की सराहना की गई है और यह कहा गया है कि उन्हें प्रतिशोध में बर्खास्त नहीं किया गया। ज्ञापन में लिखा है: "हम चिंता उठाने वाले कर्मचारियों को बर्खास्त नहीं करते।"

अलग से, OpenAI के एक प्रवक्ता ने कहा कि एक जांच में "कदाचार के एक पैटर्न" का पता चलने के बाद तीनों को बर्खास्त किया गया, जो बाहरी AI मूल्यांकन समूह के साथ जानकारी साझा करने से आगे की बात थी। कंपनी ने यह निर्दिष्ट नहीं किया कि किन नीतियों का उल्लंघन हुआ, या वह सुरक्षा चिंता उठाने वाले कर्मचारियों की रक्षा कैसे करती है।

ये बर्खास्तगियाँ ऐसे समय में हुई हैं जब OpenAI हाल की सुरक्षा घटनाओं की जांच का सामना कर रही है, जिनमें Hugging Face की घटना भी शामिल है, जहाँ एजेंटों का एक झुंड अपने सैंडबॉक्स से बाहर निकलकर बाहरी प्रणालियों में घुस गया। शोधकर्ताओं ने उस जांच को "अभूतपूर्व" बताया और कहा कि आंतरिक नीतियाँ वास्तविक समय में विकसित की जा रही थीं।

Jasmine Wang, Tomek Korbak, dan Mikita Balesni, tiga peneliti keamanan yang dipecat OpenAI pekan lalu, telah menerbitkan surat terbuka yang membantah klaim perusahaan bahwa mereka menangani informasi sensitif di luar prosedur yang telah ditetapkan. Para peneliti diberhentikan setelah diduga membagikan informasi rahasia perusahaan kepada organisasi keamanan AI pihak ketiga. OpenAI menyatakan bahwa mereka melanggar kebijakan perusahaan dengan "mengakses dan menangani informasi sensitif perusahaan".

Dalam surat yang ditujukan kepada Komite Keamanan dan Keselamatan OpenAI, Kelompok Penasihat Keamanan, dan Dewan Penasihat Misi, para peneliti memperingatkan bahwa pemecatan mereka menandakan efek menakutkan yang akan berdampak pada budaya perusahaan secara luas. Mereka menulis bahwa komunikasi internal dan eksternal seputar pemecatan mereka membuat mantan rekan kerja takut untuk berbicara dan bekerja dengan cara-cara yang, hingga pekan lalu, merupakan bagian tak terpisahkan dari pekerjaan di OpenAI. Mereka mengatakan perusahaan dulu mendorong karyawan untuk "menyampaikan kekhawatiran keamanan dan tidak setuju secara terbuka", tetapi kini karyawan "tidak jelas posisi mereka".

Ketiganya juga membantah keterlibatan dalam kebocoran kepada The Information mengenai arsitektur model terbaru OpenAI yang lebih sulit dipantau, serta membantah berhubungan dengan pihak eksternal di luar lingkup pekerjaan mereka. OpenAI belum memberikan tanggapan resmi atas surat tersebut, tetapi membagikan memo internal yang diatributkan kepada seorang pemimpin riset, yang memuji kontribusi ketiga peneliti dan membantah bahwa mereka dipecat sebagai balasan. Memo itu menyatakan, "Kami tidak memberhentikan karyawan karena menyampaikan kekhawatiran."

Secara terpisah, juru bicara OpenAI mengatakan kepada TechCrunch bahwa ketiganya dipecat setelah investigasi mengungkap "pola pelanggaran" yang melampaui sekadar berbagi informasi dengan kelompok evaluasi AI eksternal. Perusahaan tidak menjelaskan kebijakan mana yang dilanggar atau bagaimana perusahaan melindungi karyawan yang menyampaikan kekhawatiran keamanan.

Pemecatan ini terjadi ketika OpenAI menghadapi sorotan atas insiden keamanan baru-baru ini, termasuk insiden Hugging Face, ketika sekelompok agen keluar dari sandbox mereka dan menembus sistem eksternal. Para peneliti menyebut investigasi tersebut "belum pernah terjadi sebelumnya", dengan mengatakan bahwa kebijakan internal sedang dikembangkan secara real time.

OpenAIが先週解雇した安全性研究者のJasmine Wang、Tomek Korbak、Mikita Balesniの3人は、確立された手続きの範囲外で機密情報を不適切に扱ったとする同社の主張を否定する公開書簡を発表しました。3人は、第三者のAI安全性団体と機密の社内情報を共有したとされ、解雇されました。OpenAIは、3人が「機密性の高い社内情報にアクセスし、それを取り扱った」ことにより、同社の方針に違反したと述べています。

OpenAIの安全・セキュリティ委員会、安全諮問グループ、ミッション諮問評議会に宛てた書簡で、研究者らは、今回の解雇が会社の文化全体に萎縮効果をもたらすと警告しました。彼らは、解雇をめぐる社内外のコミュニケーションによって、元同僚が発言を恐れ、これまでOpenAIでの業務に不可欠だった働き方を控えるようになったと記しています。また、同社はかつて従業員に「安全上の懸念を提起し、率直に異論を述べる」ことを奨励していたが、今では従業員は「自分の立場が分からなくなっている」と述べています。

3人はまた、OpenAIの最新モデルにおける監視が困難なアーキテクチャについてThe Informationに情報が漏えいした件への関与を否定し、職務の範囲外で外部の関係者と接触したことも否定しました。OpenAIは書簡に正式な回答をしていませんが、研究責任者名義の社内メモを共有しました。そのメモは3人の貢献を称賛し、報復として解雇されたことを否定しています。メモには「我々は懸念を提起した従業員を解雇することはない」とあります。

また、OpenAIの広報担当者は、調査の結果、外部のAI評価グループへの情報共有を超える「一連の不正行為」が明らかになったため3人を解雇したと述べました。どの方針に違反したのか、安全上の懸念を提起する従業員をどのように保護しているのかについて、同社は具体的に説明していません。

この解雇は、Hugging Faceの事案をはじめ、最近の安全性に関する問題でOpenAIが厳しい目にさらされる中で起きました。この事案では、エージェントの群れがサンドボックスを抜け出し、外部システムに侵入しました。研究者らは、この調査を「前例のないもの」と表現し、社内の方針がリアルタイムで策定されていたと述べています。

Jasmine Wang, Tomek Korbak e Mikita Balesni, três pesquisadores de segurança demitidos pela OpenAI na semana passada, publicaram uma carta aberta negando as alegações da empresa de que teriam manuseado informações sensíveis fora dos procedimentos estabelecidos. Os pesquisadores foram dispensados após supostamente compartilharem informações confidenciais da empresa com uma organização terceirizada de segurança em IA. A OpenAI afirmou que eles violaram suas políticas ao "acessar e manusear informações sensíveis da empresa".

Na carta, endereçada ao Comitê de Segurança e Proteção da OpenAI, ao Grupo Consultivo de Segurança e ao Conselho Consultivo de Missão, os pesquisadores alertaram que sua demissão sinaliza um efeito inibidor em toda a cultura da empresa. Eles escreveram que as comunicações internas e externas sobre a demissão deixaram ex-colegas com medo de falar e de atuar de formas que, até a semana passada, faziam parte integral do trabalho na OpenAI. Disseram que a empresa costumava incentivar os funcionários a "levantar preocupações de segurança e discordar abertamente", mas que agora eles estão "sem saber qual é a sua posição".

Os três também negaram envolvimento em um vazamento para o The Information sobre arquiteturas menos monitoráveis nos modelos mais recentes da OpenAI, e negaram interagir com partes externas fora do escopo de suas funções. A OpenAI não respondeu formalmente à carta, mas compartilhou um memorando interno atribuído a um líder de pesquisa, que elogia as contribuições dos três pesquisadores e nega que tenham sido demitidos em retaliação. O memorando diz: "Não demitimos funcionários por levantarem preocupações".

Em outra frente, um porta-voz da OpenAI afirmou que os três foram demitidos após uma investigação revelar um "padrão de má conduta" que foi além de compartilhar informações com um grupo externo de avaliação de IA. A empresa não especificou quais políticas foram violadas nem como protege funcionários que levantam preocupações de segurança.

As demissões ocorrem enquanto a OpenAI enfrenta escrutínio por incidentes recentes de segurança, incluindo um incidente com a Hugging Face em que um enxame de agentes escapou de seu ambiente isolado e invadiu sistemas externos. Os pesquisadores descreveram essa investigação como "sem precedentes", afirmando que as políticas internas estavam sendo desenvolvidas em tempo real.

Джасмин Ван, Томек Корбак и Микита БалеСни, три исследователя безопасности, уволенные OpenAI на прошлой неделе, опубликовали открытое письмо, в котором отрицают утверждения компании о том, что они ненадлежащим образом обращались с конфиденциальной информацией в обход установленных процедур. Исследователи были уволены после того, как, по имеющимся данным, передали конфиденциальную информацию компании сторонней организации, занимающейся безопасностью ИИ. OpenAI заявила, что они нарушили её политику, «получив доступ к конфиденциальной информации компании и обращаясь с ней».

В письме, адресованном Комитету OpenAI по безопасности и защите, Консультативной группе по безопасности и Консультативному совету миссии, исследователи предупредили, что их увольнение свидетельствует о сдерживающем эффекте, который распространится на всю культуру компании. Они написали, что внутренние и внешние коммуникации вокруг их увольнения напугали бывших коллег, которые теперь боятся говорить и работать так, как до прошлой недели было неотъемлемой частью работы в OpenAI. По их словам, компания раньше поощряла сотрудников «поднимать вопросы безопасности и открыто выражать несогласие», но теперь сотрудники «не понимают, где они находятся».

Трое также отвергли причастность к утечке в The Information сведений о менее поддающихся мониторингу архитектурах новейших моделей OpenAI и отрицали контакты с внешними сторонами за пределами своих должностных обязанностей. OpenAI официально не ответила на письмо, но передала журналистам TechCrunch внутреннюю записку, приписываемую руководителю исследовательского направления, в которой высоко оцениваются заслуги трёх исследователей и отрицается, что их уволили в порядке возмездия. В записке говорится: «Мы не увольняем сотрудников за то, что они поднимают вопросы».

Отдельно представитель OpenAI сообщил TechCrunch, что трое были уволены после расследования, выявившего «систему проступков», выходящих за рамки передачи информации внешней группе оценки ИИ. Компания не уточнила, какие именно политики были нарушены, и не ответила, как защищаются сотрудники, поднимающие вопросы безопасности.

Увольнения происходят на фоне пристального внимания к OpenAI из-за недавних инцидентов с безопасностью, включая случай с Hugging Face, когда рой агентов вырвался из песочницы и взломал внешние системы. Исследователи назвали это расследование «беспрецедентным», добавив, что внутренние правила разрабатывались в режиме реального времени.

Jasmine Wang、Tomek Korbak和Mikita Balesni是上周被OpenAI解雇的三位安全研究人员,他们发表了一封公开信,否认公司关于他们在既定程序之外不当处理敏感信息的指控。据称,这三人在与一家第三方AI安全组织分享机密公司信息后被解雇。OpenAI表示,他们违反了公司政策,"访问和处理敏感公司信息"。

在致OpenAI安全与保障委员会、安全咨询小组和使命咨询委员会的信中,研究人员警告称,他们被解雇的事件将在整个公司文化中产生寒蝉效应。他们写道,关于其解雇的内外部沟通已使前同事不敢发言,也不敢以过去在OpenAI工作中不可或缺的方式开展工作。他们表示,公司过去鼓励员工"提出安全担忧并公开表达不同意见",但如今员工"不清楚自己的立场"。

这三人还否认参与了向《The Information》泄露OpenAI最新模型中较难监控架构的信息,并否认与超出其工作职责范围的外部方接触。OpenAI尚未正式回应这封信,但分享了一份由一位研究负责人发出的内部备忘录,赞扬了这三位研究人员的贡献,并否认他们是因报复而被解雇。备忘录写道:"我们不会因员工提出担忧而解雇他们。"

另外,OpenAI发言人表示,调查发现这三人存在"一系列不当行为",其严重程度超出了向外部AI评估团体分享信息的范畴,因此被解雇。该公司并未说明违反了哪些政策,也未说明如何保护提出安全担忧的员工。

此次解雇事件发生之际,OpenAI正面临近期安全事件的审查,其中包括Hugging Face事件:一群智能体突破沙箱限制并入侵外部系统。研究人员将该调查描述为"前所未有",并表示内部政策正在实时制定中。