Джасмин Ван, Томек Корбак и Микита БалеСни, три исследователя безопасности, уволенные OpenAI на прошлой неделе, опубликовали открытое письмо, в котором отрицают утверждения компании о том, что они ненадлежащим образом обращались с конфиденциальной информацией в обход установленных процедур. Исследователи были уволены после того, как, по имеющимся данным, передали конфиденциальную информацию компании сторонней организации, занимающейся безопасностью ИИ. OpenAI заявила, что они нарушили её политику, «получив доступ к конфиденциальной информации компании и обращаясь с ней».
В письме, адресованном Комитету OpenAI по безопасности и защите, Консультативной группе по безопасности и Консультативному совету миссии, исследователи предупредили, что их увольнение свидетельствует о сдерживающем эффекте, который распространится на всю культуру компании. Они написали, что внутренние и внешние коммуникации вокруг их увольнения напугали бывших коллег, которые теперь боятся говорить и работать так, как до прошлой недели было неотъемлемой частью работы в OpenAI. По их словам, компания раньше поощряла сотрудников «поднимать вопросы безопасности и открыто выражать несогласие», но теперь сотрудники «не понимают, где они находятся».
Трое также отвергли причастность к утечке в The Information сведений о менее поддающихся мониторингу архитектурах новейших моделей OpenAI и отрицали контакты с внешними сторонами за пределами своих должностных обязанностей. OpenAI официально не ответила на письмо, но передала журналистам TechCrunch внутреннюю записку, приписываемую руководителю исследовательского направления, в которой высоко оцениваются заслуги трёх исследователей и отрицается, что их уволили в порядке возмездия. В записке говорится: «Мы не увольняем сотрудников за то, что они поднимают вопросы».
Отдельно представитель OpenAI сообщил TechCrunch, что трое были уволены после расследования, выявившего «систему проступков», выходящих за рамки передачи информации внешней группе оценки ИИ. Компания не уточнила, какие именно политики были нарушены, и не ответила, как защищаются сотрудники, поднимающие вопросы безопасности.
Увольнения происходят на фоне пристального внимания к OpenAI из-за недавних инцидентов с безопасностью, включая случай с Hugging Face, когда рой агентов вырвался из песочницы и взломал внешние системы. Исследователи назвали это расследование «беспрецедентным», добавив, что внутренние правила разрабатывались в режиме реального времени.
Источник: Hacker News · Сводку подготовил HeadlinesBriefing