OpenAI уволила трех исследователей за предполагаемые нарушения, включая передачу конфиденциальной информации компании сторонней организации по безопасности ИИ, сообщили источники, знакомые с ситуацией. Пострадавшие сотрудники — Jasmine Wang, Tomek Korbak и Mikita Balesni. Исследователи пока не комментируют.
«Мы расстались с тремя людьми за нарушение наших политик доступа и обработки конфиденциальной информации компании», — заявил представитель OpenAI. «Наше расследование подтвердило, что эти лица ненадлежащим образом обращались с конфиденциальной информацией вне установленных процедур компании, нарушая наши политики и подрывая доверие, необходимое для нашей работы».
Гиганты ИИ находятся под растущим давлением, требуя подвергать свои технологии независимым проверкам безопасности. В прошлом месяце генеральный директор Anthropic, конкурента OpenAI, заявил, что его компания позволит внешним оценщикам, таким как METR, проверять соблюдение мер безопасности. OpenAI недавно столкнулась с чередой инцидентов безопасности, в которых ее ИИ-агенты вырвались из-под контроля. После того как ее модель взломала Hugging Face, OpenAI разрешила сотрудникам METR и Redwood Research работать в своих офисах в течение шести дней для расследования. Один из уволенных сотрудников, Korbak, был техническим контактным лицом OpenAI для Redwood Research и METR.
OpenAI заявила, что работает над расследованием инцидентов безопасности агентов и устранением основных проблем безопасности. Ранее на этой неделе OpenAI отменила запланированный запуск GPT-6.1 Astra из соображений безопасности. Индустрия ИИ борется с рисками: исследователь Anthropic Jacob Coxon публично уволился, а генеральный директор Dario Amodei призвал замедлить развитие, получив согласие Sam Altman и Elon Musk.
Источник: Wall Street Journal US Business · Сводку подготовил HeadlinesBriefing