OpenAI и Национальный исследовательский институт Польши NASK подписали соглашение о сотрудничестве в области безопасности, защиты и технических исследований ИИ. Партнерство объединит экспертизу обеих организаций, чтобы лучше понимать возникающие риски, укреплять меры защиты и изучать, как передовой ИИ может способствовать созданию более безопасной и устойчивой цифровой экосистемы.
По мере роста возможностей систем ИИ международное сотрудничество между разработчиками и государственными исследовательскими институтами станет необходимым. Уже существующая работа OpenAI с американским Центром продвижения стандартов и инноваций в области сверхинтеллекта (CAISSI), британским Институтом безопасности ИИ (AISI) и другими государственными исследовательскими учреждениями уже помогла укрепить меры защиты, выявить и устранить уязвимости в безопасности ИИ-агентов, а также продвинуть безопасность передового ИИ.
В рамках соглашения Исследовательский центр безопасности ИИ NASK, выступающий в роли Польского института безопасности искусственного интеллекта (AISI), и OpenAI будут сотрудничать в исследованиях способов оценки все более мощных систем ИИ, выявления потенциальных уязвимостей и укрепления мер защиты. OpenAI призвала США работать с другими странами мира над международными техническими стандартами для передового ИИ. Общие подходы к оценке возможностей, анализу рисков, тестированию мер защиты и сообщению об инцидентах могут помочь странам сопоставлять данные и реагировать на трансграничные риски.
Соглашение также опирается на текущую работу OpenAI с специалистами по кибербезопасности в Польше. В июле CERT Polska, работающая в составе NASK, получила доступ к моделям OpenAI с кибервозможностями через программу Daybreak. Команда использовала модели OpenAI, чтобы помочь обнаружить шесть уязвимостей в MikroTik RouterOS, включая недостатки, которые можно было объединить для получения контроля над затронутыми устройствами без аутентификации. Производитель выпустил исправления, и CERT Polska подтвердила, что они предотвратили наблюдавшиеся ею атаки.
Источник: OpenAI Blog · Сводку подготовил HeadlinesBriefing