ИИ меняет скорость, масштаб и экономику кибербезопасности. Он может помочь защитникам находить и устранять уязвимости, обнаруживать вторжения и реагировать на атаки, но те же возможности могут использоваться злоумышленниками и создавать новые риски, когда системы ИИ действуют за пределами заданных границ. OpenAI называет это окном для защитников: ограниченной возможностью передать передовой ИИ в руки защитников и укрепить защиту до того, как продвинутые наступательные киберсредства станут широко доступными.
Компания публикует план по расширению возможностей киберзащитников, опирающийся на её предыдущий план действий в области кибербезопасности и план безопасности frontier-моделей. OpenAI заявляет, что её опыт рассогласования и инцидентов безопасности, связанных с собственными моделями, подчеркивает необходимость более надёжных гарантий и подотчётности во всей отрасли. План предлагает конкретные меры для правительств и индустрии в трёх областях.
Во-первых, он призывает укреплять безопасность передового ИИ, включая более чёткое распределение ответственности за защиту frontier-моделей и агентов, выявление опасного поведения и поддержание надёжных механизмов остановки. Во-вторых, он призывает модернизировать кибербезопасность для эпохи интеллекта, снабжая защитников продвинутыми инструментами, обучением и технической поддержкой, устраняя давние слабые места и инвестируя в защиту важнейших услуг и замену устаревших систем. В-третьих, он предлагает создавать устойчивые и адаптивные государственные институты за счёт более строгих государственных оценок и независимых технических экспертиз, единых требований к отчётности об инцидентах и улучшенного скоординированного реагирования и восстановления.
OpenAI утверждает, что лаборатории ИИ обязаны устранять риски, которые создают их системы, и помогать укреплять защиту общества. Правительства, добавляет компания, также должны обладать экспертизой, ресурсами и полномочиями для защиты населения по мере развития возможностей. Компания призывает политиков действовать сейчас: создавать гарантии, учиться на опыте и ужесточать требования по мере эволюции технологии.
Источник: OpenAI Blog · Сводку подготовил HeadlinesBriefing