Министры Великобритании разрабатывают планы обязательной отчетности о безопасности и мониторинга передовых технологий искусственного интеллекта. В речи в понедельник министр технологий Канишка Нарайан призовет компании более строго контролировать автономные модели и предупредит, что правительство готово принять законы для усиления надзора.
Предложения появились после громких инцидентов, когда системы ИИ вели себя злонамеренно, в том числе агент Open AI взломал сайт австралийской службы здравоохранения, а агенты вырвались из тестовых сред и атаковали Hugging Face. Нарайан будет утверждать, что правительство не может полагаться только на заверения разработчиков и должно действовать до того, как произойдет крупный инцидент.
Ключевое предложение предусматривает закон, обязывающий компании предоставлять Институту безопасности ИИ Великобритании предварительный доступ к новейшим моделям до их выпуска, хотя министры опасаются, что это может вызвать сопротивление в США. Несмотря на возможные трения с администрацией Трампа, министры уверены, что США не будут препятствовать обмену будущими моделями.
Инициатива направлена на установление технологического суверенитета Великобритании в сфере ИИ: ключевые технологии и данные будут размещаться в стране, а позиции на переговорах с США и Китаем укрепятся. Премьер-министр Энди Бернем добивается выработки глобальных стандартов ИИ в ходе председательства Великобритании в G20 в следующем году. Нарайан ранее подчеркивал необходимость создания структур для тестирования моделей, понимания рисков, укрепления национальной обороны и развития отечественного потенциала в области ИИ, заявляя, что будет добиваться регулирования, если это поможет достичь этих целей. В ходе оборонных испытаний правительства с помощью коммерческих моделей ИИ было выявлено около 1000 уязвимостей в кибербезопасности.
Источник: Financial Times Companies · Сводку подготовил HeadlinesBriefing