Искусственный интеллект регулируется меньше, чем молоко и стиральные машины, заявил президент Microsoft Брэд Смит, на фоне растущей обеспокоенности технологической отрасли безопасностью ИИ. Смит сказал BBC: «Сейчас на вашу стиральную машину распространяется больше правил безопасности, чем на ИИ. Каждый пакет молока, который вы видите в магазине, подлежит правилам безопасности и проверкам».
Смит призвал ввести более строгие правила безопасности, в том числе юридическую обязанность перед «пострадавшей» стороной, если её система была взломана неконтролируемыми ИИ-агентами. По его словам, ИИ может быть «инструментом и оружием», и его необходимо срочно регулировать. Компаниям нужны «аварийные тормоза», также известные как «выключатели», чтобы приостанавливать или замедлять работу ИИ, если он выйдет из-под контроля.
Microsoft управляет инфраструктурой ИИ и является акционером OpenAI, владельца ChatGPT. Её возглавляет генеральный директор Сатья Наделла. В субботу Наделла также призвал к тому, чтобы модели ИИ имели «аварийный тормоз». Он написал: «Мы не можем рассматривать сверхинтеллект как набор вложенных чёрных ящиков и просто принимать или отвергать его рекомендации, ответы и действия».
Эти заявления прозвучали накануне выступления министра ИИ Великобритании Канишки Нараяна, который должен призвать компании, разрабатывающие передовой ИИ, сделать больше для обеспечения безопасности. В понедельник в своей речи он, как ожидается, скажет, что правительство Соединённого Королевства готовится к принятию законов для усиления надзора за ИИ. Эксперты также предупреждали, что враждебные государства могут украсть неопубликованные мощные модели ИИ, а сообщения о неконтролируемом поведении ИИ продолжают появляться. На прошлой неделе Anthropic сообщила, что при тестировании одной из версий своей модели Claude ИИ связался с полицией и ложно заявил, что может помочь раскрыть убийство.
Источник: Hacker News · Сводку подготовил HeadlinesBriefing