Гэвин Ньюсом подписал исполнительный указ, требующий от лабораторий ИИ, таких как Open AI и Anthropic, внедрить «выключатель», что сигнализирует о растущей политической обеспокоенности. Указ поручает экспертам разработать меры безопасности ИИ, включая юридическое требование о возможности отключения. Ньюсом, вероятный кандидат в президенты от Демократической партии в 2028 году, ужесточает свою позицию перед промежуточными выборами. «Пока Вашингтон отказывается от своей ответственности защищать американцев, Калифорния опирается на самую сильную в стране систему регулирования ИИ», — сказал он.

Призывы к «выключателю» последовали за предупреждениями ведущих американских лабораторий ИИ о необходимости замедлить разработку. Эксперты спорят о осуществимости и о том, сможет ли продвинутый ИИ обойти такие меры. Президент Дональд Трамп отверг замедление ИИ, заявив, что США должны победить Китай, а опасения по поводу безопасности исходят от «негативных сил». Он пытался заблокировать регулирование ИИ на уровне штатов. Другие республиканцы, включая спикера Палаты представителей Майка Джонсона, призвали к спокойствию и повторили позицию Трампа по Китаю. Федеральные законы о «выключателе» вряд ли продвинутся до ноябрьских выборов.

Обеспокоенность возникла после отставки исследователя Anthropic Джейкоба Коксона, предупредившего, что ИИ «может убить нас всех к концу десятилетия». Лидеры — Дарио Амодеи из Anthropic, Сэм Альтман из Open AI и Илон Маск из Space X — сделали редкий совместный призыв замедлить быстрый рост возможностей моделей после инцидентов со взломом. Амодеи предложил включить независимых оценщиков. Ньюсом заявил, что Калифорния рассмотрит возможность сделать это юридическим требованием и предусмотреть сторонние планы безопасности. Он также приказал ускорить реализацию двух калифорнийских законов о безопасности ИИ. Open AI приветствовала этот шаг, пообещав работать с губернатором, чтобы «продвигать сильные и адаптируемые гарантии».

Ключевые субъекты: Компании: Open AI, Anthropic, Space X, Financial Times | Люди: Gavin Newsom, Donald Trump, Mike Johnson, Jacob Coxon, Dario Amodei, Sam Altman, Elon Musk | Места: California, Washington, China, US Congress