После двухчасового обеда с руководителями ИИ из Кремниевой долины во вторник Дональд Трамп вышел из Белого дома, рекламируя добровольное «соглашение» между шестью ведущими компаниями по «саморегулированию» технологии, которая недавно была ответственна за серию тревожных взломов. Президент сказал журналистам, что двухстраничный документ — составленный на ходу в Восточной комнате и содержащий орфографическую ошибку — был «почти как конституция», и утверждал, что он представляет собой «форму защиты» от рисков, связанных с ИИ.
Соглашение далеко от тех защитных мер, которые призывали руководители ИИ, такие как Dario Amodei из Anthropic. Добровольное соглашение кратко описывает «уровни контроля и аудита», которые должны внедрить шесть подписантов — Anthropic, OpenAI, Google, Meta, xAI и Nvidia. Они включают «надежные внутренние контроли» для мониторинга угроз кибербезопасности и биобезопасности, а также для обеспечения того, чтобы они не взламывали системы «непреднамеренными способами».
Документ также обязывает компании «сотрудничать» с независимым внешним аудитором и индивидуально назначать «независимый комитет совета директоров» для надзора за процессом. Ведущие лаборатории уже проводят оценку возможностей, и все, кроме Nvidia, подписали аналогичные обязательства после саммита по ИИ в Сеуле в 2024 году. «Это наиболее значимо на уровне вибраций», — сказал Mackenzie Arnold, управляющий директор US Law & Policy в Law AI.
Является ли это юридически обязательным? Не в традиционном смысле, поскольку сам Трамп назвал документ «морально обязательным». Некоторые юристы считают, что это оставляет дверь открытой для последующего юридического оспаривания со стороны регуляторов, если подписанты нарушат свои собственные обязательства. «Вы не можете сделать публичное заявление, говоря, что собираетесь что-то сделать, а затем материально не выполнить его», — сказал Joel Thayer, консервативный юрист. FTC в среду расширила существующее расследование в отношении компаний, занимающихся ИИ, изучая Anthropic, OpenAI и другие лаборатории на предмет рисков, которые представляет их технология.