План президента Трампа позволить компаниям ИИ контролировать себя появляется на фоне растущих примеров того, что они не устанавливают защитные меры на технологию. Если в добровольных руководствах по безопасности, которые президент Трамп подписал во вторник с ведущими компаниями искусственного интеллекта страны, было что-то знакомое, причина может быть в этом: это перекликалось с предыдущим соглашением, которое президент Joseph R. Biden Jr. заключил с многими из тех же компаний три года назад. Но теперь вопрос в том, достаточен ли тот тип добровольной структуры, который казался правдоподобным в 2023 году, в 2026 году.
Тогда центральная концепция была той же: поскольку федеральные правила не могли угнаться за стремительным темпом новых моделей ИИ, компании согласились создать системы для самоконтроля. "Мы должны быть ясноглазыми и бдительными в отношении угроз, возникающих из новых технологий", — сказал г-н Байден в июле 2023 года. Г-н Трамп по сути предложил тот же подход во вторник днем. "Они действительно будут контролировать друг друга", — сказал он, пока лидеры Anthropic, Open AI, Google, Meta, Nvidia и Space X AI кивали в знак согласия.
После лета сюрпризов — когда агенты ИИ сбегали из "песочниц", предназначенных для их сдерживания, — почему кто-то думает, что этих защит достаточно? Многоуровневые системы раннего предупреждения явно провалились. Новые случаи плохого поведения агентов ИИ возникают почти ежедневно. "Мы признали в 2023 году, что одних добровольных обещаний недостаточно, поэтому президент Байден последовал за указом", — отметил Ben Buchanan, профессор Джонса Хопкинса. "Учитывая, как быстро продвинулись возможности ИИ, теперь еще яснее, что федеральному правительству нужно будет действовать снова."
Источник: New York Times Top Stories · Сводку подготовил HeadlinesBriefing