По мере роста обеспокоенности искусственным интеллектом, депутаты Нью-Йорка interroгировали представителей крупных компаний ИИ в понедельник и вышли с малым ясностью о том, как планировать решение насущных угроз. Компании не quantified риск катаклизма, имели ли они страхование в таких случаях, или могли ли они остановить модель ИИ, которая не прошла внутренний тест на безопасность или внешний обзор. На напряженнойexchange, Говорящий Совета города Нью-Йорка Julie Menin спросил каждый company, как они quantify "риск, который наносит ИИ в худшем катаклизме сценарии". Morgan Dwyer, который управляет разработкой политики и операций OpenAI, сказал: "Не знаю", и добавил, что, по его мнению, не важно, шанс ли 1 процент, 10 процентов или 20 процентов. Menin ответил, что ни один из этих уровней недопустим.
Dwyer сказал, что OpenAI не должен тренировать модели, которые нельзя безопасно удержать под контролем человека. В слушании давали testimony Anthropic, OpenAI, Meta и Google, а представитель ИИ-отделения SpaceX, контролируемого Элоном Маском, не явился несмотря на повестку. Menin сказала, что попросит судью вмешаться. Некоторые компании готовятся к публичному торговле, с оценкой стоимости Anthropic, projected to exceed $2 trillion в некоторых отчетах. whistleblower Jacob Coxon, который недавно уволился из Anthropic, предупредил, что человечество, вероятно, потеряет контроль над системами ИИ, что может привести к вымиранию человека, и критиковал культуру компаний "move fast, break things" как неответственный given the stakes.
Источник: New York Times Business · Сводку подготовил HeadlinesBriefing