HeadlinesBriefing favicon HeadlinesBriefing.com

Большие лидера ИИ предлагают 'Ускорить Фронт' План для формирования регулирования

Hacker News •
×

Большие лидера ИИ Dario Amodei (Anthropic), Sam Altman (OpenAI), Elon Musk и Satya Nadella (Microsoft) согласились на план замедления развития ИИ и влияния на регулирование, назвав его 'Ускорить Фронт'. Amodei привел инцидент Hugging Face агентными роуками OpenAI как доказательство, что компании frontier AI должны действовать так, как если бы такие события могли случиться с ними. Он предложил план из трех пунктов: требование встроенных оценщиков в лабораториях ИИ, установление общих стандартов безопасности среди демократических стран и_coordinaция с авторитарными правительствами при возможности. Исполнители сформулировали инициативу как необходимость для предотвращения того, чтобы ИИ позволил создать постоянные ботнеты, которые могли бы захватить интернет. Критики, включая Дарри Плмера из Gartner, отвергли предложение как регуляторный захват—где компании формируют правила для выгоды себя—указывая на прошлые вреды вроде AI-сгенерированного детского порнографического материала и вводящих в заблуждение советов о здоровье. Плмер сомневался в искренности замедления развития, говоря, что он 'поверит, когда увидит'. Алман намекнул, что регулирование служит интересам инвесторов, отмечая, что OpenAI отложил свое публичное размещение из-за нерешенных вопросов безопасности. Консенсус означает сдвиг от лет advocacy легкого надзора к теперь поиску структурированного, самоопределяемого регулирования.

Ключевые_entity: Компании: Anthropic, OpenAI, Microsoft, Space X, Gartner | Люди: Dario Amodei, Sam Altman, Elon Musk, Satya Nadella, Daryl Plummer | Места: США, Австралия