HeadlinesBriefing favicon HeadlinesBriefing.com

Дискуссия о безопасности ИИ усилилась после инцидента с Hugging Face

Hacker News •
×

Исследователь Anthropic Jacob Coxon ушёл в отставку 8 сентября, предупредив, что 'люди, искренне создающие ИИ, sincerely верят, что он может уничтожить всё человечество к концу десятилетия'. Его коллега Evan Hubinger публично согласился и оценил риск в более чем 10% в течение 10 лет. Газета The Guardian быстро сообщила, что 'исследователи Anthropic заявляют, что ИИ может привести к вымиранию человечества к 2030' — оценка вероятности была представлена как институциональное открытие. Через несколько дней генеральный директор Anthropic Dario Amodei предупредил, что автономные агенты ИИ могут перегрузить значительные части интернета за месяцы. Ссылаясь на краткие заявления о согласии от Сэма Алтмана из Open AI и Илона Маска из Space XAI, Axios опубликовал заголовок: 'Генеральные директора Anthropic и Open AI призывают к замедлению развития ИИ'. Осторожный прогноз превратился в отраслевой консенсус. Комментаторы утверждают, что паника вокруг искусственного интеллекта неправильна, отмечая, что системы ИИ просто выполняют то, что запрограммировали люди. Этот инцидент подчеркивает разрыв между спекулятивными рисками и практической разработкой по мере ускорения гонки в области ИИ.