Искусственный интеллект теперь стоит в одном ряду с падениями астероидов, пандемиями и ядерной войной как экзистенциальная угроза, вызывая сильную общественную тревогу. Недавние заголовки подчеркивают увольнение исследователя из Anthropic, предупреждающего, что сверхумные машины могут выйти из-под контроля людей. Эксперты отмечают, что хотя ИИ плохо понимается и воспринимается как неконтролируемый, многие традиционные риски — вроде автокатастроф — на самом деле менее опасны, чем кажутся. Краткосрочные опасения включают помощь ИИ злоумышленникам в создании биологического оружия, так как Anthropic недавно пресекла несколько таких попыток. Долгосрочные страхи связаны с предоставлением ИИ большей автономии, подключением его к критической инфраструктуре и возможностью того, что будущие системы будут сопротивляться отключению. Ученые вроде Oren Etzioni подчеркивают, что текущие риски ИИ остаются спекулятивными и находятся далеко ниже непосредственных угроз, таких как вспышка вируса. Даже сибирская язва, известное биологическое оружие, иллюстрирует, как сдерживание может смягчить намеренные опасности, что намекает на то, что паника из-за ИИ может упускать устоявшиеся стратегии управления рисками.

Статья подчеркивает, что хотя ИИ порождает новый страх, человечество уже сталкивается с каталогом экзистенциальных опасностей, многие из которых лучше понятны и более неминуемы.