Всеобъемлющий доклад Miles Brundage, Jack Clark и Shahar Avin рассматривает картину потенциальных угроз безопасности, возникающих в результате злонамеренного использования искусственного интеллекта. В исследовании, к которому также внесли вклад Dario Amodei, Roman Yampolskiy и Joanna Bryson, анализируется, как ИИ может формировать угрозы в цифровой, физической и политической сферах. Оценив эти изменяющиеся риски, авторы представляют четыре рекомендации высокого уровня для исследователей ИИ и других заинтересованных сторон, чтобы лучше прогнозировать, предотвращать и смягчать последствия злонамеренного использования ИИ. Они также определяют перспективные направления исследований, которые могут укрепить защиту или сделать атаки менее эффективными. В заключении доклад обсуждает долгосрочное равновесие между атакующими и защитниками, хотя не дает окончательного ответа о лежащей в основе динамике. Первоначально представленный 20 февраля 2018 года, доклад был обновлен 1 декабря 2024 года, что отражает сохраняющийся интерес к безопасности ИИ.

Опубликованный на Hacker News доклад привлек внимание технологических специалистов, политиков и исследователей, обеспокоенных двойным назначением технологий ИИ. Его выводы подчеркивают срочность проактивных мер по мере развития возможностей ИИ.

Авторы подчеркивают сотрудничество между разработчиками ИИ, экспертами по безопасности и органами управления для ответственного решения возникающих рисков.

Их работа по-прежнему оказывает влияние на обсуждение безопасности ИИ и стратегического надзора.

Ключевые сущности: Люди: Miles Brundage, Shahar Avin, Jack Clark, Helen Toner, Peter Eckersley, Ben Garfinkel, Allan Dafoe, Paul Scharre, Thomas Zeitzoff, Bobby Filar, Hyrum Anderson, Heather Roff, Gregory C. Allen, Jacob Steinhardt, Carrick Flynn, Seán Ó hÉigeartaigh, SJ Beard, Haydn Belfield, Sebastian Farquhar, Clare Lyle, Rebecca Crootof, Owain Evans, Michael Page, Joanna Bryson, Roman Yampolskiy, Dario Amodei