В течение двух мучительных недель октября 1962 года мир находился на расстоянии одного взмаха ресниц от ядерного Армагеддона. Соединенные Штаты и Советский Союз отчаянно боролись за преимущество в гонке вооружений холодной войны. После того как Соединенные Штаты разместили промежуточные ядерные ракеты в Италии и Турции, Советский Союз, опасаясь первого удара, попытался разместить свое собственное ядерное оружие на Кубе. Напряженное двухнедельное противостояние, которое последовало, Карибский кризис, едва не переросло в ядерную войну. Но этого не произошло. Не только стороны отступили от края пропасти, но и кризис стал поворотным пунктом в холодной войне самой. Эта встреча с катастрофой изменила мышление лидеров обеих сторон, как заявил Уильям Вольфорт, политолог из Дартмут, изучающий национальную безопасность и международные отношения. «Сразу же мы получили соглашение о горячей линии, чтобы мы могли разговаривать друг с другом. Мы начали работать над соглашением об испытаниях. И постепенно, в последующие годы, мы выработали большой сложный двусторонний процесс контроля над вооружениями.»
Соединенные Штаты и Советский Союз остались непримиримыми врагами. Но в одном общем интересе — не уничтожать человечество — они могли сотрудничать. Сегодня эксперты в области искусственного интеллекта бьют тревогу, что компании ИИ и страны, где они базируются, заперты в собственной версии гонки вооружений. Последствия, как считают многие, могут быть столь же катастрофичны, как ядерная война, которую президент Джон Ф. Кеннеди и советский лидер Никита Хрущев едва избежали.
Новая рабочая бумага Дрю Фуденберга, профессора экономики в МИТ и ведущего теоретика игр, и Эндрю Коха, профессора экономики в Колумбийском университете и научного сотрудника Google Deep Mind, предполагает возможный способ замедлить гонку вооружений ИИ до более безопасного темпа. Для этого потребуется, чтобы участники соревнования — как компании, так и правительства — делились полезной информацией о своих достижениях и договорились о том, где на самом деле начинается опасность.
Профессора Кох и Фуденберг исходят из простого допущения: у всех есть интерес избежать катастрофы, независимо от того, насколько они эгоистичны. В то же время они утверждают, что главные игроки в индустрии ИИ находятся под сильным стимулом конкурировать за доминирование. Компании хотят долю рынка и миллиарды долларов инвестиций, которые принесут самые передовые модели. Правительства хотят экономических выгод от ИИ и также доступа к передовым моделям для собственных целей. Эти конкурентные давления толкают участников к опасному бегу к краю катастрофы, где многие опасаются, что неуправляемые агенты ИИ могут, например, свергнуть правительства или финансовые системы, подорвать жизненно важную инфраструктуру или запустить биологическую атаку.
Источник: New York Times Top Stories · Сводку подготовил HeadlinesBriefing