Nick Bostrom получил известность, предсказав гибель искусственного интеллекта более десяти лет назад — заручившись поддержкой таких фигур, как Elon Musk, Sam Altman и Bill Gates. Но теперь он отходит от этих предупреждений, сосредотачивая внимание на более сложном вопросе: что, если ИИ преуспеет за пределами самых смелых фантазий человечества? Неужели нам станет смертельно скучно? Неужели мы слишком инфантильны, чтобы понять, что грядет?
Приглашенный ведущий Spencer Klavan, помощник редактора Claremont Review of Books, расспрашивает Bostrom о потенциальных применениях и злоупотреблениях сверхинтеллектом, рационалистической этике и том, что делает нас людьми. Ниже приведена отредактированная стенограмма эпизода «Interesting Times».
Bostrom говорит, что его взгляды принципиально не изменились, но мир изменился. Когда он начал работу над «Superintelligence» в 2008 году, люди отвергали это как научную фантастику. Теперь это мейнстрим, поэтому он переключает внимание на положительную сторону, которая также имеет философски проблемные аспекты.
Что касается вероятностей, таких как P(doom), Bostrom говорит, что за ними нет математики — они субъективны. Он называет себя «беспокойным оптимистом», воодушевленным положительной стороной, но обеспокоенным тем, что мы можем не добраться туда.
Источник: New York Times Top Stories · Сводку подготовил HeadlinesBriefing