Может ли ИИ спровоцировать финансовый кризис? Этот вопрос навис над New York во время UN General Assembly. Хотя некоторые инвесторы опасаются пузыря на рынке акций ИИ или дефолтов по долгам центров обработки данных, многие участники UNGA подняли другой вопрос: могут ли злонамеренные люди использовать ИИ для разрушительных кибератак на финансовые рынки? Bill Gates говорит, что ИИ — «безусловно» самая опасная технология, когда-либо созданная, и хочет, чтобы правительства и технологические компании установили системы мониторинга. «Горячая линия» China-US — небольшой шаг, но необходимо гораздо больше.

Вдали от глаз общественности надзорные органы обсуждают, как бороться с финансовыми рисками ИИ, в том числе используя агентные системы ИИ сами. На встрече по цифровому регулированию в Cambridge, совместно организованной Agustín Carstens и Ashley Alder, почти 300 teams приняли участие в первом глобальном хакатоне “Agentic Regulator”. Появились три урока. Надзорные органы не могут ждать политиков, поскольку ИИ развивается быстрее законодателей. Им необходимо творчески использовать имеющиеся полномочия.

Регуляторам также необходимо переосмыслить «объяснимость». Поскольку прозрачность трудно обеспечить принудительно, многие переходят к отслеживанию результатов моделей ИИ, установке защитных механизмов, таких как аварийные выключатели, и уточнению юридической ответственности. В America Scott Bessent созвал банкиров, чтобы обсудить Anthropic’s Claude Mythos AI model и киберуязвимости. Bank of England будет контролировать облачные компании как «критически важные третьи стороны», а BIS проводит инновационные эксперименты. Необходимо срочно разрушить регуляторные разрозненности.

Ключевые сущности: Компании: Microsoft, Gates Foundation, Bank for International Settlements, Financial Conduct Authority, Anthropic, Bank of England, BIS | Люди: Gillian Tett, Bill Gates, Agustín Carstens, Ashley Alder, Scott Bessent | Места: New York, UN General Assembly, UNGA, China, US, Cambridge, America, UK