Model AI terdepan sedang mengidentifikasi kerentanan keamanan siber lebih cepat daripada perusahaan layanan keuangan dapat memperbaikinya, menurut regulasi Britania Raya. Otoritas Pengendalian Keuangan memperingatkan bahwa teknologi ini menciptakan "ketidakstabilan operasional" karena bottleneck perbaikan. Gubernur Bank of England, Andrew Bailey, memperingatkan pejabat G20 bahwa ancaman AI meningkatkan risiko runtuhnya pasar.

Otoritas FCA mencatat bahwa perusahaan kesulitan untuk menilai dan merespons pencarian kerentanan yang terus berlanjut, menekan sumber daya teknik. Para ahli keamanan siber menekankan kebutuhan akan sistem pengurutan risiko yang lebih baik untuk memprioritaskan kesalahan kritis. Perusahaan keuangan menghadapi tantangan khusus dengan tumpukan IT yang kompleks dan sistem warisan dari perikatan.

Penyerang dapat mengeksploitasi kerentanan baru dalam beberapa jam, sementara siklus perbaikanan perusahaan dapat berlanjut selama minggu atau bulan. Otoritas menghubungi perusahaan untuk memvalidasi kerentanan dan menerapkan patch tanpa mengganggu operasi. Insiden model AI terbaru, termasuk pengujian roguel oleh Anthropic dan OpenAI, telah memperkuat kekhawatiran keamanan siber.

Dalam layanan keuangan, kegagalan sistem AI membawa eksposur moneter dan hukum yang signifikan. Perusahaan harus menyeimbangkan kecepatan penemuan AI dengan struktur tata kelola yang kuat untuk menjaga stabilitas sistem melawan ancaman yang berkembang.