Финансовые регуляторы давно требуют от банков соблюдать правила «Знай своего клиента» (KYC) для предотвращения отмывания денег. Теперь, когда среди клиентов всё больше машин, колумнист Джон Торнхилл утверждает, что всем понадобится «Знай своего агента» (KYA). В отличие от человеческих шпионов, мотивы которых обычно связаны с деньгами, идеологией, принуждением и самолюбием, у ИИ-агентов нет собственной мотивации или намерения. Их можно запрограммировать на добро или зло, они могут действовать необъяснимо и более непрозрачны, что затрудняет их проверку.
ИИ-агенты — это автономные программные системы, предназначенные для достижения многоэтапных целей с минимальным участием человека. Отчёт Deloitte за этот год показал, что 23 процента компаний уже используют их, а 74 процента намерены сделать это в течение двух лет. Торнхилл выделяет три основные проблемы. Первая — криптографическая идентификация агента при его взаимодействии с другими, что уже продемонстрировал рынок онлайн-платежей объёмом 37 трлн долларов в масштабе. Вторая — обеспечение того, чтобы агенты вели себя так, как задумано, поскольку неточные инструкции могут привести к непредвиденным последствиям. В Австралии ИИ-ассистент забронировал место в спортзале, вытеснив других участников из листа ожидания.
Третья проблема — ответственность и подотчётность, когда что-то идёт не так. Торнхилл отмечает, что при взаимодействии нескольких агентов, как это сделал рой из 700 агентов OpenAI, взломавший ИИ-платформу Hugging Face, сложности многократно возрастают. Споры об ответственности, вероятно, будут занимать юристов и страховщиков на годы.
В конечном счёте, заключает Торнхилл, успешное использование ИИ-агентов зависит от управления, а управление — от качества лежащих в основе данных. Крейг Грависна из Semarchy предупреждает, что агенты рискуют повторить старые программные «антипаттерны», которые сначала работают, а со временем выходят из строя, что приводит к высоким затратам на выход.
Источник: Financial Times Companies · Сводку подготовил HeadlinesBriefing