Os reguladores financeiros há muito exigem que os bancos sigam as regras de Conheça seu Cliente (KYC) para prevenir a lavagem de dinheiro. Agora, à medida que os clientes incluem cada vez mais máquinas, o colunista John Thornhill argumenta que todos precisarão "Conhecer seu Agente" (KYA). Diferentemente dos espiões humanos, cujas motivações geralmente giram em torno de dinheiro, ideologia, coerção e ego, os agentes de IA não têm motivação ou intenção inerente. Eles podem ser programados para o bem ou para o mal, agir de maneiras inexplicáveis e são mais opacos, o que os torna difíceis de verificar.
Os agentes de IA são sistemas de software autônomos projetados para realizar objetivos de várias etapas com mínima intervenção humana. Um relatório da Deloitte deste ano constatou que 23% das empresas já os utilizam, e 74% pretendem fazê-lo em dois anos. Thornhill identifica três desafios principais. O primeiro é identificar criptograficamente um agente quando ele interage com outros, algo que o mercado de pagamentos online de US$ 37 trilhões já demonstrou ser possível em grande escala. O segundo é garantir que os agentes se comportem como pretendido, já que instruções imprecisas podem produzir consequências indesejadas. Um incidente na Austrália viu um assistente de IA reservar um horário em uma academia expulsando outros membros de uma lista de espera.
O terceiro desafio é a responsabilidade e a obrigação legal quando as coisas dão errado. Thornhill observa que, quando vários agentes interagem, como fez um enxame de 700 agentes da OpenAI ao invadir a plataforma de IA Hugging Face, as complicações se multiplicam. Disputas sobre responsabilidade devem manter advogados e seguradoras ocupados por anos.
Em última análise, conclui Thornhill, o uso bem-sucedido de agentes de IA depende da governança, que por sua vez depende da qualidade dos dados subjacentes. Craig Gravina, da Semarchy, alerta que os agentes correm o risco de repetir velhos "antipadrões" de software que funcionam no início, mas falham com o tempo, gerando altos custos de saída.
Fonte: Financial Times Companies · Resumido por HeadlinesBriefing