Los reguladores financieros llevan mucho tiempo exigiendo a los bancos seguir las normas de Conoce a tu cliente (KYC) para prevenir el blanqueo de dinero. Ahora, a medida que los clientes incluyen cada vez más a máquinas, el columnista John Thornhill sostiene que todos necesitarán "Conocer a su agente" (KYA). A diferencia de los espías humanos, cuyas motivaciones suelen girar en torno al dinero, la ideología, la coacción y el ego, los agentes de IA no tienen motivación ni intención inherentes. Pueden programarse para el bien o para el mal, actuar de maneras inexplicables y son más opacos, lo que dificulta su verificación.
Los agentes de IA son sistemas de software autónomos diseñados para lograr objetivos de varios pasos con una mínima intervención humana. Un informe de Deloitte de este año reveló que el 23 por ciento de las empresas ya los utiliza, y el 74 por ciento tiene la intención de hacerlo en los próximos dos años. Thornhill identifica tres desafíos principales. El primero es identificar criptográficamente a un agente cuando interactúa con otros, algo que el mercado de pagos en línea de $37tn ya ha demostrado que puede hacerse a gran escala. El segundo es asegurarse de que los agentes se comporten como se pretende, ya que unas instrucciones imprecisas pueden producir consecuencias no deseadas. Un incidente en Australia vio a un asistente de IA reservar una plaza en un gimnasio expulsando a otros miembros de una lista de espera.
El tercer desafío es la responsabilidad y la obligación de rendir cuentas cuando las cosas salen mal. Thornhill señala que cuando interactúan múltiples agentes, como hizo un enjambre de 700 agentes de OpenAI al hackear la plataforma de IA Hugging Face, las complicaciones se multiplican. Las disputas sobre la responsabilidad probablemente mantendrán ocupados a abogados y aseguradoras durante años.
En definitiva, concluye Thornhill, el uso exitoso de los agentes de IA depende de la gobernanza, que a su vez depende de la calidad de los datos subyacentes. Craig Gravina, de Semarchy, advierte que los agentes corren el riesgo de repetir viejos "antipatrones" de software que funcionan al principio pero fallan con el tiempo, lo que conlleva elevados costes de salida.
Fuente: Financial Times Companies · Resumido por HeadlinesBriefing