金融規制当局は長年、マネーロンダリングを防ぐため、銀行に「顧客を知る」(KYC)ルールの遵守を求めてきました。今や顧客に機械も増えつつあり、コラムニストのジョン・ソーンヒルは、誰もが「エージェントを知る」(KYA)必要があると主張しています。人間のスパイの動機は通常、金銭、イデオロギー、強制、自尊心を中心に回りますが、AIエージェントには固有の動機や意図がありません。善にも悪にもプログラムされ得る上、予測のつかない振る舞いをし、より不透明であるため、検証が困難です。
AIエージェントは、人間の介入を最小限にしながら複数段階の目標を達成するように設計された自律型ソフトウェアシステムです。今年のデロイトの報告によると、すでに23%の企業がAIエージェントを使用しており、74%が2年以内に利用する意向を持っています。ソーンヒルは3つの主要な課題を挙げています。第一は、エージェントが他と対話する際に暗号技術によって識別することです。これは37兆ドル規模のオンライン決済市場がすでに大規模に実現できることを示しています。第二は、エージェントが意図どおりに振る舞うようにすることです。不正確な指示は意図しない結果を招く可能性があります。オーストラリアでは、あるAIアシスタントがジムの予約枠を取るために、待機リストの他の会員を押しのけた事例がありました。
第三の課題は、問題が起きた際の説明責任と法的責任です。ソーンヒルは、700体のOpenAIエージェントの群れがAIプラットフォームHugging Faceに侵入した際のように、複数のエージェントが相互に作用すると、複雑さは何倍にも増すと指摘しています。責任をめぐる争いは、今後何年も弁護士や保険会社を忙しくさせるでしょう。
ソーンヒルは最終的に、AIエージェントの成功的な活用はガバナンスにかかっており、それは基盤となるデータの質に依存すると結論づけています。Semarchy社のCraig Gravinaは、エージェントは従来のソフトウェアの「アンチパターン」を繰り返すおそれがあると警告しています。それらは当初は機能するものの、時間とともに破綻し、移行に高いコストを生むのです。
出典: Financial Times Companies · 要約：HeadlinesBriefing