Le débat sur le rôle de l'intelligence artificielle en tant que menace ou opportunité a de nouveau été intensifié, lorsque le CEO d'Anthropic, Dario Amodei, a appelé à ralentir le développement de l'IA. Le Parlement européen a exigé une réponse plus ferme de l'UE aux menaces hybrides, tandis que le National Cyber Security Centre du Royaume-Uni a argumenté que l'intégration croissante des modèles d'IA "presque certainement" présente une surface d'attaque accrue pour les adversaires exploiter. Patrick Kane, partenaire dans l'équipe Digitale d'Apax, et Stefan Dziarski, partenaire chez Permira, ont discuté des risques liés aux menaces cybernétiques dirigées par l'IA et des opportunités qu'elles ouvrent aux opérateurs effectuant des transactions avec des entreprises de cybersécurité, notamment celles protégeant des entreprises de services financiers.

Kane a déclaré que l'IA est non déterministe, et que les pratiques de sécurité des entreprises ont été construites autour de règles déterministes. Les fournisseurs de modèles ne peuvent construire des garde-fous qu'à un dénominateur commun minimal, ce qui n'est pas suffisant pour que les entreprises de services financiers déploient confiantment des agents. La vraie opportunité est la couche qui protège l'IA elle-même, et elle doit se situer en dehors du modèle, car "un modèle ne peut pas être son propre garde-fou".

Cela signifie tester les agents de manière adversarial avant le lancement, surveiller ce qu'ils font en production, et placer un jugement expert validé devant les équipes de sécurité au moment de la décision. Les investissements des fonds Apax Digital dans Alice, une entreprise de sécurité basée sur l'IA, et IANS, un service de recherche et de conseil soutenu par la technologie, se situent des deux côtés de cette menace. Alice sécurise les systèmes d'IA eux-mêmes, tandis que IANS fournit une intelligence validée par des professionnels qui aide les équipes de sécurité à se préparer et à protéger leurs programmes plus larges.

Apax a investi dans Alice fin août, alors que IANS a été soutenu en 2024. À mesure que 2027 se profile, Apax s'attend à ce que les opérations dans ce segment restent fortement sélectives, avec un capital concentré sur les entreprises capables de démontrer une différenciation durable et qui appartiennent structurellement en dehors des laboratoires eux-mêmes. Permira considère ce segment comme un "espace passionnant". En août, Permira a convenu de vendre sa participation dans Bio Catch à Visa dans un accord en espèces qui évalue la société de l'intelligence anti-fraude à environ 2,4 milliards de dollars.

Au moment de la sortie, son chiffre d'affaires récurrent (ARR) était supérieur à 200 millions de dollars. Entités clés : Entreprises : Apax, Permira, Alice, IANS, Visa, Bio Catch | Personnes : Patrick Kane, Stefan Dziarski, Dario Amodei | Emplacements : Londres, Royaume-Uni.