La démission du chercheur d'Anthropic Jacob Cox-Smith la semaine dernière a ravivé l'attention sur la question de savoir si les capital-risqueurs évaluent adéquatement les risques de sécurité de l'IA avant d'investir. À mesure que les modèles d'IA deviennent plus puissants, les investisseurs sont soumis à une pression croissante pour évaluer les dangers potentiels, notamment les usages malveillants, les biais et les préoccupations d'alignement à long terme. Des sociétés comme Sequoia Capital et Andreessen Horowitz ont commencé à intégrer des vérifications de sécurité dans leurs processus de due diligence, mais les critiques estiment que ces mesures restent insuffisantes. Certains investisseurs exigent désormais que les entreprises du portefeuille subissent des audits de sécurité externes et adoptent des cadres de transparence.

Cependant, le rythme rapide du développement de l'IA dépasse souvent la supervision réglementaire et éthique. "Nous devons nous assurer que la sécurité n'est pas une réflexion après coup", a déclaré Sarah Chen, associée chez Eclipse Ventures. "Elle devrait être intégrée dans chaque décision d'investissement dès le premier jour." Les organismes de réglementation de l'UE et des États-Unis interviennent également, proposant des lignes directrices plus strictes pour la gouvernance de l'IA. Pendant ce temps, les startups continuent de se battre pour le financement, soulevant des questions sur l'alignement des incitations financières avec l'innovation responsable. Le débat s'est intensifié après plusieurs départs médiatisés de laboratoires d'IA de premier plan, mettant en lumière des tensions internes autour des priorités de sécurité.

Alors que le secteur fait face à ces défis, les parties prenantes réclament des référentiels de sécurité standardisés et une plus grande responsabilité dans toute la chaîne d'investissement.