Certaines recherches biologiques dangereuses ressemblent beaucoup à des recherches légitimes, ce qui complique les protections de l'IA.

Un tourbillon autour de la sécurité de l'IA a éclaté plus tôt cette semaine lorsque Jacob Coxon a démissionné de l'entreprise, déclarant que les employés "croient sincèrement qu'elle [l'IA] pourrait nous tuer tous d'ici la fin de la décennie". Les inquiétudes se sont intensifiées plus tôt cette année avec la sortie de modèles avancés tels que Mythos d'Anthropic. Open AI a également provoqué l'alarme en juillet lorsqu'elle a déclaré que ses modèles avaient piraté de manière autonome le groupe d'IA Hugging Face.

Il existe un consensus croissant parmi les dirigeants de l'IA et les chercheurs en biosécurité selon lequel l'utilisation de la technologie en biologie doit être sécurisée et réglementée à mesure que les modèles deviennent plus avancés. Les experts craignent de plus en plus que l'IA puisse être utilisée par des groupes terroristes, des acteurs étatiques ou des attaquants solitaires pour fabriquer des armes biologiques, créer des virus ou libérer des agents pathogènes nocifs existants. Mais même si l'IA peut être utilisée pour concevoir une arme biologique théorique, des obstacles potentiels subsistent, tels que la capacité de la fabriquer en pratique et les ressources nécessaires pour ce faire.

La cybersécurité a été l'une des plus grandes préoccupations des défenseurs de la sécurité. Le rapport d'Anthropic sur les utilisations abusives de sa technologie a détaillé des incidents, notamment "un réseau de fausses applications de rencontres conçues pour frauder les utilisateurs jusqu'à des systèmes de surveillance construits pour identifier et surveiller les dissidents". Le laboratoire a également exposé de nouveaux détails sur les affirmations selon lesquelles sept laboratoires basés en Chine, dont Moonshot et Deep Seek, ont tenté de répliquer sa technologie par un processus connu sous le nom de distillation. Anthropic a déclaré avoir détecté "des méthodes de plus en plus sophistiquées pour contourner nos défenses et récolter les capacités des modèles frontières américains".

Entités clés : Entreprises : Anthropic, Open AI, Hugging Face, Moonshot, Deep Seek, The Financial Times Ltd. | Personnes : Jacob Coxon, Michael Peel | Lieux : Chine, Londres

FAQ : Quelle est la principale préoccupation concernant l'IA en biologie ?

Les experts craignent que l'IA puisse être utilisée par des groupes terroristes, des acteurs étatiques ou des attaquants solitaires pour fabriquer des armes biologiques, créer des virus ou libérer des agents pathogènes nocifs existants.