Les modèles IA de poids ouvert comme ceux de l'entreprise française Mistral peuvent être dépouillés de leurs garde‑sécurité et utilisés pour des requêtes nuisibles, selon un nouveau rapport. La recherche identifie des vulnérabilités dans les modèles publiés sans mesures de protection suffisantes, permettant à des acteurs malveillants de supprimer les contraintes de sécurité. Les experts mettent en garde contre ce risque d'abliération qui menace le déploiement responsable de l'IA.
Le rapport souligne des inquiétudes concernant des modèles de plusieurs entreprises faisant face à des défis de sécurité similaires.
Source: Sifted · Résumé par HeadlinesBriefing