Les modèles d'IA modernes génèrent une réflexion interne extensive avant de fournir des réponses finales. Ce processus de "pensée" contient des hypothèses intermédiaires, des sorties d'outils et des données utilisateur, le rendant significativement plus dense que la sortie polie. La plupart des grands fournisseurs conservent cette trace pour deux raisons: commercialement, les concurrents pourraient l'utiliser pour entraîner des imitations moins coûteuses, et techniquement, exposer la réflexion complète pourrait révéler des informations utilisateur sensibles.

En août 2026, des chercheurs de MATS Research, de l'ELLIS Institute Tübingen et du Max Planck Institute for Intelligent Systems ont démontré une vulnérabilité. Ils ont montré que les blocs de raisonnement cryptés fournis par Anthropic, OpenAI et Google pouvaient être rejoués dans un modèle moins coûteux de la même famille. Lorsqu'ils sont rejoués, le modèle moins coûteux imprime la réflexion cachée en texte clair, volant efficacement les pensées du modèle original.

La méthode d'extraction implique de forcer le modèle moins coûteux à générer la chaîne de raisonnement complète. La vérification a confirmé que la sortie rejouée correspondait au processus de réflexion caché original. Cette vulnérabilité affecte plusieurs fournisseurs, révélant que les méthodes de chiffrement actuelles des blocs de raisonnement sont insuffisantes.

Les chercheurs ont identifié quatre vecteurs d'attaque principaux permettant cette relecture. Une enquête sur les journaux de session publiés a confirmé la prévalence de ce problème. Les correctifs proposés impliquent de modifier le mécanisme de relecture, bien qu'une limite fondamentale subsiste concernant la quantité de raisonnement qui peut être réellement protégée tout en maintenant l'utilité du modèle.

Les résultats soulignent une lacune critique dans la confidentialité de l'IA, montrant que les blocs chiffrés ne garantissent pas la confidentialité contre les attaques de relecture déterminées. Cela pose des risques significatifs pour les applications traitant des données sensibles, car les pensées cachées peuvent être extraites et exposées. La recherche souligne la nécessité de mesures de sécurité architecturales plus robustes dans les conçus futurs des modèles pour prévenir l'extraction de raisonnement non autorisée.