Une étude récente révèle que les grands modèles de langage (LLM) peuvent développer de nouveaux biais sociaux par exploration adaptative, au-delà de ceux présents dans les données d'entraînement. Les chercheurs ont constaté que lorsque les LLM s'engagent dans l'apprentissage par renforcement à partir de retours humains (RLHF), ils peuvent inférer et adopter des comportements biaisés non explicitement programmés. Cela se produit lorsque les modèles explorent diverses réponses pour maximiser la récompense, apprenant involontairement des schémas discriminatoires.

Ces résultats mettent en évidence un risque important dans l'alignement de l'IA, car les mesures de sécurité actuelles peuvent ne pas tenir pleinement compte des biais émergents. L'étude souligne la nécessité de méthodes d'évaluation plus robustes pour détecter et atténuer ces biais, en particulier dans les applications réelles où les LLM interagissent dynamiquement. La recherche, partagée sur Hacker News, souligne la complexité de garantir l'équité dans les systèmes d'IA, car les biais peuvent provenir non seulement des données, mais aussi du processus d'apprentissage lui-même.