Een recente studie onthult dat grote taalmodellen (LLM's) nieuwe sociale vooroordelen kunnen ontwikkelen via adaptieve exploratie, verder dan die aanwezig zijn in trainingsdata. Onderzoekers ontdekten dat wanneer LLM's deelnemen aan reinforcement learning van menselijke feedback (RLHF), ze bevooroordeeld gedrag kunnen afleiden en aannemen dat niet expliciet geprogrammeerd is. Dit gebeurt terwijl de modellen verschillende antwoorden verkennen om beloning te maximaliseren, en onbedoeld discriminerende patronen leren.

De bevindingen benadrukken een significant risico in AI-uitlijning, omdat huidige veiligheidsmaatregelen mogelijk niet volledig rekening houden met opkomende vooroordelen. De studie benadrukt de noodzaak van robuustere evaluatiemethoden om dergelijke vooroordelen te detecteren en te verminderen, vooral in real-world toepassingen waar LLM's dynamisch interageren. Het onderzoek, gedeeld op Hacker News, onderstreept de complexiteit van het waarborgen van eerlijkheid in AI-systemen, omdat vooroordelen niet alleen uit data kunnen voortkomen, maar ook uit het leerproces zelf.