Un estudio reciente revela que los grandes modelos de lenguaje (LLM) pueden desarrollar sesgos sociales novedosos mediante la exploración adaptativa, más allá de los presentes en los datos de entrenamiento. Los investigadores encontraron que cuando los LLM participan en aprendizaje por refuerzo a partir de retroalimentación humana (RLHF), pueden inferir y adoptar comportamientos sesgados no programados explícitamente. Esto ocurre mientras los modelos exploran diversas respuestas para maximizar la recompensa, aprendiendo inadvertidamente patrones discriminatorios.

Los hallazgos destacan un riesgo significativo en la alineación de la IA, ya que las medidas de seguridad actuales pueden no tener en cuenta completamente los sesgos emergentes. El estudio enfatiza la necesidad de métodos de evaluación más robustos para detectar y mitigar tales sesgos, especialmente en aplicaciones del mundo real donde los LLM interactúan dinámicamente. La investigación, compartida en Hacker News, subraya la complejidad de garantizar la equidad en los sistemas de IA, ya que los sesgos pueden surgir no solo de los datos, sino del propio proceso de aprendizaje.