一项最新研究揭示，大型语言模型（LLM）可以通过适应性探索发展出新的社会偏见，这些偏见超出了训练数据中已有的内容。研究人员发现，当LLM从人类反馈中进行强化学习（RLHF）时，它们可能会推断并采纳并非明确编程的偏见行为。这是因为模型为了最大化奖励而探索各种响应，无意中学习了歧视性模式。这些发现凸显了AI对齐中的一个重大风险，因为当前的安全措施可能无法完全应对涌现的偏见。研究强调需要更稳健的评估方法来检测和缓解此类偏见，尤其是在LLM动态交互的现实应用中。这项研究在Hacker News上分享，强调了确保AI系统公平性的复杂性，因为偏见不仅可能来自数据，还可能来自学习过程本身。