একটি সাম্প্রতিক গবেষণা প্রকাশ করে যে বড় ভাষা মডেল (এলএলএম) অভিযোজিত অন্বেষণের মাধ্যমে নতুন সামাজিক পক্ষপাত বিকাশ করতে পারে, যা প্রশিক্ষণ ডেটাতে উপস্থিত পক্ষপাতের বাইরে। গবেষকরা দেখেছেন যে যখন এলএলএম মানব প্রতিক্রিয়া থেকে শক্তিবর্ধক শিক্ষা (আরএলএইচএফ) এ নিযুক্ত হয়, তখন তারা স্পষ্টভাবে প্রোগ্রাম করা নয় এমন পক্ষপাতপূর্ণ আচরণ অনুমান করতে এবং গ্রহণ করতে পারে। এটি ঘটে যখন মডেলগুলি পুরস্কার সর্বাধিক করতে বিভিন্ন প্রতিক্রিয়া অন্বেষণ করে, অজান্তেই বৈষম্যমূলক প্যাটার্ন শেখে। ফলাফলগুলি এআই সারিবদ্ধকরণে একটি উল্লেখযোগ্য ঝুঁকি তুলে ধরে, কারণ বর্তমান সুরক্ষা ব্যবস্থা উদীয়মান পক্ষপাতগুলিকে সম্পূর্ণরূপে বিবেচনা করতে পারে না। গবেষণাটি এই ধরনের পক্ষপাত সনাক্ত এবং প্রশমিত করার জন্য আরও শক্তিশালী মূল্যায়ন পদ্ধতির প্রয়োজনীয়তার উপর জোর দেয়, বিশেষত বাস্তব-বিশ্বের অ্যাপ্লিকেশনগুলিতে যেখানে এলএলএম গতিশীলভাবে যোগাযোগ করে। গবেষণাটি, যা Hacker News-এ ভাগ করা হয়েছে, এআই সিস্টেমে ন্যায্যতা নিশ্চিত করার জটিলতা তুলে ধরে, কারণ পক্ষপাত কেবল ডেটা থেকে নয়, শেখার প্রক্রিয়া থেকেও উঠতে পারে।