2023 में Berglund और सहयोगियों का पेपर [1] तर्क देता है कि भाषा मॉडल सममित तथ्य स्मरण मुफ्त में नहीं पाते। इसका प्रारंभिक उदाहरण: एक व्यक्ति जो सीखता है कि Valentina Tereshkova अंतरिक्ष में यात्रा करने वाली पहली महिला थी, वह यह भी उत्तर दे सकता है “अंतरिक्ष में यात्रा करने वाली पहली महिला कौन थी?” यह तुच्छ लगता है। लेकिन पहले वाक्य पर प्रशिक्षित एक मॉडल, जहां नाम विवरण से पहले आता है, “Valentina Tereshkova कौन थी?” का उत्तर देना सीख सकता है और फिर भी विवरण पहले आने पर विफल हो सकता है। लेखक इसे रिवर्सल कर्स कहते हैं।
उनके साक्ष्य दो स्थानों से आते हैं। उन्होंने GPT-3 और Llama-1 को काल्पनिक तथ्यों पर फाइन-ट्यून किया और पाया कि जब भी प्रश्न प्रशिक्षण वाक्यों से विपरीत क्रम में आता था, सटीकता लगभग शून्य थी। और उन्होंने GPT-4 का वास्तविक हस्तियों पर परीक्षण किया: इसने लगभग 79% समय किसी हस्ती के माता-पिता का नाम बताया, लेकिन माता-पिता दिए जाने पर केवल लगभग 33% समय हस्ती का नाम बताया (क्लासिक जोड़ी है “टॉम क्रूज़ की माँ कौन है?” बनाम “मैरी ली फ़ाइफ़र का बेटा कौन है?”)।
लेखक यह भी बताते हैं कि विफलता तर्क की कमी नहीं है: यदि प्रॉम्प्ट में “A, B है” मौजूद है, तो GPT-4 “B, A है” का अच्छी तरह से अनुमान लगा सकता है। समस्या तब उत्पन्न होती है जब तथ्य प्रशिक्षण के दौरान सीखा गया था और बाद में दूसरी ओर से याद किया जाना है। यही इसे आश्चर्यजनक बनाता है, और यही वह है जिसे नीचे दिया गया खिलौना मॉडल हमें सीधे देखने देता है।
मुख्य संस्थाएँ: कंपनियाँ: Towards Data Science | लोग: Berglund, Valentina Tereshkova, Tom Cruise, Mary Lee Pfeiffer
सामान्य प्रश्न: रिवर्सल कर्स क्या है?
रिवर्सल कर्स एक घटना है जहाँ एक भाषा मॉडल किसी तथ्य को उस दिशा में याद कर सकता है जिसमें उसने इसे सीखा, लेकिन जब उल्टा पूछा जाता है तो विफल हो जाता है, भले ही दोनों कथन तार्किक रूप से सममित हों।
स्रोत: Towards Data Science · HeadlinesBriefing द्वारा सारांशित