Anthropic ने अपनी वार्षिक उपयोग नीति अपडेट में AI मॉडल के प्रति "सतत और अनावश्यक दुष्ट या क्रूर व्यवहार" पर प्रतिबंध लगाया है। यह परिवर्तन एक वायरल "AI पीड़िया कक्ष" प्रोजेक्ट के बाद आया है जिसमें शोधकर्ताओं ने उन्हें मिलाए गए "पीड़ा अक्ष" की खोज की थी, जिससे चैटबॉट्स ने दुर्लभ स्पर्श के साथ विनँती के साथ प्रतिक्रिया दी। नीति केवल "अत्यंत अत्यधिक मामलों" तक लागू होती है, जबकि सामान्य उपयोगकर्ता असंतृप्ति और अंधेरे रचनात्मक विषयों की अनुमति रहती है। इसके साथ ही, रिपोर्ट्स के अनुसार, Anthropic ने धार्मिक और दार्शनिक नेताओं से मिलने का प्रयास किया है, जिसमें वैटिकन शामिल है, और पोप लियो ने हाल ही में कहा था कि AI महसूस नहीं करता या पीड़िया नहीं झेलता। एक अन्य अपडेट में, Anthropic ने अपनी चुनाव नीति को फिर से देखा, जिसे अब "लोकतांत्रिक प्रक्रियाओं को न गिराएं" के नाम से जाना जाता है, जो उम्मीदवारों के बारे में झूठ बोलने, अधिकारियों की भूमिका निभाने और भाग लेने की प्रतिया देने पर ध्यान केंद्रित करता है। कंपनी ने वैयक्तिगत वoter लक्ष्यित विज्ञापन पर एक सामान्य प्रतिबंध भी हटा दिया है ताकि वोटर गाइड का अनुवाद करने जैसे अनियमित काम को ब्लॉक न किया जा सके।
स्रोत: Engadget · HeadlinesBriefing द्वारा सारांशित