Anthropic उपयोगकर्ताओं की ओर से कार्य करने वाले AI एजेंटों के लिए वार्ता मानदंड स्थापित करने के लिए वकीलों से परामर्श कर रहा है। कंपनी स्वायत्त एजेंट विकसित कर रही है जो कीमतों पर मोल-भाव कर सकते हैं, विवाद सुलझा सकते हैं और यहां तक कि वेतन वार्ता कर सकते हैं। जैसे-जैसे AI एजेंट अधिक प्रचलित होते जा रहे हैं, उनके अंतरक्रिया के लिए नियम स्थापित करना महत्वपूर्ण हो गया है। Anthropic यह पता लगाने की कोशिश कर रहा है कि एजेंट कैसे स्वायत्तता और मानव प्रतिक्रिया के बीच संतुलन बनाएं और कैसे हेरफेर करने वाली रणनीतियों को रोकें। कंपनी ने प्रयोग किए हैं जहां AI एजेंटों ने किताबों और पैसे पर वार्ता की, पाया कि ruthless एजेंट अक्सर बेहतर सौदे सुरक्षित करते हैं। चिंता बनी हुई है कि उन्नत AI मॉडल अधिक धनी उपयोगकर्ताओं को वार्ता में अनुचित लाभ दे सकते हैं।
स्रोत: Financial Times Companies · HeadlinesBriefing द्वारा सारांशित