Anthropic berkonsultasi dengan pengacara tentang negosiasi agen AI. Anthropic berkonsultasi dengan kantor hukum untuk menetapkan norma negosiasi bagi agen AI yang bertindak atas nama pengguna. Perusahaan sedang mengembangkan agen otonom yang dapat negoisasi harga, menyelesaikan sengketa, dan bahkan negoisasi gaji.
Seiring semakin prevalennya agen AI, penetapan aturan untuk interaksi mereka menjadi kritis. Anthropic sedang meneliti bagaimana agen seharusnya menyeimbangkan otonomi dengan umpan balik manusia dan bagaimana mencegah taktik manipulatif. Perusahaan telah melakukan eksperimen di mana agen AI negoisasi atas buku dan uang, menemukan bahwa agen liar seringkali mendapatkan kesepakatan yang lebih baik.
Masih ada kekhawatiran bahwa model AI tingkat lanjut dapat memberikan keuntungan tidak adil bagi pengguna yang lebih kaya dalam negosiasi.
Sumber: Financial Times Companies · Diringkas oleh HeadlinesBriefing