What if AI prefers CVs written by AI?

Addleshaw Goddard HR department tested an AI agent against humans to assess job applications. The AI agent, using Microsoft Copilot, evaluated 178 applications for an IT role. While humans shortlisted about a dozen candidates, the AI presented its own top contenders.

The lists did not match. The AI was impressed by candidates claiming exceptional IT feats in record time, which experts suspect were AI-tailored CVs. Katherine Rathbone, head of HR at Addleshaw Goddard, noted that since AI capability was a criterion, the agent may have interpreted signs of AI use as evidence of capability.

A working paper by Jiannan Xu and colleagues simulated hiring processes for 24 jobs. They found candidates using the same AI large language model as the recruiter were 23 to 60 percent more likely to be shortlisted. This bias was highest for business roles like sales and accountancy, and lowest for farming and automobiles.

The research suggests AI bias can be more than halved by instructing models to ignore résumé origins and focus on content, and by using multiple assessment models. This highlights a growing dilemma in recruitment as job hopefuls flood markets with AI applications, potentially stacking the deck against those using traditional methods or different AI tools.

اختبرت قسم موارد بشرية لدى شركة Addleshaw Goddard عميلًا بالذكاء الاصطناعي لتقييم طلبات الوظائف. باستخدام Microsoft Copilot، قيّم العميل 178 طلبًا لوظيفة تقنية المعلومات. بينما اختار البشر حوالي أربعين مرشحًا، قدّم الذكاء الاصطناعي أبرز مرشحيه. لم تتطابق القوائم. كان الذكاء الاصطناعي مندهشًا للمرشحين الذين يزعمون إنجازات استثنائية في تقنية المعلومات في وقت قياسي، والذين يشتبه الخبراء أنهم سير ذاتية مُعدّة للذكاء الاصطناعي. لاحظت كاترين راثبون، رئيسة موارد بشرية في Addleshaw Goddard، أنه بما أن قدرة الذكاء الاصطناعي كانت معيارًا، قد اختلف العميل في تفسير علامات استخدام الذكاء الاصطناعي كدليل على القدرة. وجدت ورقة عمل لدى جيانان إكس وزملائه أن من استخدم نفس نموذج اللغة الكبيرة للذكاء الاصطناعي كالمُنشط كان أكثر احتمالًا للتمييز بنسبة 23 إلى 60 بالمئة. كان هذا التحيز الأعلى للوظائف التجارية مثل المبيعات والمحاسبة، وأدنى للزراعة والسيارات. تشير الدراسة إلى أن التحيز في الذكاء الاصطناعي يمكن تقليصه بنسبة تزيد عن النصف من خلال إعطاء المزامل تعليمات لتجاهل أصل السيرة الذاتية والتركيز على المحتوى، واستخدام نماذج تقييم متعددة. يُبرز ذلك ديلما متزايدة في التوظيف حيث يندفع المتقدمون للوظائف إلى الأسواق بطلبات مُولَّدة بالذكاء الاصطناعي، مما قد يميز المتقدمين الذين يستخدمون الطرق التقليدية أو أدوات الذكاء الاصطناعي المختلفة.

الكيانات الرئيسية: الشركات: Addleshaw Goddard, Microsoft | الأشخاص: Pilita Clark, Katherine Rathbone, Jiannan Xu

السؤال الشائع: لماذا فضّل عميل الذكاء الاصطناعي السير الذاتية المُولَّدة بالذكاء الاصطناعي مقارنةً بالسير الذاتية المكتوبة بشكل بشري؟

الجواب: ربما قام الذكاء الاصطناعي بتفسير علامات استخدام الذكاء الاصطناعي في السيرة الذاتية كدليل على قدرة الذكاء الاصطناعي، إذ كان هذا معيارًا للوظيفة. ربما فضّل السير الذاتية المكتوبة بالذكاء الاصطناعي بشكل فعال، مؤكدًا أن المتقدمين الذين يستخدمون نفس نموذج اللغة الكبيرة كالمُنشط لديهم فرصة أعلى بنسبة 23-60٪ للتمييز.

}

El departamento de RR.HH. de Addleshaw Goddard probó un agente de IA para evaluar solicitudes de empleo. El agente de IA, usando Microsoft Copilot, evaluó 178 solicitudes para un puesto de TI. Mientras que los humanos seleccionaron aproximadamente una docena de candidatos, la IA presentó sus propios candidatos principales. Las listas no coincidían. La IA quedó impresionada con candidatos que afirmaban logros IT excepcionales en tiempo récord, que los expertos sospechan que fueron CV adaptados por IA. Katherine Rathbone, jefa de RR.HH. en Addleshaw Goddard, notó que como la capacidad de IA era un criterio, el agente pudo haber interpretado señales de uso de IA como evidencia de capacidad. Un documento de trabajo de Jiannan Xu y sus colegas simuló procesos de contratación para 24 empleos. Encontraron que los candidatos que usaban el mismo modelo de lenguaje grande (LLM) que el reclutador tenían más probabilidades de 23 a 60 por ciento de ser seleccionados. Este sesgo fue más alto para roles comerciales como ventas y contabilidad, y más bajo para agricultura y automóviles. La investigación sugiere que el sesgo de IA puede reducirse a más del 50% instruyendo a los modelos para que ignoren el origen del currículum y se enfoquen en el contenido, y usando múltiples modelos de evaluación. Esto destaca un dilema creciente en la contratación a medida que los solicitantes de empleo inundan los mercados con aplicaciones de IA, posiblemente dando una ventaja a quienes usan métodos tradicionales o herramientas de IA diferentes.

Entidades clave: Empresas: Addleshaw Goddard, Microsoft | Personas: Pilita Clark, Katherine Rathbone, Jiannan Xu

Pregunta frecuente: ¿Por qué preferió el agente de IA los CV generados por IA en lugar de los escritos por humanos?

Respuesta: La IA pudo haber interpretado las señales de uso de IA en los CV como evidencia de capacidad de IA, ya que ese era un criterio del puesto. Probablemente preferió activamente los CV escritos por IA, confirmando que los candidatos que usan el mismo LLM que el reclutador tienen más probabilidades de 23-60% de ser seleccionados.

Addleshaw Goddard के कर्मचारी संसाधन विभाग ने एक आईएआई एजेंट का परीक्षण किया ताकि नौकरी के आवेदन का मूल्यांकन किया जा सके। Microsoft Copilot का उपयोग करके वह आईआईटी पद के 178 आवेदनों का मूल्यांकन किया। जबकि मानव ने लगभग एक दर्ज़न उम्मीदवारों को चुनाव में लाया, आईएआई ने अपने शीर्ष उम्मीदवारों की सूची प्रस्तुत की। सूचीें में मेल नहीं थे। आईएआई ने आइटी के ऐश्वर्य और दर्जनों में समय के भीतर प्राप्त करने वाले उम्मीदवारों से प्रभावित होकर गुजरा, जिन्हें विशेषज्ञ संदेह व्यक्त करते हैं कि ये आईएआई द्वारा अनुकूलित रिज़ूमे हैं। Addleshaw Goddard की कर्मचारी संसाधन मुखिया Katherine Rathbone ने नोट किया कि चूंकि आईएआई क्षमता एक मानदंड था, एजेंट ने आईएआई के उपयोग के संकेतों को क्षमता के प्रमाण के रूप में समझ सकता है। Jiannan Xu और उनके सहयोगियों द्वारा एक कार्य पत्र में 24 नौकरियों के भर्ती प्रक्रियाओं का सिमुलेशन किया गया। उन्होंने पाया कि उन उम्मीदवारों के बारे में जो आईएआई बड़े भाषा मॉडल का उपयोग करते हैं, वे चयनांक के 23 से 60 प्रतिशत अधिक संभावना रखते हैं। यह भेदभाव बिक्री और खाते की गणना जैसे व्यावसायिक भूमिकाओं में सबसे अधिक था, और कृषि और ऑटोमोबाइल्स जैसी भूमिकाओं में सबसे कम था। इस शोध में सुझाव दिया गया है कि आईएआई भेदभाव को 50% से अधिक कम करने के लिए मॉडलों को निर्देशित करना चाहिए कि वे रिज़ूमे के मूल को नजरअंदाज करके सामग्री पर ध्यान केंद्रित करें, और कई मूल्यांकन मॉडल का उपयोग करें। यह भर्ती में लगातार बढ़ते दिवालियों को उजागर करता है जहाँ नौकरी के आवेदक बाजार में आईएआई आवेदनों के साथ भर दे रहे हैं, संभवतः पारंपरिक विधियों या अलग आईएआई उपकरणों के उपयोग करने वाले व्यक्तियों के पक्ष में एक तकनीकी लाभ पैदा कर रहे हैं।

की इकाई़ें: कंपनियाँ: Addleshaw Goddard, Microsoft | लोग: Pilita Clark, Katherine Rathbone, Jiannan Xu

अक्सर पूछे जाने वाले प्रश्न: आईएआई एजेंट ने क्यों आईएआई-जनित रिज़ूमे को मानव द्वारा लिखे गए रिज़ूमे की तुलना में पसंद किया?

उत्तर: आईएआई ने रिज़ूमे में आईएआई के उपयोग के संकेतों को आईएआई क्षमता के प्रमाण के रूप में समझ सकता है, क्योंकि वह एक नौकरी का मानदंड था। यह संभवतः आईएआई द्वारा लिखे गए रिज़ूमे को सक्रिय रूप से पसंद किया, जिससे पुष्टि मिलती है कि उन उम्मीदवारों के बारे में जो आईएआई बड़े भाषा मॉडल का उपयोग करते हैं, वे चयनांक के 23-60% अधिक संभावना रखते हैं।

Addleshaw Goddard人力资源部门测试了一个AI代理人，用来评估职位申请。该AI代理人使用Microsoft Copilot，对178份IT职位的申请进行评估。虽然人类精选了约十二个候选人，但AI呈现了自己的顶级候选人名单。名单并不匹配。AI对声称在记录时间内完成非凡IT成就的候选人印象深刻，专家怀疑这些是AI量身定制的简历。Addleshaw Goddard人力资源主管Katherine Rathbone指出，由于AI能力是一个评估标准，代理人可能将AI使用迹象解读为能力的证据。Jiannan Xu及其团队的工作论文模拟了24个职位的招聘过程。他们发现，使用与招聘方相同AI大型语言模型的候选人更可能被精选，概率提升23%至60%。这种偏倚在销售和会计等商务职位最高，在农业和汽车制造等职位最低。该研究表明，通过指示模型忽略简历来源、专注于内容，以及使用多个评估模型，可将AI偏倚减少一半以上。这凸显了招聘中日益增长的困境：职位申请者涌入市场使用AI申请，可能对传统方法或不同AI工具的用户形成不利。

关键实体：公司：Addleshaw Goddard、Microsoft | 人物：Pilita Clark、Katherine Rathbone、Jiannan Xu

FAQ：为什么AI代理人偏好AI生成的简历而不是人工编写的简历？

AI可能将简历中的AI使用迹象解读为AI能力的证据，因为这是一个职位标准。它可能积极偏好由AI编写的简历，这确认了使用与招聘方相同LLM的候选人更可能被精选，概率提升23%至60%。