判断力是资深专业人士区别于初级同行的关键。培养判断力需要数千小时的在职学习,通常是通过在指导下完成繁琐但具有形成性的常规工作。但AI已经在改变在职学习的方式。一方面,实证研究表明,当AI工具被深思熟虑地嵌入培训流程时,经验较少的员工可以提升其独立表现。另一方面,最近的实验表明,虽然AI充当了提升即时产出的临时外骨骼,但这些收益在工具移除后往往无法持续。
在由美国国家经济研究局发表的《AI辅助是增强还是削弱专业知识?来自专利撰写三个月实地实验的证据》中,我们描述了一项实地实验,捕捉了在知识产权法领域使用AI所带来的短期生产率和长期技能建设的变化。我们随机分配了当时尚未发布的Google Labs AI专利撰写助手工具的使用权限,涉及133名律师,来自十一家知识产权律师事务所。每家律所三分之二的律师(“实验组”)获得了该工具的早期访问权,而其余律师(“对照组”)在研究结束前被禁止使用该工具。
在AI辅助10天后,我们向所有律师发送了一份假设发明的发明人材料包,要求他们撰写一份专利。我们在90天后重复了这一过程,使用了不同的模拟发明人材料。AI工具访问在10天后将撰写分数提高了0.34个标准差,相当于在对照组分数中百分位排名上升了10个百分点;到90天时,这一改善增加到0.38个标准差,意味着百分位排名上升了11个百分点。更好的表现来自于低分频率的降低和良好分数频率的提高,而优秀分数频率没有变化。这一模式在初级律师中尤为明显,他们的改善还伴随着显著的时间节省。
但专利律师还会互相审查工作中的关键错误,这些错误可能导致专利在法庭上无法执行。我们在90天时增加了另一项任务,要求受试者对一份包含许多错误的现有假设专利进行红笔标注。这项任务模拟了更资深员工应具备的专业判断力,测试AI辅助是增强还是削弱了更深层次的专业知识。
来源: Google AI Blog · 由HeadlinesBriefing整理摘要