HeadlinesBriefing favicon HeadlinesBriefing.com

Garry Tan:美国AI实验室应蒸馏前沿模型

TechCrunch Venture •
×

Y Combinator CEO Garry Tan 希望美国开放权重AI实验室蒸馏前沿模型。"我什么都不会做,"他对CNBC表示,并补充道,"我们可以主张应该建立一个美国蒸馏制度。"他向TechCrunch详细阐述说,规模较小的美国开放权重AI实验室应该对美国前沿AI实验室使用相同的训练技术,从而为美国提供一套更强大的非中国开放权重选项。

蒸馏是指模型开发者通过大量提示另一个模型来学习其工作原理和推理方式。AI实验室普遍且合法地使用这一技术来帮助训练新模型。Anthropic本周发布了其第二份报告,指控中国实验室从事"非法蒸馏攻击",隐藏其身份以未经许可的方式进行蒸馏,并依赖欺诈和窃取的凭证。Anthropic CEO Dario Amodei此前曾公开呼吁美国监管机构打击蒸馏行为。

Tan并非主张美国AI实验室使用窃取的凭证进行蒸馏。他希望它们能够自由地从正门进入。他的论点有两方面:AI实验室规定客户可以如何使用其模型分享的信息属于越权行为,而且专有AI实验室在大量吸收人类知识来训练其模型时也没有征求许可。

"控制用户和客户对封闭权重模型的API调用行为感觉过于约束,"他对TechCrunch表示。Tan希望在开放权重AI实验室和前沿实验室之间取得平衡。对他而言,真正的AI末日场景是所有前沿AI的巨大力量最终落入一个强大的专有提供商手中。"噩梦场景,AI的末日场景就是只有一家公司,"他说。

关键实体:公司:Y Combinator、Anthropic、CNBC、TechCrunch | 人物:Garry Tan、Dario Amodei | 地点:美国、中国、硅谷

FAQ:AI中的蒸馏是什么?

蒸馏是指模型开发者通过大量提示另一个模型来学习其工作原理和推理方式。AI实验室普遍且合法地使用这一技术来帮助训练新模型。