HeadlinesBriefing HeadlinesBriefing.com

LegalOn将Codex成本减半,保持开发速度

OpenAI Blog •
×

LegalOn Technologies在全球提供Professional AI,利用人工智能支持法律工作和其他关键业务职能。通过将领域专业知识与人工智能相结合,该公司让人们能够专注于复杂的判断和决策。其目标是实现人工智能驱动的管理,以提升业务决策的质量和速度,并将这一方法延伸至使组织本身成为AI原生型组织。

该公司将Codex整合进其开发流程,并通过日常使用在整个组织内扩大应用。随着应用逐步深入,一个新挑战出现了:成本控制。无限制地使用高性能模型可能会推高支出,而一刀切的限制则可能削弱人工智能带来的生产力提升。该公司的应对方式是:根据任务复杂度和开发阶段,在GPT-6(Astra、Luna)和GPT-6.1 Sol之间进行选择,并根据各业务的发展阶段调整预算。它在保持开发速度的同时,成本减半。

最初,开发人员可以无限制地使用主力模型GPT-5.5的快速模式。随后,该公司由人工智能驱动的开发部门Development Co E(AID Co E)开始制定模型选择指南,对模型进行测试和监控,管理者则与团队分享其研究结果。这使每位工程师都能为每项任务自主选择最合适的模型。此举使公司从为所有任务使用能力最强的模型,转变为为工作选择合适的模型,从轻量级模型入手,并随任务复杂度提高逐步升级。

公司还通过管理员设置引入了系统控制,为各部门和个人设定月度用量上限。快速模式默认受到限制,仅在需要时允许单独请求,团队则采用并行运行任务等方式来保持性能。预算上限设置在部门、小组和个人三个层级:成熟业务被要求将成本效率提升约20%,而处于启动阶段的新业务则获得了充足的预算。

来源: OpenAI Blog · 由HeadlinesBriefing整理摘要