Bingdada 技术博客Bingdada 技术博客
首页
博客
SEOGEOAEOAI
工具关于
登录注册
Logo

Bingdada 技术博客

专注于SEO搜索引擎优化和GEO生成式引擎优化以及未来人工智能发展趋势的技术博客

快速链接

  • 首页
  • 博客文章
  • 关于我们

联系方式

  • 398848662@qq.com

订阅我们的 Newsletter,获取最新的 SEO 和 GEO 技术资讯。

© 2024 Bingdada 技术博客. All rights reserved.

苏ICP备2026080046号

首页博客AI人工智能从无限用大模型到按需调度:LegalOn 如何把 Codex 日成本压降 65%
从无限用大模型到按需调度:LegalOn 如何把 Codex 日成本压降 65%
AI人工智能

从无限用大模型到按需调度:LegalOn 如何把 Codex 日成本压降 65%

bingdadabingdada
十月 13, 20264 次阅读约 6 分钟阅读
快速回答

LegalOn 通过按任务复杂度在 GPT-6 Astra、GPT-6.1 Sol 和 GPT-6 Luna 之间分层选择模型,默认关闭 Fast 模式并为部门、小组、个人设置三级预算上限,把 Codex 预估日成本降低约 65%,同时维持了开发速度。

核心要点
  • 成本失控的根源是「所有任务都用最强模型」,而非 AI 本身太贵。
  • 按任务复杂度分层选模型,是降本同时保速度的核心手段。
  • 默认关闭 Fast 模式、按需申请,配合并行任务可平滑过渡。
  • 预算分级让成熟业务提效约 20%,新业务则放开使用。
  • 降本之后,真正要回答的是开发加速能否转化为客户价值。
目录

目录

  • 问题的起点:无限使用带来的账单压力
  • 核心逻辑:让模型能力与任务复杂度对齐
  • 预算分级:成熟业务提效,新业务放开用
  • 成效与下一步:成本降下来之后看什么
  • 常见问题
  • LegalOn 是如何把 Codex 成本降低 65% 的?
  • 限制 Fast 模式会影响开发速度吗?
  • 三个模型分别适合什么任务?
  • 新业务和成熟业务的预算策略有何不同?
  • 国内团队可以借鉴什么?
  • 关于 Bingdada

当越来越多团队把 AI 编码助手纳入日常开发流程后,一个容易被忽视的问题浮出水面:能力越强的模型,越容易让预算失控。日本法律科技公司 LegalOn Technologies 的做法提供了一个可复用的样本——它并没有简单地限制使用,而是通过模型分层、功能管控与预算分级三件事,把预估日成本降低了约 65%,同时没有牺牲开发节奏。

问题的起点:无限使用带来的账单压力

LegalOn 的核心业务是面向全球提供法律领域 AI 服务,将领域知识与模型能力结合,帮助法律从业者把精力集中在复杂判断上。这种「AI 优先」的思路不仅体现在产品里,也延伸到了组织自身:公司把 Codex 引入开发流程,并逐步扩展到设计、实现和日常事务中。

最初的做法相当直接——开发者可以无限制使用当时的主力模型 GPT‑5.5 的 Fast 模式。团队通过大量实验,摸索人与 AI 之间该如何分工。但无限使用高性能模型几乎必然突破年度预算,这促使公司内部的 AI 驱动开发卓越中心(AID CoE)开始制定模型选择规范:由 CoE 负责测试与监控,管理者把结论同步给团队,最终让每位工程师能够独立判断某个任务该用哪个模型。

核心逻辑:让模型能力与任务复杂度对齐

新的规范改变了「所有任务都用最强模型」的默认习惯,转而从轻量模型起步,随着任务复杂度上升再切换。为了配合治理,公司还通过管理员设置引入系统级管控,为部门和个人设定月度用量上限,由 AID CoE 根据业务需要动态调整。

内部测试让选择标准逐渐清晰:

  • GPT‑6 Luna:最轻量,承担需求明确的代码实现、日常自动化,以及相对简单的分析与委派任务,通常以子代理形式运行。
  • GPT‑6.1 Sol:面向标准设计与分析,包括相对简单的软件设计、常规数值分析和文档撰写,以及那些希望比 Luna 更快完成的任务。
  • GPT‑6 Astra:能力最强,负责复杂分析、架构设计、复杂文档创建,以及作为编排者协调多个代理。

与此同时,公司默认关闭 Fast 模式,只在确有需要时逐次申请。这一改动一度引发对开发速度的担忧,但团队通过并行执行任务等方式维持了整体产出,实现平滑过渡。

预算分级:成熟业务提效,新业务放开用

在模型选择和功能限制之外,LegalOn 还引入了部门、小组、个人三级 AI 支出上限。已成熟的 LegalOn 业务被要求把成本效率提升约 20%,而处于启动阶段的新业务则获得相对宽松的预算,鼓励积极使用 AI。

高级工程经理 Yuta Tokitake 解释,新业务优先考虑的是业务速度而非成本效率——目标是用足 AI 提升产出,最终推动业务增长。这三项措施叠加后,相比使用 GPT‑5.5 的时期,预估日成本下降约 65%,整体预算保持可控,资源也能向公司希望重点发展的方向倾斜。

成效与下一步:成本降下来之后看什么

从结果看,模型优化与资源分配带来了几项变化:从「每个任务都用最强模型」转向按复杂度与开发阶段在 Astra、Sol、Luna 之间选择;默认限制 Fast 模式后,借助并行任务等团队实践,开发表现依然维持;预算上限让成熟业务效率提升约 20%,同时保证新业务的投入。

但 LegalOn 并没有止步于成本数字。团队更关心的是:开发变快,是否等于 AI 投资成功?从开发到发布的周期确实在缩短,但「更快」与「客户价值」之间的因果关系仍不清晰。Tokitake 的观点是,AI 加速系统开发和更新几乎已是既定事实,真正需要回答的是这种加速是否转化成了可衡量的业务回报。

这种「先算清 ROI 再扩张」的思路,对国内团队同样有参考意义。目前国内主流方案如文心一言、通义千问、DeepSeek、豆包、Kimi、智谱 GLM 等,在编码辅助场景中大多也提供多档模型或不同参数规模,价格梯度明显。差异在于,海外团队更倾向通过管理员后台做细粒度的用量配额与模型路由,而国内不少团队仍停留在「统一开通、统一计费」阶段,成本归因相对粗放。对于把 AI 编码纳入生产流程的企业来说,参考 OpenAI 官方文档中关于模型选择与用量管理的说明,并结合 ISO/IEC 42001 等 AI 管理体系标准建立内部规范,会比单纯限制使用更可持续。

一句话总结:成本控制的关键不是少用 AI,而是让合适的模型做合适的事,并让预算跟着业务阶段走。

常见问题

LegalOn 是如何把 Codex 成本降低 65% 的?

主要通过三件事:按任务复杂度在 GPT‑6 Astra、GPT‑6.1 Sol、GPT‑6 Luna 之间分层选择模型;默认关闭 Fast 模式、按需申请;以及为部门、小组、个人设置三级预算上限,并对成熟业务与新业务区别对待。

限制 Fast 模式会影响开发速度吗?

初期确有担忧,但团队通过并行执行任务等方式维持了整体产出,开发表现并未明显下降,实现了平滑过渡。

三个模型分别适合什么任务?

Luna 负责需求明确的代码实现和简单分析;Sol 负责标准设计、常规数值分析与文档撰写;Astra 负责复杂分析、架构设计与多代理编排。

新业务和成熟业务的预算策略有何不同?

成熟业务被要求提升约 20% 的成本效率,新业务则获得宽松预算以鼓励积极使用 AI,优先保证业务速度。

国内团队可以借鉴什么?

可以借鉴「模型分层 + 用量配额 + 预算分级」的组合思路,并借助国内多档模型的价格梯度,把成本归因细化到团队与个人层面。

关于 Bingdada

Bingdada 是一个专注 SEO、GEO(生成式引擎优化)与 AEO(答案引擎优化)的内容平台,由资深内容编辑、SEO 技术工程师与 AI 研究专家组成的团队持续运营。我们追踪搜索引擎与生成式 AI 的最新动态,为读者提供准确、实用、可落地的方法论与行业洞察。

编辑团队:内容策划 · 技术编辑 · AI 研究组
网站:bingdada.com

© 2026 Bingdada. 保留所有权利。

目录

  • 问题的起点:无限使用带来的账单压力
  • 核心逻辑:让模型能力与任务复杂度对齐
  • 预算分级:成熟业务提效,新业务放开用
  • 成效与下一步:成本降下来之后看什么
  • 常见问题
  • LegalOn 是如何把 Codex 成本降低 65% 的?
  • 限制 Fast 模式会影响开发速度吗?
  • 三个模型分别适合什么任务?
  • 新业务和成熟业务的预算策略有何不同?
  • 国内团队可以借鉴什么?
  • 关于 Bingdada
常见问题
黄金广告位 · 限时招商
广告位招商中

把品牌放进读者的阅读流

文章内广告位,高注意力场景,适合新品发布与活动招募。

商务合作

标签

#OpenAI News#Codex 成本优化#模型分层调度#AI 编码预算管理#LegalOn 案例
bingdada

bingdada

SEO & GEO 技术探索者,专注于搜索引擎优化和生成式引擎优化。

相关文章

当法律团队拥有「AI 知识底座」:AT&T 与 OpenAI 合作背后的企业法务变革
AI人工智能

当法律团队拥有「AI 知识底座」:AT&T 与 OpenAI 合作背后的企业法务变革

AT&T 与 OpenAI 的合作揭示企业法务 AI 的新思路:不是替代律师,而是构建贯穿组织的知识层,用自然语言受理系统提升需求处理效率,让专业判断规模化。

10月 22约 7 分钟阅读
从菜单定价到现金对账:一位连锁餐饮加盟商用ChatGPT Work把月度核账压缩到10分钟
AI人工智能

从菜单定价到现金对账:一位连锁餐饮加盟商用ChatGPT Work把月度核账压缩到10分钟

一位经营三家联合品牌快餐店的加盟商,用ChatGPT Work把菜单重定价从5天压到2小时、月度现金对账从3小时缩到10分钟,并探索排班优化释放现金流的路径。

10月 21约 6 分钟阅读
低资源编程语言迎来AI拐点:COBOL、Fortran现代化改造的技术突破与产业影响
AI人工智能

低资源编程语言迎来AI拐点:COBOL、Fortran现代化改造的技术突破与产业影响

AI编程能力正从主流语言向COBOL、Fortran等低资源语言延伸。最新评估显示模型在跨语言构建与行为保真迁移上大幅进步,成本同步下降,为关键基础设施的现代化改造提供了新选项。

10月 20约 6 分钟阅读

订阅我们的 Newsletter

获取最新的 SEO 与 GEO 技术资讯。

我们尊重您的隐私,随时可以取消订阅。

评论 ({count}) (0)

登录后即可参与讨论

登录注册
还没有评论,来抢沙发吧