token-saver / README.zh-CN.md
LucioLiu's picture
Repoint all links to GitLab; banner now says two mirrors, not three
574d292 verified
|
Raw
History Blame Contribute Delete
6.8 kB

English | 简体中文

token-saver · 子代理模型自主分配 💰

别让高成本能力去做扫描和搬运,也别让不够用的能力承担关键判断。

不同用户、账号和 agent 工具能调用的模型都不一样,而且会持续变化。token-saver 不维护厂商排行榜,也不保存具体型号;它教发起任务的 agent 根据任务强度和当前实际可用能力自行选择。

诚实定位:这是一份路由纪律(routing guideline)——教 agent 怎么选、怎么如实记录,靠 agent 遵守生效;它不包含候选枚举器、dispatcher、宿主日志验证器或自动计量器。ROUTE_DECISION 记录格式与字段语义见 references/route-decision.md,运行能力须由当前 Harness 的 adapter/tool 提供。主文之外的细则放在 references/,按需读取以控制注入开销。

核心机制

  • 敏感度先行闸:按 PUBLIC/INTERNAL/CONFIDENTIAL/RESTRICTED 给数据定级,先过滤允许接触的模型与供应商,再谈能力与成本——不能先选便宜的再问它能不能看数据。
  • 任务强度意图:轻量执行、常规工作、深度判断、关键复核;它们描述任务,不绑定型号。判档用五维度校验(不确定性/错误成本/可验证性/上下文复杂度/副作用),不按任务名称直觉分档。
  • 自主选择:从当前工具真正允许的选项中,选择足以稳定完成任务的合适模型。
  • 三态执行:支持显式参数时用 EXPLICIT;通过预建 worker 时用 PRESET;调用面不能选时用 INHERIT_ONLY
  • 诚实降级:继承默认模型不算失败,但不得声称已经按档位路由。
  • 混合任务拆段:执行段和判断段分开派,减少高成本上下文占用。
  • 级联升级:产出可机检(测试/schema/编译)且首跑可隔离、幂等或可完全回滚的任务,可先降一档跑、验证不过升档重跑一次;发消息/动数据库/部署/批量删改等不可逆副作用任务、关键复核档与不可机检任务禁止级联——防「低档挖坑、高档填坑」。
  • 成本回流:宿主暴露用量数据时回流实耗,作为本次会话内选档参照;不可见不编造,不跨会话沉淀成型号排名或价格表。
  • ROUTE_DECISION 派单记录:每次路由落一条结构化记录(档位/敏感度/模式/所选模型/级联计划/验真状态),让路由可审计,也是未来执行层的输入契约。
  • 质量护栏(验证器三分):确定性验证器(编译/测试/schema)不是模型、无强弱之说;语义审查者不明显弱于生成方;高风险裁决必须主代理或人工。关键结果无人复核时不选偏弱选项。
  • 运行后验真:需要时从当前平台宿主日志或运行元数据确认,不信模型自报,不写死日志路径。

安装

方式一 · git clone(可更新)

git clone https://gitlab.com/LucioLiu/token-saver ~/.claude/skills/token-saver

方式二 · 手动:把 SKILL.md 拷到你的 agent 工具所支持的用户级 skills 目录。中文用户请拷贝 SKILL.zh-CN.md 并在本地重命名为 SKILL.md

配套积木

实测数据(2026-07 · v1.4 评测)

30 题评测集(机械 10 / 常规 10 / 判断 5 / 混合 5)× 3 派单策略,单一 agent 工具环境、EXPLICIT 模式实测;判分器经独立双向对抗复核(30 个错误答案全部正确判 FAIL、9 个合理措辞变体零误杀)后冻结:

策略 成功率 相对成本
全部继承主会话强模型 96.7% 1.00×
全部固定中档模型 96.7% 0.34×
token-saver 动态路由(按四档强度分派低/中/高档) 89.0%(3 次跑批均值) 0.30×

诚实读法:

  • 动态路由相对「主会话强模型直接派」省约 70% 成本——这是本 skill 场景假设下的真实收益。
  • 在本任务组合上「固定中档」性价比最优:同等成功率、约 1/3 成本;动态路由只再省 12% 却损失 7.7 个百分点。任务组合越偏机械批量,路由收益越大;越偏均质常规任务,固定中档越占优。
  • 路由的失分高度集中:全部来自低档模型在可机检计数任务上的 off-by-one——正是「级联升级」(先轻量跑、验证不过升档重跑)的目标场景,本轮评测未启用级联。判断类任务上路由零质量损失(强档 15/15)。

边界:单平台单轮(动态路由 n=3,其余 n=1,存在方差);路由判档为按本 skill 五维度预标(纪律的理想执行),agent 自主判档准确率是另一层问题,未测;INHERIT_ONLY/PRESET 场景未覆盖;成本为 API 牌价相对值。评测集与判分器构建方法见仓库 issue 区或来源项目。

版本与更新

当前版本 1.4.0(见 .claude-plugin/plugin.json)。

  • 1.2.0:移除厂商、具体模型名、固定价格倍率与固定日志路径,改为由当前 agent 基于实际可用能力自主选择。
  • 1.3.0:新增级联升级与成本回流,支持与既有语义档别名(fast/balanced/deep/critical 等)就近映射。
  • 1.4.0(外部评审驱动):新增敏感度先行闸(先过滤允许的模型再选档)、五维度判档(替代按任务名称直觉分档)、级联前置硬条件(隔离/幂等/可回滚,不可逆副作用禁级联)、ROUTE_DECISION 结构化派单记录、验证器三分(确定性/语义/裁决);主文瘦身,细则拆入 references/ 按需读取。

来自 Nuwa 数字员工体系的能力积木架。

验证边界

离线契约测试入口、它校验的 component manifest 与 ROUTE_DECISION/policy schema,以及 SK-TS-P-001 / SK-TS-N-001 case bundle 尚未在本仓发布——别指望你装到的副本里有 testsschemas 目录。在它们发布前,字段契约见 references/route-decision.md。这里没有任何东西被标为"语义路由行为已通过":那些用例在独立 agent 实跑并留下回执之前,一律保持 not-run

License

PolyForm Noncommercial 1.0.0 — 个人与非商业使用免费。


中英文双版同步维护;如有出入,以中文版为准——发现不一致请开 issue