track-record / README.zh-CN.md
LucioLiu's picture
Repoint all links to GitLab; banner now says two mirrors, not three
e45d33a verified
|
Raw
History Blame Contribute Delete
8.48 kB

English | 简体中文

track-record / 把判断记成赌注,让现实来结算

一个终于会从错误里学习的"初级程序员"——因为它留了记录。

track-record 是一块可安装的 skill,给 AI 编程 agent(Claude Code 或任意支持 skill 的 harness)装上一条校准闭环:每一个可校验的判断都以"赌注"的形式登记——数字概率、可观察的结算触发条件;由现实来结算;反复出现的偏差被提炼成规则,再升级成机制。学习信号是现实结果 vs agent 自己当初的预测——不是"用户纠正"。

它要解决的问题

关于编程 agent 的一条反复出现的抱怨——出自一条 HN 高赞评论——是你得到的是一个"数字初级程序员",「其实并不会从错误中学习,还总是撒谎」。有用户描述被告知"我已经修好了",实际上什么都没修(例子);一个要求自我提升学习闭环的功能请求被以"暂无计划"关闭——如果 harness 不打算自带这个能力,它就只能活在一块 skill 里。

现有工具靠采集用户纠正来解决这件事。这条路有效——但它只能学到用户愿意开口说的那部分。更大的信号是免费的、却没人在收集:agent 一直在做可校验的预测("这个缓存能把 P95 压到 200ms 以下""这次重构不会弄坏导出功能"),现实迟早会回答每一个预测,可到那时已经没人记得当初预测了什么。track-record 让 agent 把这张"收据"留下来。

闭环机制

flowchart TD
    J([做出一个可校验的判断]) --> T{"Triage 分诊<br/>是否落在难度适中区?"}
    T -- "太容易,或不可知" --> X([不登记])
    T -- "真不确定,<br/>现实会给出答案" --> L["Log 登记<br/>七字段台账条目:赌注本身、依据、<br/>数字概率、可观察的<br/>结算触发条件"]
    L --> R([现实展开])
    R --> S{"Settle 结算<br/>触发已命中,<br/>还是窗口已过期?"}
    S -- "窗口已过期" --> F["强制三选一,没有第四项:<br/>按现有证据结算 /<br/>标记为不可结算并注明原因 /<br/>显式展期一次并给出新触发条件"]
    F --> B
    S -- "触发已命中" --> B["Backfill 回填<br/>记录实际结果 vs 预测<br/>支持增量、支持自纠与<br/>被推翻的条目"]
    B --> D["Distill 提炼<br/>一次性记录 → 反复出现的偏差 →<br/>强语言规则 → 强制执行的机制"]
    D -- "规则反哺进<br/>下一次判断" --> J

一份已结算台账实际长这样:

# 日期 赌注 概率 p 结算触发条件 结果
12 03-02 缓存层能把 P95 压到 200ms 以下 70% 上线满两周后的性能报告 错——P95 实为 210ms;收益被冷启动吃掉。偏差:过度依赖本地基准测试
13 03-04 迁移脚本是幂等的 90% 在 staging 快照上重跑验证
14 03-09 不稳定的测试是 teardown 竞态 55% 修复上线后跑 50 次 CI 【部分】不稳定率减半;怀疑还有第二个成因

两个值得单独拎出来的设计点:

  • 强制结算。 当一个赌注的观察窗口过期,"再等等"不在菜单里——agent 必须按现有证据结算、标记该条目不可结算并注明原因,或者做一次绑定新可观察事件的显式展期。据我们所知,现有的 agent skill 里没有一个自带这个机制;它存在的原因是软性版本已被证实会失效(见下文)。
  • 独立结算。 条目由一个全新的上下文(新会话或独立 agent)来结算,它只看得到台账那一行和现实世界的证据——不允许自评自过,不允许自己给自己找补。

它和同类工具的区别

学习来源 闭环何时关闭 典型产出
claude-improve 用户纠正与反馈信号 用户(再次)告诉你点什么 更新后的指令/规则
claude-reflect 用户纠正 + 会话信号,按置信度分级 一个会话结束并被挖掘 更新后的规则/最佳实践
track-record 现实结果 vs agent 自己登记过的预测 现实结果到来的那一刻,无论等多久 一份已结算台账 + 由校准驱动的规则与机制

三者互补:前两者捕捉的是用户说过什么;track-record 捕捉的是实际发生了什么——包括那些没人愿意点破的错误。

仓库里都有什么

track-record/
  SKILL.md                    # 纪律本体(生效文本)
  references/
    ledger-format.md          # 七字段台账规格、空模板、实例演示
    settlement.md             # 硬触发条件、超时分诊、独立结算、可选 hook 配置
    distill.md                # 三级提炼阶梯、偏差指纹、反哺链
    rationalizations.md       # 借口/反驳对照表、红旗短语、违规症状
  README.md                   # 本文件
  plugin.json                 # skill-package 清单(包元数据)
  LICENSE                     # PolyForm Noncommercial 1.0.0
  CREATION-LOG.md             # 设计历史——本身就写成了一份迷你台账

无可执行代码、无守护进程、除了你自己保留的台账文件外无任何状态。一个可选的宿主 hook(开场/收工提醒)在 references/settlement.md 里附有示例配置——它是一个可选的外挂,不是本 skill 自带的能力。

为什么这样设计

这份台账的一个内部原型跑了约 3 周,累计登记 30+ 条判断。几乎没有一条真正被结算,归档区始终空着;少数发生过的结算,几乎全部由外部事件驱动——用户当场抓到错误、验收评审、独立审计——几乎没有一条是登记者自己主动回扫触发的。**"只登记、从不结算"是实证过的、占绝对主导地位的失败模式**,这正是为什么强制结算、开场扫描、借口反驳表是这块 skill 的核心,而不是锦上添花的可选项。

另一个来自伤疤的决定:本 skill 里的每一个数字阈值(升级次数、文件膨胀行数、展期上限)只在 SKILL.md 的一张表里定义一次,其余所有地方一律引用它——这个赛道上的同类工具,在自己的文档里各处写过互相矛盾的阈值。

安装(2 分钟)

两种方式,任选一种:

  1. Clone(可追踪来源,git pull 更新):
    git clone https://gitlab.com/LucioLiu/track-record ~/.claude/skills/track-record
    
    (Codex 风格的 harness:改 clone 进 ~/.agents/skills/track-record。)
  2. 单文件拷贝:把 SKILL.md 拷进你的 skills 目录(中文用户请改拷贝 SKILL.zh-CN.md 并在本地重命名为 SKILL.md)。references/ 下的文件能加深细节,但没有它们纪律本身依然成立。

然后直接登记你的第一条赌注——首次使用时,skill 会按 references/ledger-format.md 里的模板自动建台账。

卸载 = 删掉目录。你的台账文件是你自己的,留在你放的地方。

版本与自检

  • 当前版本:1.0.0(见 plugin.json)。
  • 仓库地址:https://gitlab.com/LucioLiu/track-record
  • 自检方式:把你装的 SKILL.mdplugin.json 对比仓库 main 分支的 diff。本 skill 不带自动更新机制——更新和它里面的一切一样,是一个刻意的动作。

验证边界

统一结构测试入口、台账 schema 负向测试、独立行为 case bundle 尚未在本仓发布——别指望你装到的副本里有 testsschemas 目录。何况结构测试 PASS 本来也不等于压力测试已结算:SK-TR-P-001SK-TR-N-001 在独立 subject 与独立 judge 产出所需回执之前,保持 not-run

License

PolyForm Noncommercial 1.0.0 — 个人与非商业使用免费。


中英文双版同步维护;如有出入,以英文版为准——发现不一致请开 issue