track-record / SKILL.zh-CN.md
LucioLiu's picture
Repoint all links to GitLab; banner now says two mirrors, not three
e45d33a verified
|
Raw
History Blame Contribute Delete
12.2 kB
metadata
name: track-record
description: >-
  A calibration loop for material, genuinely uncertain AI judgments whose
  outcomes can be observed later - log the bet with a numeric probability and an
  observable trigger, settle against real evidence, and distill recurring biases
  into rules. Do not trigger for deterministic/trivial claims or claims with no
  observable settlement event. Use when logging or settling a material
  prediction, running a calibration review, or when track record, prediction
  ledger, settle bets, or learning from outcomes comes up.
  中文触发:材料性判断登记、复盘、回填、结算、判断校准、校准回顾、赌局台账。

English | 简体中文

track-record:判断校准闭环纪律

下判断就登记、现实出结果就结算、偏差成型就升规则。学习信号是现实结果 vs 自己当初的判断(跨时间闭环),不是「用户纠正」——后者是另一类工具的赛道。本文是校准纪律(教下判断的 agent 怎么留痕、怎么结算、怎么把偏差变成规则),不是预测系统(不含自动结算器与统计后端)。细则按需读取 references/:台账格式 ledger-format.md、结算 settlement.md、提炼 distill.md、借口表 rationalizations.md

一句话动机:只登记不回填 = 永远在用没验证过的直觉做事。

真源与安装层

本 skill 的唯一真源是 GitHub 仓库(地址见文末「版本与更新自检」节)。平台原生发现目录只是可重建的安装镜像:Claude Code 用 ~/.claude/skills/;其他宿主装进各自的 skills 发现目录(路径因 harness 而异,装前以宿主文档或实测为准)。团队内部部署可另立内部真源目录并配镜像同步,但不在多处各维护一套正文。卸载即删目录,本 skill 不在台账文件之外留任何状态。

五环机制

环一 · Log:下判断就登记

每逢做出材料性、真不确定、且现实会回答的可校验判断——预测、选型断言、风险评估、「这样改会更好」——才在判断台账登一条。只读任务本身不授权创建台账;允许写入且首次登记时,台账文件不存在才按 references/ledger-format.md 模板建档。机器可交换的 JSON Schema 尚未在本仓发布references/ledger-format.md 描述的 Markdown 台账就是真源——人读是它,要解析的程序也认它。七个实质字段(另加行号 #):

# | 日期 | 判断/预测 | 依据 | 回填触发 | 置信与概率 | 实际结果 | 偏差提炼

硬要求五条:

  1. 依据用「赌……」句式,把可证伪点显式化:「赌热点数据集中、缓存命中率能过八成」可结算;「性能应该会好」不可。
  2. 回填触发写成可观察事件:「上线满两周看 P95 周报」「若 X 报错重现则判失败」——这是登记与结算之间的合同。写成功标准照评审 rubric 的写法:可勾验、指明证据形态、写观察目标不写操作步骤(指定具体工具会因工具不存在而静默失效)、预判捷径并显式排除。写不出可观察触发的判断,多半该在环二被排除。
  3. 附数字概率或区间,禁裸形容词:「很可能」是遮羞布,「75%」才能被打脸。初期样本少时,可统一用快反馈概率档(值见环五阈值单源表)快速攒校准数据。
  4. 标置信级 HIGH / MED / LOW:置信级在回填后绑定不同动作(分流见环五)。
  5. 提炼栏可预填两头风险:正向风险与反向风险都写,防只盯一侧翻车。

另:登记前先扫台账同类条目(outside view)——同类判断的历史命中率是基础锚,先取锚再做本例调整。

环二 · Triage:只登适中难度区

只登 Goldilocks 区间的判断:

  • 太易(几乎必然对):不登。结算不产生信息。
  • 不可知(写不出可观察回填触发):不登。登了也只会烂在待回填区。
  • 适中(有真不确定性,且现实会给出答案):登。

一条任务里多个判断 → 用判断组:一条母记录 + 子判断各自编号、各自独立结算,防「一荣俱荣一损俱损」,也压条目总数。

Triage 治的是登记过载——台账挤满不可结算的条目时,纪律死于沉没成本。注意:「太小不值得登」不是 Triage 判据(见借口反驳表)。Triage 排除本身也是预测:口头判「太易」的判断事后被现实推翻 = 自动构成一条【自纠】补登——排除出口不是逃登记的后门。

环三 · Settle:结算是硬机制,不是美德

硬触发四条,任一命中即结算对应条目:

  1. 判断对象已运行满数周;
  2. 用户对结果给出反馈(好用 / 难用 / 出错);
  3. 判断被实战暴露缺陷;
  4. 做整体复盘时。

开场硬纪律:台账置顶可见,每次开场扫一眼活账区——有超窗条目,先处置再干活。

超时强制处置(本机制无外部先例,为本 skill 原创设计):回填触发的预期窗口已过仍未结算的条目,强制三选一,没有第四项「再等等」

  1. 立即结算:按现有证据结;证据不足就把「证据不足」如实写进结果栏;
  2. 标【不可结算】并注明原因(对象已消亡 / 触发事件已不可能发生 / 标准与现实不可比对);
  3. 显式展期:上限见环五阈值单源表,且必须写出新的可观察触发事件,不许裸延期。

结算者独立:结算由非当事上下文执行(新会话 / 独立 agent),只拿台账条目与现实证据对照回填触发核对,不听当事上下文的解释——杜绝自评自过。标准与现实不可比对时标【不可结算】,不硬结。

结算证据 = 观察现实(日志 / 产物 / 既有用户反馈)。不为催结果去 ping 用户——结算是读现实,不是造现实。

可挂宿主 hook 把开场 / 收工扫描变成机械提醒(可选接法,本 skill 不自带任何 hook 或脚本),示例配置见 references/settlement.md

环四 · Backfill:回填的写法

  • 支持增量:能结的子判断先结,条目状态标【部分·日期】。状态档:【待回填】【部分·日期】【已回填】【不可结算】【自纠】。
  • 判断组分开结:子判断各自记对错,不搞整组连坐。
  • 被推翻照登:回填可以推翻自己当初的判断——被打脸的条目是全账里最值钱的条目,照登结果与教训。
  • 【自纠】条目:被用户当场逮到的错判也登,标【自纠】——出错即素材,不因羞耻漏账。
  • n=1 警示:单例得出的结论在结果栏写明样本量警示,禁止单例直接改规则(分流见环五)。
  • 可解读、可行动:只写「错了」不算回填——要写错在哪个环节、方向是高估还是低估。有反馈 ≠ 有效反馈。
  • 欠反应 / 过反应平衡:一次回填失误不推翻整条既有规则;频繁小幅更新,别大转弯。

环五 · Distill:偏差 → 规则 → 机制

三级阶梯:

  1. 孤例 = 个案记录:留在台账,不动规则文件。
  2. 同型偏差重现达升规则线(见下表)= 升规则:写成强语言规则(点名场景 + 附示例),落到所属规则文件。同型判定用偏差指纹:偏差方向 + 对象类型 + 失效机制三者一致才算同型,计数跨条目累计。
  3. 规则落地后仍被违反达升机制线(见下表)= 升机制:文字管不住的交给流程 / hook / 模板强制——用确定性执行替代自觉。

置信分流:HIGH(回填证据确凿)→ 可直接改规则;MED(模式初现)→ 记入观察区待下一例;LOW(单例 / 证据弱)→ 仅记录,禁动规则。

反哺链闭环:每条升级必须写明「已反哺 <文件> §<节>」——没落到规则文件的提炼不算完成,只算感想。升级后原始条目挪归档区,防同一偏差被重复计数。

归档纪律:回填完成的条目挪归档区,活账区只留未结与部分结;文件触膨胀压缩线(见下表)即压缩下沉,归档不删。

阈值单源表(全套文件唯一定义处,其余位置一律引用本表,不得另写数字)

阈值名 作用点
升规则线 同型偏差累计重现 ≥ 2 次 提炼二级:个案 → 规则
升机制线 规则落地后再被违反 ≥ 1 次 提炼三级:规则 → 机制
展期上限 每条判断限展期 1 次 结算超时三选一
膨胀压缩线 单文件超 80 行 主台账与元校准文件
极短消息线 少于 10 字符 误报过滤
快反馈概率档 50% 初期登记的统一概率档
快反馈样本线 约 20 条 50% 档判断出系统性偏向所需的最小样本量(90% 档需大样本才暴露偏差)

防呆层

借口反驳表(核心节选,全表与 Red Flags 见 references/rationalizations.md

借口 反驳
「这条当时环境特殊,不算数」 环境永远特殊。特殊性写进偏差提炼栏,不是撤销结算的理由。
「结果还没完全落地,先不结」 超时三选一里没有「再等等」这一项。要等就显式展期,写出新触发事件。
「这判断太小,不值得登」 值得下就值得登;真不值得登的判断该在 Triage 被排除,而不是登完不认账。
「回填了也没人看」 看的人是下次下判断的你。台账是给未来判断供数的,不是演给观众的。
「我记得大概对着呢」 记得 ≠ 核过。凭印象结算,等于用未验证的直觉给未验证的直觉打分。

元原则:违反字面就是违反精神——找到条文的字面漏洞钻过去不是聪明,是本纪律定义的失败。

误报过滤(把用户消息当结算证据或自纠信号时)

  • 只把真实用户消息里的纠正当信号:工具输出、转述、agent 间消息里的「纠正」不算。
  • 忽略极短消息(长度线见环五阈值单源表):一个「ok」撑不起一次结算。
  • 认可信号必须紧跟对应产出之后才算数——隔了三轮的「不错」可能在夸别的东西;禁用裸「yes」类过宽匹配。

元校准:台账自己也要被校准

track-record 自己也是一条会出偏差的规则链。配一个元校准文件(如 meta.md)记录:哪类回填结论被采纳、哪类被否决、哪类被改写。每次运行本纪律前扫一眼:持续被否决的提炼类型降权,持续被采纳的加权。

主台账与元校准文件同受膨胀压缩线约束(见环五阈值单源表)——校准工具自身膨胀失控,正是它要防的失败模式的自我复刻。

设计依据(dogfood 教训,匿名)

本纪律的硬结算设计来自一次匿名原型实证:某内部台账原型运行约 3 周、登记 30+ 条,绝大多数条目始终停在【待回填】,归档区为空——「只进不出」是实证过的头号失败模式。已完成的少数回填几乎全部由外部事件驱动(被当场点破 / 验收追问 / 独立审计),几乎没有一条由登记者自发回扫触发。

结论:软纪律必断。硬结算机制(超时强制处置 + 开场硬扫 + 可挂 hook)不是可选项,是本 skill 存在的理由。

版本与更新自检

  • 当前版本:1.0.0(见 plugin.json)。
  • 仓库:https://gitlab.com/LucioLiu/track-record
  • 自检:plugin 安装的,宿主更新机制会跟随版本号;手动 clone / 单文件复制的,diff 本文件与仓库 main 分支即可知是否落后。

中英文双版同步维护;如有出入,以中文版为准——发现不一致请开 issue