--- name: track-record description: A calibration loop for material, genuinely uncertain AI judgments whose outcomes can be observed later - log the bet with a numeric probability and an observable trigger, settle against real evidence, and distill recurring biases into rules. Do not trigger for deterministic/trivial claims or claims with no observable settlement event. Use when logging or settling a material prediction, running a calibration review, or when track record, prediction ledger, settle bets, or learning from outcomes comes up. 中文触发:材料性判断登记、复盘、回填、结算、判断校准、校准回顾、赌局台账。 --- [English](SKILL.md) | **简体中文** # track-record:判断校准闭环纪律 > 下判断就登记、现实出结果就结算、偏差成型就升规则。学习信号是**现实结果 vs 自己当初的判断**(跨时间闭环),不是「用户纠正」——后者是另一类工具的赛道。本文是校准**纪律**(教下判断的 agent 怎么留痕、怎么结算、怎么把偏差变成规则),不是预测系统(不含自动结算器与统计后端)。细则按需读取 `references/`:台账格式 `ledger-format.md`、结算 `settlement.md`、提炼 `distill.md`、借口表 `rationalizations.md`。 > > 一句话动机:只登记不回填 = 永远在用没验证过的直觉做事。 ## 真源与安装层 本 skill 的唯一真源是 GitHub 仓库(地址见文末「版本与更新自检」节)。平台原生发现目录只是可重建的安装镜像:Claude Code 用 `~/.claude/skills/`;其他宿主装进各自的 skills 发现目录(路径因 harness 而异,装前以宿主文档或实测为准)。团队内部部署可另立内部真源目录并配镜像同步,但不在多处各维护一套正文。卸载即删目录,本 skill 不在台账文件之外留任何状态。 ## 五环机制 ### 环一 · Log:下判断就登记 每逢做出**材料性、真不确定、且现实会回答的可校验判断**——预测、选型断言、风险评估、「这样改会更好」——才在判断台账登一条。只读任务本身不授权创建台账;允许写入且首次登记时,台账文件不存在才按 `references/ledger-format.md` 模板建档。机器可交换的 JSON Schema **尚未在本仓发布**;`references/ledger-format.md` 描述的 Markdown 台账就是真源——人读是它,要解析的程序也认它。七个实质字段(另加行号 `#`): `# | 日期 | 判断/预测 | 依据 | 回填触发 | 置信与概率 | 实际结果 | 偏差提炼` 硬要求五条: 1. **依据用「赌……」句式**,把可证伪点显式化:「赌热点数据集中、缓存命中率能过八成」可结算;「性能应该会好」不可。 2. **回填触发写成可观察事件**:「上线满两周看 P95 周报」「若 X 报错重现则判失败」——这是登记与结算之间的合同。写成功标准照评审 rubric 的写法:可勾验、指明证据形态、**写观察目标不写操作步骤**(指定具体工具会因工具不存在而静默失效)、预判捷径并显式排除。写不出可观察触发的判断,多半该在环二被排除。 3. **附数字概率或区间,禁裸形容词**:「很可能」是遮羞布,「75%」才能被打脸。初期样本少时,可统一用快反馈概率档(值见环五阈值单源表)快速攒校准数据。 4. **标置信级 HIGH / MED / LOW**:置信级在回填后绑定不同动作(分流见环五)。 5. **提炼栏可预填两头风险**:正向风险与反向风险都写,防只盯一侧翻车。 另:登记前先扫台账同类条目(outside view)——同类判断的历史命中率是基础锚,先取锚再做本例调整。 ### 环二 · Triage:只登适中难度区 只登 Goldilocks 区间的判断: - **太易**(几乎必然对):不登。结算不产生信息。 - **不可知**(写不出可观察回填触发):不登。登了也只会烂在待回填区。 - **适中**(有真不确定性,且现实会给出答案):登。 一条任务里多个判断 → 用**判断组**:一条母记录 + 子判断各自编号、各自独立结算,防「一荣俱荣一损俱损」,也压条目总数。 Triage 治的是登记过载——台账挤满不可结算的条目时,纪律死于沉没成本。注意:「太小不值得登」不是 Triage 判据(见借口反驳表)。**Triage 排除本身也是预测**:口头判「太易」的判断事后被现实推翻 = 自动构成一条【自纠】补登——排除出口不是逃登记的后门。 ### 环三 · Settle:结算是硬机制,不是美德 **硬触发四条**,任一命中即结算对应条目: 1. 判断对象已运行满数周; 2. 用户对结果给出反馈(好用 / 难用 / 出错); 3. 判断被实战暴露缺陷; 4. 做整体复盘时。 **开场硬纪律**:台账置顶可见,每次开场扫一眼活账区——有超窗条目,先处置再干活。 **超时强制处置**(本机制无外部先例,为本 skill 原创设计):回填触发的预期窗口已过仍未结算的条目,强制三选一,**没有第四项「再等等」**: 1. **立即结算**:按现有证据结;证据不足就把「证据不足」如实写进结果栏; 2. **标【不可结算】**并注明原因(对象已消亡 / 触发事件已不可能发生 / 标准与现实不可比对); 3. **显式展期**:上限见环五阈值单源表,且必须写出**新的可观察触发事件**,不许裸延期。 **结算者独立**:结算由非当事上下文执行(新会话 / 独立 agent),只拿台账条目与现实证据对照回填触发核对,不听当事上下文的解释——杜绝自评自过。标准与现实不可比对时标【不可结算】,不硬结。 结算证据 = 观察现实(日志 / 产物 / 既有用户反馈)。**不为催结果去 ping 用户**——结算是读现实,不是造现实。 可挂宿主 hook 把开场 / 收工扫描变成机械提醒(可选接法,本 skill 不自带任何 hook 或脚本),示例配置见 `references/settlement.md`。 ### 环四 · Backfill:回填的写法 - **支持增量**:能结的子判断先结,条目状态标【部分·日期】。状态档:【待回填】【部分·日期】【已回填】【不可结算】【自纠】。 - **判断组分开结**:子判断各自记对错,不搞整组连坐。 - **被推翻照登**:回填可以推翻自己当初的判断——被打脸的条目是全账里最值钱的条目,照登结果与教训。 - **【自纠】条目**:被用户当场逮到的错判也登,标【自纠】——出错即素材,不因羞耻漏账。 - **n=1 警示**:单例得出的结论在结果栏写明样本量警示,禁止单例直接改规则(分流见环五)。 - **可解读、可行动**:只写「错了」不算回填——要写错在哪个环节、方向是高估还是低估。有反馈 ≠ 有效反馈。 - **欠反应 / 过反应平衡**:一次回填失误不推翻整条既有规则;频繁小幅更新,别大转弯。 ### 环五 · Distill:偏差 → 规则 → 机制 三级阶梯: 1. **孤例 = 个案记录**:留在台账,不动规则文件。 2. **同型偏差重现达升规则线(见下表)= 升规则**:写成强语言规则(点名场景 + 附示例),落到所属规则文件。同型判定用**偏差指纹**:偏差方向 + 对象类型 + 失效机制三者一致才算同型,计数跨条目累计。 3. **规则落地后仍被违反达升机制线(见下表)= 升机制**:文字管不住的交给流程 / hook / 模板强制——用确定性执行替代自觉。 **置信分流**:HIGH(回填证据确凿)→ 可直接改规则;MED(模式初现)→ 记入观察区待下一例;LOW(单例 / 证据弱)→ 仅记录,禁动规则。 **反哺链闭环**:每条升级必须写明「已反哺 <文件> §<节>」——没落到规则文件的提炼不算完成,只算感想。升级后原始条目挪归档区,防同一偏差被重复计数。 **归档纪律**:回填完成的条目挪归档区,活账区只留未结与部分结;文件触膨胀压缩线(见下表)即压缩下沉,归档不删。 #### 阈值单源表(全套文件唯一定义处,其余位置一律引用本表,不得另写数字) | 阈值名 | 值 | 作用点 | |---|---|---| | 升规则线 | 同型偏差累计重现 ≥ 2 次 | 提炼二级:个案 → 规则 | | 升机制线 | 规则落地后再被违反 ≥ 1 次 | 提炼三级:规则 → 机制 | | 展期上限 | 每条判断限展期 1 次 | 结算超时三选一 | | 膨胀压缩线 | 单文件超 80 行 | 主台账与元校准文件 | | 极短消息线 | 少于 10 字符 | 误报过滤 | | 快反馈概率档 | 50% | 初期登记的统一概率档 | | 快反馈样本线 | 约 20 条 | 50% 档判断出系统性偏向所需的最小样本量(90% 档需大样本才暴露偏差) | ## 防呆层 ### 借口反驳表(核心节选,全表与 Red Flags 见 `references/rationalizations.md`) | 借口 | 反驳 | |---|---| | 「这条当时环境特殊,不算数」 | 环境永远特殊。特殊性写进偏差提炼栏,不是撤销结算的理由。 | | 「结果还没完全落地,先不结」 | 超时三选一里没有「再等等」这一项。要等就显式展期,写出新触发事件。 | | 「这判断太小,不值得登」 | 值得下就值得登;真不值得登的判断该在 Triage 被排除,而不是登完不认账。 | | 「回填了也没人看」 | 看的人是下次下判断的你。台账是给未来判断供数的,不是演给观众的。 | | 「我记得大概对着呢」 | 记得 ≠ 核过。凭印象结算,等于用未验证的直觉给未验证的直觉打分。 | 元原则:**违反字面就是违反精神**——找到条文的字面漏洞钻过去不是聪明,是本纪律定义的失败。 ### 误报过滤(把用户消息当结算证据或自纠信号时) - 只把**真实用户消息里的纠正**当信号:工具输出、转述、agent 间消息里的「纠正」不算。 - 忽略极短消息(长度线见环五阈值单源表):一个「ok」撑不起一次结算。 - 认可信号必须**紧跟对应产出之后**才算数——隔了三轮的「不错」可能在夸别的东西;禁用裸「yes」类过宽匹配。 ## 元校准:台账自己也要被校准 track-record 自己也是一条会出偏差的规则链。配一个元校准文件(如 `meta.md`)记录:**哪类回填结论被采纳、哪类被否决、哪类被改写**。每次运行本纪律前扫一眼:持续被否决的提炼类型降权,持续被采纳的加权。 主台账与元校准文件同受膨胀压缩线约束(见环五阈值单源表)——校准工具自身膨胀失控,正是它要防的失败模式的自我复刻。 ## 设计依据(dogfood 教训,匿名) 本纪律的硬结算设计来自一次匿名原型实证:某内部台账原型运行约 3 周、登记 30+ 条,绝大多数条目始终停在【待回填】,归档区为空——**「只进不出」是实证过的头号失败模式**。已完成的少数回填几乎全部由外部事件驱动(被当场点破 / 验收追问 / 独立审计),几乎没有一条由登记者自发回扫触发。 结论:软纪律必断。硬结算机制(超时强制处置 + 开场硬扫 + 可挂 hook)不是可选项,是本 skill 存在的理由。 ## 版本与更新自检 - 当前版本:**1.0.0**(见 `plugin.json`)。 - 仓库:`https://gitlab.com/LucioLiu/track-record` - 自检:plugin 安装的,宿主更新机制会跟随版本号;手动 clone / 单文件复制的,diff 本文件与仓库 main 分支即可知是否落后。 --- > 中英文双版同步维护;如有出入,以**中文版**为准——发现不一致请开 [issue](https://gitlab.com/LucioLiu/track-record/issues)。