OysterCoreAI's picture
Upload 13 files
1aed081 verified
|
Raw
History Blame Contribute Delete
3.54 kB

发布前质量验收报告

验收结论

本发布包包含 10,050 条简体中文 SFT 记录。按既定 18 维双逻辑评分和独立于评分器的发布审计,10,050 条全部满足自动准入条件;最低总分为 90.0000,未发现阻断发布的结构、编码、许可元数据或唯一性错误。

该结论表示“通过当前自动规则”,不表示逐句人工事实认证、正式法律审查或真实训练效果验证。

核心结果

检查项 结果
总记录数 10,050
18 维准入数 10,050(100%)
唯一 ID 10,050
唯一来源 URL 10,050
唯一正文哈希 10,050
最低分 90.0000
平均分 93.2686
中位数 93.3333
最高分 96.6667
90–94 分 8,985(89.403%)
95–100 分 1,065(10.597%)
许可 10,050 条均为 CC-BY-SA-4.0

检查范围

  • UTF-8 严格解码、Unicode 替换字符和不可打印控制字符;
  • JSONL 一行一对象、字段完整性、连续 ID 和消息角色顺序;
  • 来源 URL、修订日期、许可字段与数据集声明一致性;
  • 精确正文重复和来源 URL 重复;
  • PII 正则模式、活动脚本标签、空格式占位符和长重复字符;
  • OpenCC 简体转换幂等性与明确地区技术术语;
  • 18 维双逻辑取低分、硬性维度门槛和 95 分附加对抗规则;
  • gzip 分片可完整流式解压并逐行解析。

领域分布

领域 数量 占比
法律与公共治理 1,862 18.5274%
历史与文化 1,822 18.1294%
地理与环境 1,695 16.8657%
科学与技术 1,512 15.0448%
生活与健康 1,061 10.5572%
中文语言与文学 815 8.1095%
综合百科 815 8.1095%
社会与人文 468 4.6567%

关键维度均值

维度 均值(满分 5)
事实可靠性 4.0000
推理与思维链价值 4.0000
领域代表性与多样性 4.0000
信息密度 5.0000
幻觉诱导风险 4.7662
过拟合风险 4.8747
指令多样性贡献 4.4248
梯度贡献效率 4.2086
输出可控性 5.0000
负样本免疫力 4.9768

防虚高说明

两套独立启发式评分逻辑对同一记录分别打分,各维度取较低值。达到 95 分的记录还需通过附加对抗规则。评分器未把“有来源 URL”直接等同于“事实全部正确”,事实可靠性统一保持保守上限;推理和梯度贡献也未因篇幅较长自动给满分。

限制与剩余风险

  1. 未进行逐句人工事实核验,来源页面本身可能存在错误或时效性问题。
  2. 未执行真实模型训练和消融实验,因此不能从自动评分推导 Loss 或泛化增益。
  3. 来源集中于中文维基百科,数据来源多样性仍有限。
  4. “影片、资讯、专案”等词在大陆简体语境中可能合法出现,也可能具有地区偏好;为避免破坏专名和法律语境,未进行无上下文强制替换。
  5. 隐私和安全检查为规则扫描,不可能证明绝对零风险。公开后应保留删除与更正渠道。

建议的发布后监测

  • Dataset Viewer 随机检查至少 100 条,并覆盖全部领域;
  • 首次训练前按来源 URL 分组切分,检测模板和来源泄漏;
  • 记录用户报告的错误 ID,在后续版本中提供删除或更正清单;
  • 使用至少一个基线模型进行小规模消融,比较验证 Loss、指令遵循率、事实性和领域泛化。