# TextInsightBench 数据卡

[English](README.md) | **简体中文**


TextInsightBench 评估 Agent 从自然语言数据中挖掘具体、有原文证据支持的结论。当前私密研究数据包含 **50 道任务、24,504 篇评测文本，以及 1,379,468 篇可选无监督学习文本**。任务和主要文档使用英文，原始语料保留原文。

| 来源 | 无监督文本 | 任务数 | 评测文本 |
|---|---:|---:|---:|
| Amazon All Beauty | 460,885 | 13 | 6,421 |
| Android App Reviews | 66,660 | 13 | 5,484 |
| CFPB | 603,788 | 12 | 6,300 |
| NHTSA | 248,135 | 12 | 6,299 |
| 总计 | 1,379,468 | 50 | 24,504 |

任务分为群组差异 20 道、时间变化 15 道、复合关联 15 道。每题 263–600 篇文本，允许最多 5 个发现或有理由的弃答。题目给出挖掘目标，具体发现需要 Agent 自行分析。

`learning/` 下有 278 个 Parquet 分片，字段为 `doc_id`、`source`、`text`、`title`，均为字符串。数据加载配置中的 `train` 是可选无监督学习池，不含 Benchmark 标签。`tasks.json` 中的 `corpus_path` 指向 `corpora/` 下的任务语料，保留任务需要的评分、时间和实体等可见元数据。

## 使用

[GitHub 代码仓库](https://github.com/erwinmsmith/TextInsightBench) 提供中英文说明、批量运行器、验证器、评分和报告工具：

```bash
pip install -e '.[data]'
hf auth login
tib download --output data/participant --with-learning
tib verify --data data/participant --with-learning
tib run --data data/participant --command 'python my_agent.py' \
  --track unlabeled_pool --output runs/my-agent/submissions
```

下载命令读取代码仓库中 `benchmark/data.lock.json` 的固定提交版本。Agent 通过标准输入获得当前任务和语料，标准输出返回 JSON。无监督池用于评测前学习；当前任务内的数据分析允许进行，但不应将评测反馈或题目拟合状态带入后续任务。结果需说明使用 `task_only` 还是 `unlabeled_pool` 设置。

## 测评

提交需包含结论、可观察定义、全部文档的 positive/negative/unknown 划分、统计、精确引用和局限。发现质量满分 100，衡量任务满足、统计有效性、证据支持、分析深度和校准。参考覆盖率单独报告，新发现即使没有匹配参考，也可根据证据得到完整质量分。

组织者参考集独立存放。当前包含 50 个 AI 生成参考结论，未经独立事实验证。参与者数据中不提供参考结论，也不包含文档级确认标注。完整规则见代码仓库。

## 构建与局限

无监督池经过语言、长度过滤、去重和留出语料排除。本次整理再次逐分片核对文档 ID、归一化文本及数字/标点归一后的保守模板，与评测和参考构建文本均未发现重叠，因此无需额外删减。这不等于完全语义独立；任务可能共享来源和实体。

文本以英文为主。投诉和评论反映被选择的报告，不能直接推断总体发生率或因果；记录日期也未必等于事件日期。CFPB 无监督子集使用 2024–2025 年的信用报告范围，NHTSA 源归档覆盖 2020–2024 年。文本仍可能包含个人信息。多种来源适用不同条款，私密研究整理不授予第三方文本的新许可，参见 [来源和条款](SOURCES.md)。