# Benchmark 整体 Review 报告

## 0. Metadata 规范来源（你指定的 HF 地址）

- **Part1 长视频**：metadata（标注/QA 等）的规范来源为  
  **https://huggingface.co/datasets/Torwnexial/ready4label/tree/main/new_long_video/corrected_json_2**
- **Part2+3 中短视频**：metadata 的规范来源为  
  **https://huggingface.co/datasets/Torwnexial/ready4label/tree/main/top20merge_full/corrected_json_2**

本报告及脚本中的「原标注 / 新数据源」对比，均以**从上述 HF 地址同步到本地的目录**为准（当前使用的本地路径见各节说明）。若你重新从 HF 拉取，请用更新后的本地路径再跑一次对比脚本。

---

## 1. 结论汇总（含依据）

### 1.1 Part2 与 recheck 源不一致（高优先级）
- **结论**：Part2 当前 source_folder 与用户指定的中短视频 recheck 源不一致。
- **依据**：part2 JSON 中 source_folder 为 top20merge/corrected_json；用户指定 recheck 在 top20merge_full/corrected_json_2。
- **建议**：从 top20merge_full/corrected_json_2 重新生成 Part2 benchmark；eval_cambw.py 已支持该映射。

### 1.2 长视频 30% counting 删除
- **结论**：Part1 object_counting=110，汇总时应对现有 110 条算平均。
- **依据**：metadata.task_counts.object_counting: 110；用户说明 30% counting 被删、算平均时不算这部分。

### 1.3 80% appearance order 更新
- **结论**：需抽样核对 benchmark 与 HF corrected 的 appearance 题数及「至少 5 条」规则。
- **依据**：用户说明 80% appearance order 被 update、不足 5 个补到 5 个。

### 1.4 视频列表与 HF 对应
- **结论**：Part1 40 个 video 与 HF new_long_video/corrected_json_2 一致；Part2/Part3 需用 --hf-list 或 --hf-dir 做差集核对。
- **依据**：Part1 total_videos: 40；Part2 426，Part3 382。

### 1.5 empty_qa_ids
- **结论**：需对 empty_qa_ids 中若干 qa_id 在 HF 对应 JSON 中核对是否仍为空或已更新。
- **依据**：part1_empty_qa_ids.txt 共 10 行（motion_direction）。

### 1.6 submit_jobs 对齐
- **结论**：汇总/Overall 只使用当前 benchmark 存在的 task 集合。
- **建议**：确认 aggregate 与 results_summary 与 benchmark_single 一致。

---

## 2. 逐个检查清单

1. 运行 check_part2_source.py 确认 Part2 源；必要时从 top20merge_full/corrected_json_2 重新生成 Part2。
2. 运行 compare_video_and_tasks.py --bench-dir benchmark_single，可选 --hf-dir 做 Part1 逐视频对比。
3. 对 empty_qa_ids 中 3-5 个 qa_id 在 HF 对应 JSON 中核对。
4. 选 3-5 个长视频+短视频对比 benchmark 与 HF 的 appearance 题数及 checkpoints。
5. 确认 aggregate/Overall 只含当前 benchmark 的 task；counting 不包含已删 30%。

---

## 3. 脚本说明

- compare_video_and_tasks.py：提取三 Part video 列表与 Part1 每视频任务统计；可选 --hf-list/--hf-dir 输出仅在 benchmark/仅在 HF 及 Part1 与 HF 差异。
- check_part2_source.py：读取 Part2 source_folder 与 eval_cambw 映射，输出是否与 recheck 源一致。

---

## 4. 新数据源与 Benchmark 直接对比结果（已运行）

**数据源路径（本地 clone，应对应上述 HF 地址）**：
- 长视频：`data/hf_ready4label/new_long_video/corrected_json_2`（应对应 HF `.../new_long_video/corrected_json_2`）
- 中短视频：`data/hf_ready4label/top20merge_full/corrected_json_2`（应对应 HF `.../top20merge_full/corrected_json_2`）

### 4.1 视频列表对比

| Part | Benchmark 视频数 | 新数据源 JSON 数 | 仅在 Benchmark | 仅在 新数据源 | 结论 |
|------|------------------|-------------------|----------------|----------------|------|
| Part1 长视频 | 40 | 40 | 0 | 0 | 一致 |
| Part2 短视频 | 424（metadata 写 426） | 410 | 25 | 11 | 不一致 |
| Part3 短视频 | 382 | 410 | 0 | 28 | Part3 为新数据源子集，正常 |

### 4.2 Part2 不一致明细

- **仅在 Benchmark（25 个）**：Balcony_Video_OWXgYkqmqHM_*、Computex_Video_I4PtvgRgVsI_*、Dubai_Video_lWJrlKeu6F8_*、Museum_omZc8PS7OiE_*、Residential_Video_XLWf6e1psoo_* 等共 25 个 video_name。即 benchmark 里有 25 个视频在当前新数据源目录中**没有**对应 JSON。
- **仅在新数据源（11 个）**：NYCRide_juy5LprSzL4_front、Take_Square_9IXRTNis51w_left、Vuze_Video_3YcnHObM0ls_left、Warehouseinspection_Video_fXCT_1R75kc_front、don_quijote_asakusa_x5TvyxJWYYo_right、dubai_walking_tour_EvNuqtBVCNE_right、youtube_family_house_bGJrEJKy4NA_left、монголия_360_8k_XVdVhxbTvxs_*、финский_дом_175_wFEP2Ktq2uM_* 等共 11 个。即新数据源里有 11 个 JSON 在 Part2 benchmark 里**没有**被使用。

**建议**：若 Part2 以「新数据源」为唯一来源，应 (1) 从 benchmark 中移除上述 25 个在数据源中不存在的视频，或确认它们是否有别的路径；(2) 若希望覆盖新数据源中多出的 11 个视频，需把这 11 个加入 Part2 并重新生成对应 tasks。

### 4.3 任务级对比说明

- 本地 `corrected_json_2` 为**原始帧/检测格式**（frames、objects、clip 等），**不含** `tasks` 数组；benchmark 的 tasks 由 gen_single_benchmark 等流程从该数据生成。因此未做「逐 task 与数据源对比」，只做了**视频列表**对比。
- 若你另有「带 tasks 的 corrected 版本」（例如 HF 上另一目录或导出），可把该目录路径给脚本做 `--hf-dir`，再跑一次即可得到逐视频 task 数对比。

---

## 5. 标注内物体实例与原标注文件对应核查（已运行）

**脚本**：`benchmark_review/verify_annotation_against_source.py`  
**用途**：用 benchmark 里每视频的 tasks（object_counting 的 answer、frame_recall 的 frame_idx + objects_in_frame）与原标注 corrected raw（`frames[].objects[].concept`）逐项比对。

**原标注规范来源**（你提供的 HF）：
- Part1：https://huggingface.co/datasets/Torwnexial/ready4label/tree/main/new_long_video/corrected_json_2
- Part2+3：https://huggingface.co/datasets/Torwnexial/ready4label/tree/main/top20merge_full/corrected_json_2  

**本次运行使用的本地路径**：`data/hf_ready4label/new_long_video/corrected_json_2`（应为上述 Part1 HF 的 clone）。

### 5.1 Part1 核查结果（40 个视频）

| 比对项 | 结果 | 说明 |
|--------|------|------|
| **frame_recall** | **一致** | benchmark 中每个 frame_recall 的 4 帧的 `objects_in_frame` 与原标注中该 `frame_idx` 的 `objects[].concept` 列表（含重复）一致。 |
| **object_counting** | **口径不同** | benchmark 的 `answer`（如 131、303）与从原标注「到末 clip 为止每帧 detection 框数累加」得到的数值**不是同一口径**：raw 累加为数千级，benchmark 为百级。benchmark 的 counting  likely 为人工标注的「物体实例总数」或由别处生成；当前 raw 无 per-concept 总数字段，无法在本脚本内直接核对。 |

**结论**：  
- **物体实例在「帧级」上是对应的**：frame_recall 里用到的帧及其物体列表与原标注一致。  
- **counting 的「实例总数」**：需确认 benchmark 的 counting 来源（人工 / 某导出）；若你有「带 per-concept count 的 corrected 导出」，可再跑脚本做逐 concept 比对。

### 5.2 使用方式

```bash
# Part1 长视频 vs 长视频原标注
python benchmark_review/verify_annotation_against_source.py \
  --bench-dir benchmark_single \
  --raw-dir data/hf_ready4label/new_long_video/corrected_json_2 \
  --part 1

# Part2/Part3 可指定 --raw-dir 为 top20merge_full/corrected_json_2，格式需与 Part1 一致（frames + objects）
```