benchmark_review/BENCHMARK_REVIEW_REPORT.md

Benchmark 整体 Review 报告

0. Metadata 规范来源（你指定的 HF 地址）

• Part1 长视频：metadata（标注/QA 等）的规范来源为
  https://huggingface.co/datasets/Torwnexial/ready4label/tree/main/new_long_video/corrected_json_2
• Part2+3 中短视频：metadata 的规范来源为
  https://huggingface.co/datasets/Torwnexial/ready4label/tree/main/top20merge_full/corrected_json_2

本报告及脚本中的「原标注 / 新数据源」对比，均以从上述 HF 地址同步到本地的目录为准（当前使用的本地路径见各节说明）。若你重新从 HF 拉取，请用更新后的本地路径再跑一次对比脚本。

---

1. 结论汇总（含依据）

1.1 Part2 与 recheck 源不一致（高优先级）

• 结论：Part2 当前 source_folder 与用户指定的中短视频 recheck 源不一致。
• 依据：part2 JSON 中 source_folder 为 top20merge/corrected_json；用户指定 recheck 在 top20merge_full/corrected_json_2。
• 建议：从 top20merge_full/corrected_json_2 重新生成 Part2 benchmark；eval_cambw.py 已支持该映射。

1.2 长视频 30% counting 删除

• 结论：Part1 object_counting=110，汇总时应对现有 110 条算平均。
• 依据：metadata.task_counts.object_counting: 110；用户说明 30% counting 被删、算平均时不算这部分。

1.3 80% appearance order 更新

• 结论：需抽样核对 benchmark 与 HF corrected 的 appearance 题数及「至少 5 条」规则。
• 依据：用户说明 80% appearance order 被 update、不足 5 个补到 5 个。

1.4 视频列表与 HF 对应

• 结论：Part1 40 个 video 与 HF new_long_video/corrected_json_2 一致；Part2/Part3 需用 --hf-list 或 --hf-dir 做差集核对。
• 依据：Part1 total_videos: 40；Part2 426，Part3 382。

1.5 empty_qa_ids

• 结论：需对 empty_qa_ids 中若干 qa_id 在 HF 对应 JSON 中核对是否仍为空或已更新。
• 依据：part1_empty_qa_ids.txt 共 10 行（motion_direction）。

1.6 submit_jobs 对齐

• 结论：汇总/Overall 只使用当前 benchmark 存在的 task 集合。
• 建议：确认 aggregate 与 results_summary 与 benchmark_single 一致。

---

2. 逐个检查清单

1. 运行 check_part2_source.py 确认 Part2 源；必要时从 top20merge_full/corrected_json_2 重新生成 Part2。
2. 运行 compare_video_and_tasks.py --bench-dir benchmark_single，可选 --hf-dir 做 Part1 逐视频对比。
3. 对 empty_qa_ids 中 3-5 个 qa_id 在 HF 对应 JSON 中核对。
4. 选 3-5 个长视频+短视频对比 benchmark 与 HF 的 appearance 题数及 checkpoints。
5. 确认 aggregate/Overall 只含当前 benchmark 的 task；counting 不包含已删 30%。

---

3. 脚本说明

• compare_video_and_tasks.py：提取三 Part video 列表与 Part1 每视频任务统计；可选 --hf-list/--hf-dir 输出仅在 benchmark/仅在 HF 及 Part1 与 HF 差异。
• check_part2_source.py：读取 Part2 source_folder 与 eval_cambw 映射，输出是否与 recheck 源一致。

---

4. 新数据源与 Benchmark 直接对比结果（已运行）

数据源路径（本地 clone，应对应上述 HF 地址）：

• 长视频：data/hf_ready4label/new_long_video/corrected_json_2（应对应 HF .../new_long_video/corrected_json_2）
• 中短视频：data/hf_ready4label/top20merge_full/corrected_json_2（应对应 HF .../top20merge_full/corrected_json_2）

4.1 视频列表对比

Part	Benchmark 视频数	新数据源 JSON 数	仅在 Benchmark	仅在 新数据源	结论
Part1 长视频	40	40	0	0	一致
Part2 短视频	424（metadata 写 426）	410	25	11	不一致
Part3 短视频	382	410	0	28	Part3 为新数据源子集，正常

4.2 Part2 不一致明细

• 仅在 Benchmark（25 个）：Balcony_Video_OWXgYkqmqHM_*、Computex_Video_I4PtvgRgVsI_*、Dubai_Video_lWJrlKeu6F8_*、Museum_omZc8PS7OiE_、Residential_Video_XLWf6e1psoo_ 等共 25 个 video_name。即 benchmark 里有 25 个视频在当前新数据源目录中没有对应 JSON。
• 仅在新数据源（11 个）：NYCRide_juy5LprSzL4_front、Take_Square_9IXRTNis51w_left、Vuze_Video_3YcnHObM0ls_left、Warehouseinspection_Video_fXCT_1R75kc_front、don_quijote_asakusa_x5TvyxJWYYo_right、dubai_walking_tour_EvNuqtBVCNE_right、youtube_family_house_bGJrEJKy4NA_left、монголия_360_8k_XVdVhxbTvxs_、финский_дом_175_wFEP2Ktq2uM_ 等共 11 个。即新数据源里有 11 个 JSON 在 Part2 benchmark 里没有被使用。

建议：若 Part2 以「新数据源」为唯一来源，应 (1) 从 benchmark 中移除上述 25 个在数据源中不存在的视频，或确认它们是否有别的路径；(2) 若希望覆盖新数据源中多出的 11 个视频，需把这 11 个加入 Part2 并重新生成对应 tasks。

4.3 任务级对比说明

• 本地 corrected_json_2 为原始帧/检测格式（frames、objects、clip 等），不含 tasks 数组；benchmark 的 tasks 由 gen_single_benchmark 等流程从该数据生成。因此未做「逐 task 与数据源对比」，只做了视频列表对比。
• 若你另有「带 tasks 的 corrected 版本」（例如 HF 上另一目录或导出），可把该目录路径给脚本做 --hf-dir，再跑一次即可得到逐视频 task 数对比。

---

5. 标注内物体实例与原标注文件对应核查（已运行）

脚本：benchmark_review/verify_annotation_against_source.py
用途：用 benchmark 里每视频的 tasks（object_counting 的 answer、frame_recall 的 frame_idx + objects_in_frame）与原标注 corrected raw（frames[].objects[].concept）逐项比对。

原标注规范来源（你提供的 HF）：

• Part1：https://huggingface.co/datasets/Torwnexial/ready4label/tree/main/new_long_video/corrected_json_2
• Part2+3：https://huggingface.co/datasets/Torwnexial/ready4label/tree/main/top20merge_full/corrected_json_2

本次运行使用的本地路径：data/hf_ready4label/new_long_video/corrected_json_2（应为上述 Part1 HF 的 clone）。

5.1 Part1 核查结果（40 个视频）

比对项	结果	说明
frame_recall	一致	benchmark 中每个 frame_recall 的 4 帧的 objects_in_frame 与原标注中该 frame_idx 的 objects[].concept 列表（含重复）一致。
object_counting	口径不同	benchmark 的 answer（如 131、303）与从原标注「到末 clip 为止每帧 detection 框数累加」得到的数值不是同一口径：raw 累加为数千级，benchmark 为百级。benchmark 的 counting likely 为人工标注的「物体实例总数」或由别处生成；当前 raw 无 per-concept 总数字段，无法在本脚本内直接核对。

结论：

• 物体实例在「帧级」上是对应的：frame_recall 里用到的帧及其物体列表与原标注一致。
• counting 的「实例总数」：需确认 benchmark 的 counting 来源（人工 / 某导出）；若你有「带 per-concept count 的 corrected 导出」，可再跑脚本做逐 concept 比对。

5.2 使用方式

# Part1 长视频 vs 长视频原标注
python benchmark_review/verify_annotation_against_source.py \
  --bench-dir benchmark_single \
  --raw-dir data/hf_ready4label/new_long_video/corrected_json_2 \
  --part 1

# Part2/Part3 可指定 --raw-dir 为 top20merge_full/corrected_json_2，格式需与 Part1 一致（frames + objects）