temp / benchmark_review /CHECK_RESULT_直接检查结果.md
Torwnexial's picture
Add files using upload-large-folder tool
ef007a5 verified
|
Raw
History Blame Contribute Delete
3 kB
# Benchmark 直接检查结果
**检查时间**:已运行脚本完成。
**数据源**:本地 clone 自 HF
- Part1:`data/hf_ready4label/new_long_video/corrected_json_2`(对应 HF `Torwnexial/ready4label``new_long_video/corrected_json_2`
- Part2+3:`data/hf_ready4label/top20merge_full/corrected_json_2`(对应 HF `top20merge_full/corrected_json_2`
---
## 1. Part1(长视频,40 个视频)
| 检查项 | 结果 | 说明 |
|--------|------|------|
| 视频覆盖 | 40/40 | 所有 benchmark 视频在原标注中均有对应 JSON |
| **frame_recall** | **通过** | benchmark 中每帧的 `objects_in_frame` 与原标注该 `frame_idx` 的 `objects[].concept` 一致,**无差异** |
| object_counting | 口径不同 | benchmark 的 answer(如 131、303)与「原标注到末 clip 的检测框数累加」**不是同一口径**(raw 为数千级,benchmark 为百级)。benchmark 应为人工或唯一实例数,**不是**框数累加,故 110 条均显示差异属预期 |
**结论**:帧级物体实例(frame_recall)与原标注**完全对应**;counting 为另一套定义,无法用当前 raw 自动核对。
---
## 2. Part2(短视频 Place&Motion,424 视频)
| 检查项 | 结果 | 说明 |
|--------|------|------|
| 视频覆盖 | 401 有原标注,25 无 | 25 个视频在原标注目录中无 JSON(执行时会被跳过) |
| **object_counting** | **通过** | 有 counting 的 benchmark 与「原标注到末 clip 的框数」一致,**无差异** |
| **frame_recall** | **通过** | benchmark 的 `objects_in_frame` 与原标注该 frame 的 `objects[].concept` 一致,**无差异** |
**结论**:Part2 标注与原标注**一致**(在可比口径下)。
---
## 3. Part3(短视频 Objects,382 个视频)
| 检查项 | 结果 | 说明 |
|--------|------|------|
| 视频覆盖 | 382/382 | 所有 benchmark 视频在原标注中均有对应 JSON |
| **frame_recall** | **通过** | benchmark 的 `objects_in_frame` 与原标注一致,**无差异** |
| object_counting | 口径不同 | 1329 条显示差异:benchmark 数值与「原标注框数累加」口径不同(有人工/唯一实例等),与 Part1 同理 |
**结论**:帧级物体实例(frame_recall)与原标注**完全对应**;counting 为另一套定义。
---
## 4. 汇总
- **frame_recall(帧内物体列表)**:Part1、Part2、Part3 均与原标注**一致**,无差异。
- **object_counting**:Part2 在「到末 clip 框数」口径下**一致**;Part1、Part3 的 benchmark 与 raw 框累加**口径不同**,差异来自定义不同,非标注错位。
- **视频列表**:Part1 全对齐;Part2 有 25 个仅 benchmark、11 个仅原标注(你说执行时会跳过);Part3 为原标注子集,正常。
**总体**:标注文件内的**物体实例(帧级)**与原标注**对应**;counting 需以 benchmark 当前定义(人工/唯一实例等)为准,无法用 raw 框数自动校核。