Datasets:

kamaboko2007
/

dbbench_distilled_v1

dataset_info:
  features:
    - name: messages
      list:
        - name: content
          dtype: string
        - name: role
          dtype: string
    - name: category
      dtype: string
  splits:
    - name: train
      num_bytes: 974459
      num_examples: 494
  download_size: 88508
  dataset_size: 974459
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/train-*

dbbench_distilled_v1

概要

DB Bench（AgentBench）の弱点カテゴリに対して、教師モデルで高品質なエージェントトレースを再生成した蒸留データセット。

生成方法

手法: Oracle注入型マルチターン生成（ハード蒸留）
教師モデル: Qwen/Qwen3-Coder-30B-A3B-Instruct（BF16、A100 80GB）
ソースデータ: u-10bei/dbbench_sft_dataset_react_v4
生成環境: Google Colab A100 80GB（ハイメモリ）

Oracle注入型マルチターン生成とは

dbbench_v4 から弱点カテゴリのサンプルをフィルタ
各サンプルの user質問・tool応答（SQL実行結果）・正解を抽出
教師モデルに「正解ヒント付き」でエージェント応答を1ターンずつ生成させる
教師が SQL を書いた後、元データの tool応答（実際のSQL実行結果）を注入
これを繰り返し、効率的なトレースを再生成

データ仕様

サンプル数: 494件（成功率41%、約1,200件から生成）
形式: messages（マルチターン対話）+ category
対象カテゴリ: INSERT, aggregation-MAX, comparison, aggregation-SUM, counting

カテゴリ分布

カテゴリ	件数
other	128
counting	84
aggregation-MAX	67
ranking	56
comparison	45
aggregation-SUM	36
aggregation-MIN	28
INSERT	24
aggregation-AVG	18
UPDATE	8

メッセージ形式

user[0]      : システム説明 ("I will ask you a question...")
assistant[0] : "Ok."
user[1]      : 実際の質問
assistant[1] : Thought + Action: Operation + SQL
user[2]      : SQL実行結果（tool応答をuser roleで表現）
...
assistant[N] : Action: Answer + Final Answer: [...]

使用実績

023: ALF v5 + 本データセット（黄金比）→ LB 4.7070（Top10）
024: 023と同モデル → LB 4.7256

バリデーション基準

assistant に sql ``` を含むこと（SQL実行あり）
assistant に Final Answer: を含むこと（回答あり）
Ok. 以外の実質的な assistant ターンが存在すること

生成コード

012_distillation_dbbench.ipynb

ライセンス

教師モデル（Qwen3-Coder-30B-A3B-Instruct）: apache-2.0