--- dataset_info: features: - name: messages list: - name: content dtype: string - name: role dtype: string - name: category dtype: string splits: - name: train num_bytes: 974459 num_examples: 494 download_size: 88508 dataset_size: 974459 configs: - config_name: default data_files: - split: train path: data/train-* --- # dbbench_distilled_v1 ## 概要 DB Bench(AgentBench)の弱点カテゴリに対して、教師モデルで高品質なエージェントトレースを再生成した蒸留データセット。 ## 生成方法 - **手法**: Oracle注入型マルチターン生成(ハード蒸留) - **教師モデル**: Qwen/Qwen3-Coder-30B-A3B-Instruct(BF16、A100 80GB) - **ソースデータ**: u-10bei/dbbench_sft_dataset_react_v4 - **生成環境**: Google Colab A100 80GB(ハイメモリ) ## Oracle注入型マルチターン生成とは 1. dbbench_v4 から弱点カテゴリのサンプルをフィルタ 2. 各サンプルの user質問・tool応答(SQL実行結果)・正解を抽出 3. 教師モデルに「正解ヒント付き」でエージェント応答を1ターンずつ生成させる 4. 教師が SQL を書いた後、元データの tool応答(実際のSQL実行結果)を注入 5. これを繰り返し、効率的なトレースを再生成 ## データ仕様 - **サンプル数**: 494件(成功率41%、約1,200件から生成) - **形式**: messages(マルチターン対話)+ category - **対象カテゴリ**: INSERT, aggregation-MAX, comparison, aggregation-SUM, counting ## カテゴリ分布 | カテゴリ | 件数 | |---------|------| | other | 128 | | counting | 84 | | aggregation-MAX | 67 | | ranking | 56 | | comparison | 45 | | aggregation-SUM | 36 | | aggregation-MIN | 28 | | INSERT | 24 | | aggregation-AVG | 18 | | UPDATE | 8 | ## メッセージ形式 ``` user[0] : システム説明 ("I will ask you a question...") assistant[0] : "Ok." user[1] : 実際の質問 assistant[1] : Thought + Action: Operation + SQL user[2] : SQL実行結果(tool応答をuser roleで表現) ... assistant[N] : Action: Answer + Final Answer: [...] ``` ## 使用実績 - **023**: ALF v5 + 本データセット(黄金比)→ LB 4.7070(Top10) - **024**: 023と同モデル → LB 4.7256 ## バリデーション基準 - assistant に ``` ```sql ``` を含むこと(SQL実行あり) - assistant に `Final Answer:` を含むこと(回答あり) - `Ok.` 以外の実質的な assistant ターンが存在すること ## 生成コード `012_distillation_dbbench.ipynb` ## ライセンス 教師モデル(Qwen3-Coder-30B-A3B-Instruct): apache-2.0