Update README.md
Browse files
README.md
CHANGED
|
@@ -21,3 +21,68 @@ configs:
|
|
| 21 |
- split: train
|
| 22 |
path: data/train-*
|
| 23 |
---
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 21 |
- split: train
|
| 22 |
path: data/train-*
|
| 23 |
---
|
| 24 |
+
|
| 25 |
+
|
| 26 |
+
# dbbench_distilled_v1
|
| 27 |
+
|
| 28 |
+
## 概要
|
| 29 |
+
DB Bench（AgentBench）の弱点カテゴリに対して、教師モデルで高品質なエージェントトレースを再生成した蒸留データセット。
|
| 30 |
+
|
| 31 |
+
## 生成方法
|
| 32 |
+
- **手法**: Oracle注入型マルチターン生成（ハード蒸留）
|
| 33 |
+
- **教師モデル**: Qwen/Qwen3-Coder-30B-A3B-Instruct（BF16、A100 80GB）
|
| 34 |
+
- **ソースデータ**: u-10bei/dbbench_sft_dataset_react_v4
|
| 35 |
+
- **生成環境**: Google Colab A100 80GB（ハイメモリ）
|
| 36 |
+
|
| 37 |
+
## Oracle注入型マルチターン生成とは
|
| 38 |
+
1. dbbench_v4 から弱点カテゴリのサンプルをフィルタ
|
| 39 |
+
2. 各サンプルの user質問・tool応答（SQL実行結果）・正解を抽出
|
| 40 |
+
3. 教師モデルに「正解ヒント付き」でエージェント応答を1ターンずつ生成させる
|
| 41 |
+
4. 教師が SQL を書いた後、元データの tool応答（実際のSQL実行結果）を注入
|
| 42 |
+
5. これを繰り返し、効率的なトレースを再生成
|
| 43 |
+
|
| 44 |
+
## データ仕様
|
| 45 |
+
- **サンプル数**: 494件（成功率41%、約1,200件から生成）
|
| 46 |
+
- **形式**: messages（マルチターン対話）+ category
|
| 47 |
+
- **対象カテゴリ**: INSERT, aggregation-MAX, comparison, aggregation-SUM, counting
|
| 48 |
+
|
| 49 |
+
## カテゴリ分布
|
| 50 |
+
| カテゴリ | 件数 |
|
| 51 |
+
|---------|------|
|
| 52 |
+
| other | 128 |
|
| 53 |
+
| counting | 84 |
|
| 54 |
+
| aggregation-MAX | 67 |
|
| 55 |
+
| ranking | 56 |
|
| 56 |
+
| comparison | 45 |
|
| 57 |
+
| aggregation-SUM | 36 |
|
| 58 |
+
| aggregation-MIN | 28 |
|
| 59 |
+
| INSERT | 24 |
|
| 60 |
+
| aggregation-AVG | 18 |
|
| 61 |
+
| UPDATE | 8 |
|
| 62 |
+
|
| 63 |
+
## メッセージ形式
|
| 64 |
+
```
|
| 65 |
+
user[0] : システム説明 ("I will ask you a question...")
|
| 66 |
+
assistant[0] : "Ok."
|
| 67 |
+
user[1] : 実際の質問
|
| 68 |
+
assistant[1] : Thought + Action: Operation + SQL
|
| 69 |
+
user[2] : SQL実行結果（tool応答をuser roleで表現）
|
| 70 |
+
...
|
| 71 |
+
assistant[N] : Action: Answer + Final Answer: [...]
|
| 72 |
+
```
|
| 73 |
+
|
| 74 |
+
## 使用実績
|
| 75 |
+
- **023**: ALF v5 + 本データセット（黄金比）→ LB 4.7070（Top10）
|
| 76 |
+
- **024**: 023と同モデル → LB 4.7256
|
| 77 |
+
|
| 78 |
+
## バリデーション基準
|
| 79 |
+
- assistant に ``` ```sql ``` を含むこと（SQL実行あり）
|
| 80 |
+
- assistant に `Final Answer:` を含むこと（回答あり）
|
| 81 |
+
- `Ok.` 以外の実質的な assistant ターンが存在すること
|
| 82 |
+
|
| 83 |
+
## 生成コード
|
| 84 |
+
`012_distillation_dbbench.ipynb`
|
| 85 |
+
|
| 86 |
+
## ライセンス
|
| 87 |
+
教師モデル（Qwen3-Coder-30B-A3B-Instruct）: apache-2.0
|
| 88 |
+
|