amagasaki-qna

兵庫県尼崎市の市民向け FAQ を元に構築した日本語 retrieval 学習用データセット。 元の (anchor, positive) ペアに対し、ruri-v3 系の埋め込みモデルと Cross-Encoder リランカーを用いた Hard Negative Mining と 蒸留スコア (生 logit) 付与を施したもの。

pairs / triplets / n-tuples / n-tuples-filtered の 4 形式を提供し、 Dense Retriever や Cross-Encoder の教師付き学習、ならびに KL Divergence による蒸留学習に利用できる。

Configs

config	rows	columns	説明
pairs	18,414	query, positive	元の (anchor, positive) ペアをそのまま query/positive にリネームしたもの。
triplets	18,414	query, positive, negative	クエリごとに 1 件の hard negative を付けた triplet。全 18,414 行を保持。
n-tuples	18,414	query, positive, negative_1〜negative_5, label	クエリごとに 5 件の hard negative + Cross-Encoder の生 logit を label に付与。全 18,414 行を保持。
n-tuples-filtered	11,069	query, positive, negative_1〜negative_5, label	n-tuples のうち quality_score が valid な行のみを抽出。quality_score 降順でソート済み。KL 蒸留学習向け。

すべての config の split は train。pairs / triplets / n-tuples は Hard Negative Mining の 結果に関わらず元の 18,414 行を保持しており、quality 基準で間引いたのは n-tuples-filtered のみ。

label カラムの形式 (n-tuples / n-tuples-filtered 共通)

長さ 6 の List[float] で [score(query, positive), score(query, neg_1), …, score(query, neg_5)]。 label[0] が positive、label[1:] が negative_1〜negative_5 に 1:1 で順序通り対応する。 スコアは Cross-Encoder の生 logit (sigmoid 適用前)。

観測 logit レンジは [-11.117, +13.180]。

元データセット

本データセットの (anchor, positive) ペアは、京都大学 黒橋・褚研究室が公開する FAQ 検索研究用データセット LocalgovFAQ に由来する。LocalgovFAQ は兵庫県尼崎市の 市民向け FAQ (各種申請・手続き案内) を題材に構築されたものである。

• データセット配布ページ: BERT-Based FAQ Retrieval (Kyoto University NLP)
• コード / データ: ku-nlp/bert-based-faqir

入力の (anchor, positive) ペアは 18,414 行・ユニーク positive 1,642 件。 本データセットでは anchor を query としてリネームしている。

Hard Negative Mining の方法

各クエリ q_i (元データ行 i) に対して以下を実施:

1. クエリ埋め込み — cl-nagoya/ruri-v3-310m に "検索クエリ: " プレフィックスを付けて 768 次元にエンコード (L2 正規化済み)。
2. パッセージ埋め込み — 重複排除した positive 集合 (1,642 件) に "検索文書: " プレフィックスを付けて同モデルで埋め込み (L2 正規化済み)。
3. kNN 検索 — GPU matmul + top-K (cosine = 内積) で各クエリの上位 65 件を取得。
4. 候補プール構築 — 上位から自身の gold positive を除外し、上位 15 件を primary 候補、 上位 60 件を extra 候補とする。
5. リスコア — cl-nagoya/ruri-v3-reranker-310m に (query, doc) を通して FP16 で 生 logit を得る。教師の最終活性化は Identity に置き換え、sigmoid を通さない。
6. Hard Negative 選定
   • positive のスコアが 2.0 未満の行は drop (n-tuples-filtered のみ)
   • 残った候補のうち pos - neg < 4.0 のもの (positive との差が小さく false negative リスクが高いもの) を候補から除外
   • 上記を通過した候補のうち、reranker スコアが高い順に 5 件を選択
   • primary 15 件で 5 件を満たせない場合は extra 60 件まで拡張、それでも不足の場合は reranker スコア順で埋める (フォールバック)

統計

指標	値
入力ペア数	18,414
ユニーク positive 数	1,642
kNN top-1 ヒット率 (gold positive)	12,590 / 18,414 (68.4%)
kNN top-5 ヒット率	16,288 / 18,414 (88.5%)
kNN top-15 ヒット率	17,472 / 18,414 (94.9%)
pos >= 2.0 通過行数	11,069 / 18,414 (60.1%)
primary 15 件のみで Hard Neg 5 確保	11,026 / 11,069 (99.6%)
extra 60 件まで拡張 (fallback)	43 / 11,069 (0.4%)
n-tuples-filtered 採用行数	11,069

蒸留スコア付けの方法

n-tuples / n-tuples-filtered の label カラムは、教師モデル cl-nagoya/ruri-v3-reranker-310m (日本語 Cross-Encoder) の生 logit を 各 (query, doc) ペア (positive 1 件 + negative 5 件) に付与したもの。

スコア付けの設定

項目	値
Teacher	cl-nagoya/ruri-v3-reranker-310m
Max length	512
推論精度	FP16
Batch size	128
入力フォーマット	単一文ペア (query, document)
出力	生 logit (sigmoid 適用前)。観測 logit レンジ [-11.12, +13.18]

KL 蒸留損失 (SparseDistillKLDivLoss / DistillKLDivLoss 等) は softmax(label / T) を target distribution として使うため、 sigmoid 後の [0, 1] 値だと softmax target が一様分布に潰れて ranking 情報が失われる。 これを防ぐため、教師の最終活性化を明示的に Identity に置き換えてスコアを出力した:

import torch.nn as nn
from sentence_transformers import CrossEncoder

teacher = CrossEncoder(
    "cl-nagoya/ruri-v3-reranker-310m",
    max_length=512,
    device="cuda",
)
teacher.model.eval()
teacher.model.half()
teacher.default_activation_function = nn.Identity()  # sigmoid を外す

scores = teacher.predict(
    [("query A", "passage A"), ("query A", "passage B")],
    batch_size=128,
    convert_to_numpy=True,
    activation_fct=nn.Identity(),
)

logit のスケール感:

logit	sigmoid(logit)	解釈
+8	0.9997	確信度高く relevant
+5	0.993	強く relevant
+2	0.881	relevant 寄り
0	0.5	不確か
-2	0.119	irrelevant 寄り
-5	0.007	強く irrelevant
-8	0.0003	確信度高く irrelevant

quality_score の定義 (n-tuples-filtered のソート指標)

n-tuples-filtered は、label から計算した学習価値ランキング quality_score の降順で valid な行のみを抽出したもの。学習価値の高い行を以下の 3 軸で定義した:

1. positive が信頼できる — 教師が positive を高 logit に置く
2. 偽 negative がない — max(neg) が positive を超えない
3. negative が硬い — negative の logit がそこそこ高く、margin が中程度

実装

import numpy as np

POS_MIN        = 2.0   # σ(2.0) ≈ 0.88: 確信のある positive のみ採用
MARGIN_MIN     = 0.5   # 誤差レベルの分離は雑音と見なす
MARGIN_PENALTY = 0.1   # 易しすぎる行を弱く後回しにする係数

def quality_score_vec(labels):
    p      = labels[:, 0]
    neg    = labels[:, 1:]
    max_n  = neg.max(axis=1)
    mean_n = neg.mean(axis=1)
    margin = p - max_n
    fn_mask     = margin <= 0
    weak_mask   = (~fn_mask) & (p < POS_MIN)
    border_mask = (~fn_mask) & (~weak_mask) & (margin < MARGIN_MIN)
    valid_mask  = (~fn_mask) & (~weak_mask) & (~border_mask)
    raw = mean_n - MARGIN_PENALTY * margin
    return np.where(valid_mask, raw, -np.inf), valid_mask

フィルタの内訳 (n-tuples → n-tuples-filtered)

フィルタ	行数	条件
false_neg (max_neg >= pos)	4,372	negative 群に positive を超えるスコアの候補が混入
weak_pos (pos < 2.0)	2,973	positive 自体が弱い (σ(2.0) ≈ 0.88 未満)
borderline (0 < margin < 0.5)	0	margin 4.0 で選別済みのため発生せず
valid	11,069	採用

n-tuples-filtered では reranker logit の margin が 4.0 以上を担保した上で quality_score 降順で並んでおり、上位ほど positive が確信を持って高 logit に 置かれ、negative がそこそこ硬い (= 学習価値が高い) 構成になっている。

KL 蒸留損失への組み込み

import torch.nn.functional as F

def kl_distill_loss(student_logits, teacher_label, T=2.0):
    log_p_student = F.log_softmax(student_logits / T, dim=-1)
    p_teacher     = F.softmax(teacher_label   / T, dim=-1)
    return F.kl_div(log_p_student, p_teacher, reduction="batchmean") * (T * T)

sentence-transformers の SparseDistillKLDivLoss / DistillKLDivLoss を使う場合は、 label カラムをそのまま teacher score として渡せばよい。教師の logit レンジが [-11.12, +13.18] と広めなので、温度 T は 2.0〜3.0 が扱いやすい。

モデル

用途	モデル
候補検索 (Dense Retriever)	cl-nagoya/ruri-v3-310m
蒸留教師 (Cross-Encoder Reranker)	cl-nagoya/ruri-v3-reranker-310m

両モデルとも cl-nagoya によって公開されている日本語 retrieval / reranking モデル。

License

other

元データ LocalgovFAQ (尼崎市の市民向け FAQ, 京都大学 黒橋研究室が公開) には明示的な CC ライセンスが付与されていない。利用にあたっては配布元 (LocalgovFAQ / ku-nlp/bert-based-faqir) の条件に従い、下記 Citation の SIGIR 2019 論文を引用すること。 label カラムは本リポで cl-nagoya/ruri-v3-reranker-310m を用いて算出した派生スコア。

Citation

元データセット LocalgovFAQ を引用すること:

@inproceedings{sakata2019faq,
  author    = {Wataru Sakata and Tomohide Shibata and Ribeka Tanaka and Sadao Kurohashi},
  title     = {{FAQ} Retrieval using Query-Question Similarity and {BERT}-Based Query-Answer Relevance},
  booktitle = {Proceedings of the 42nd International ACM SIGIR Conference on Research and Development in Information Retrieval (SIGIR 2019)},
  pages     = {1113--1116},
  year      = {2019},
}

Acknowledgements

• 元データ: LocalgovFAQ — BERT-Based FAQ Retrieval (Kyoto University NLP) / ku-nlp/bert-based-faqir
• 候補検索: cl-nagoya/ruri-v3-310m
• 蒸留教師: cl-nagoya/ruri-v3-reranker-310m