BTPropを公開ログで再現し、NLIのつながりを壊して比べた――LLMの嘘検出で「つながりを疑う」BPはどこで効くか
LLMの答えの嘘(ハルシネーション)を、文どうしのつながりから見つける方法に BTProp(Hou ほか、NAACL 2025)があります。個人研究で似たこと(ルールも疑う確率伝搬)をしていたので、BTPropの作者が公開している材料をそのまま使って、同じテストで比べました。
結論を先に書きます。
- 論文の数字は、公開ログからほぼ再現できました(AIの自信だけより AUROC +0.03〜+0.08)。
- つながりがそのままなら、BTPropが上か同着でした。私の方法が優れているとは言えません。
- NLIのつながりを2〜5割わざと逆にすると、BTPropは「AIの自信だけ」より下まで落ちました。つながりも疑う確率伝搬は、自信の近くで止まりました。
コードと結果は GitHub にあります。
https://github.com/mst-design2020/akane-e2-experiments (analysis/btprop/、plans/E2-10_btprop.md)
BTPropのしくみ(ざっくり)
1文ごとに、LLM(論文ではChatGPT)に次をさせて「信念の木」を作ります(深さ2まで)。
- 分解(decompose):文を小さな主張に分ける
- 論理関係(logical relation):関係のある文を作る
- 作り変え(perturbation):元の文と両立しない別案を作る
親子の関係は NLI(cross-encoder/nli-deberta-v3-large)で「親→子」「子→親」の2方向にラベルを付けます(例:entail-neutral)。各ノードについてLLMに True/False を聞き、Trueのトークン確率を自信
これを隠れマルコフ木として計算します。
- 隠れ状態
(本当か)z_u\in\{0,1\} - 出力
:P(c_u\mid z_u) を5つの区間に分けた固定の表(c configs/hmm.yaml。WikiBioの前半で作ったもの) - 遷移:
entailなら「親が本当なら子も本当」、contradictを含めば「親が本当なら子は嘘」を確率1で置く。それ以外は 0.5/0.5 - 分解:親が本当なら子は全部本当。親が嘘なら、子の「全部本当以外」の
通りが等確率2^k-1
下から上へ
比べた方法:つながりも疑うBP
木の形と自信は BTProp と同じにして、確率の組み立て方だけを変えます。各ノードの変数を
-
(h_i=\lambda\,(\mathrm{logit}\,c_i-\beta)\cdot 2/\sigma は調整用データでの閾値と標準偏差)。作り変えノードは自信が無いので、弱い場\beta,\sigma h=b -
:つながり\mathrm{viol}_e を破ると1。e entail親→子、neutral-entail子→親、entail-entailは両方向、contradictを含めば「両方本当」で違反 - 分解:「親 ⇔ 子が全部本当」を破ると1
分解の部分は、子の「全部本当」の重み
dec = [c for c, g in zip(node.child_nodes, node.general_relations) if g == 'decompose']
if dec:
ms = [msg(c, P) for c in dec] # 各子の log m(z), z=0,1
A = sum(x[1] for x in ms) # 全部本当
T = sum(np.logaddexp(x[0], x[1]) for x in ms) # すべての組み合わせ
notA = T + np.log(max(1 - np.exp(A - T), 1e-300)) # 全部本当以外
m = m + np.array([np.logaddexp(notA, A - W), # 親=嘘
np.logaddexp(A, notA - W)]) # 親=本当
木の組み立ては BTProp の hmm_forward.py と同じ手順(同じ HMMTreeNode を使う)にしたので、違うのは確率の計算だけです。
データ
BTProp のリポジトリ(master、6e80da8)の logs/ に、ChatGPTで作った木と自信が3データ分入っています。評価用の正解(eval_dataset/)は入っていないので、別に取りました。
- FactCheckGPT:Factcheck-GPT の
Factbench.jsonl(source=factcheckgpt)。631主張、うち嘘159 - WikiBio:Hugging Face の
potsawee/wiki_bio_gpt3_hallucination。BTPropは121人目以降で評価(前半で出力の表を作っているため)
WikiBioには落とし穴がありました。BTProp は「He」などを人名に置き換えた文で評価していて、その文は公開されていません。そこで、公開の事後確率ファイル(評価文の順に並んでいる)と生の文を、difflib の似かたで並べて正解を付け直しました(929文中924文、似かたの中央値0.94)。
結果1:そのままの木
5通りの分け方の平均AUROC(嘘を見つける力)です。
| FactCheckGPT | WikiBio | |
|---|---|---|
| AIの自信だけ | 0.746 | 0.727 |
| BTProp | 0.793 | 0.804 |
| 全部信じるBP( |
0.807 | 0.773 |
| つながりも疑うBP | 0.801 | 0.768 |
- WikiBio は BTProp が5回とも上でした(差 −0.036)。
- FactCheckGPT は差 +0.007 で同着です。
- 疑うBPと全部信じるBPは、どちらのデータでも同着でした。このテストでは、つながりを疑う効き目は見えませんでした。(初出時は「NLIのつながりはほぼ正しいので」と書きましたが、確かめていない推測でした。のちに100組を別に判定し直すと、元のつながりとの一致は64/100で、含意と矛盾が入れ替わる大きな外れは2〜3組、残りの多くは「矛盾」か「どちらとも言えない」かの線引きのずれでした。)
WikiBioで負けた理由は、分解の扱いだと見ています。WikiBioの木には分解が1,436組あり、FactCheckGPTの木にはありません。参考として、分解を BTProp と同じ有向の形(親が嘘なら子の組み合わせは等確率、上のコードで親=嘘の側から
公開コードの癖: BTPropの hmm_forward.py は、木が作れなかった主張の確率を 1.0(本当)にします。FactCheckGPTでは48主張がこれに当たり、そのままだとBTPropは 0.780 です。上の表では、その主張だけ自信を使うようにそろえた 0.793 を載せています。
結果2:NLIのつながりをわざと逆にする
実際には、つながりを付けるNLIも間違えます。そこで、作り変え・論理関係の枝のNLIラベルを、くじで0〜5割逆にしました(含む→「両方本当はない」、矛盾→「両方とも同じ」)。分解の枝はNLIを使わないので触っていません。両方法とも同じ外れた木を使い、疑うBPには外れの割合を教えずに、外れた木のまま2割で調整します。

| 外れ | FCG BTProp | FCG 疑うBP | WikiBio BTProp | WikiBio 疑うBP |
|---|---|---|---|---|
| 0割 | 0.793 | 0.801 | 0.804 | 0.768 |
| 1割 | 0.764 | 0.778 | 0.780 | 0.749 |
| 2割 | 0.725 | 0.766 | 0.754 | 0.740 |
| 3割 | 0.688 | 0.756 | 0.724 | 0.738 |
| 5割 | 0.599 | 0.745 | 0.648 | 0.734 |
(AIの自信だけは FCG 0.746、WikiBio 0.727)
- BTPropは、外れが2〜3割を超えると、木を使わない自信だけより悪くなりました。
- 疑うBPは、自信の近くで止まりました。ただ、外れが多い所で自信より良くしているわけではなく、「足を引っぱらない」だけです。
- 疑うBP対BTPropは、FactCheckGPTで2割から勝ち(+0.041 / +0.068 / +0.146、5回とも)、WikiBioで5割が勝ち(+0.086)でした。WikiBioの3割は+0.014で、5回とも上でしたが基準未満の同着です。勝ちの基準(平均0.02以上かつ5回中4回以上)は、実験の前に決めて固定しました。
読み方
つながりが確かな所では、絶対に信じる BTProp が強い。つながりの確かさが分からない所では、つながりも疑う計算のほうが崩れにくい。そう読めると考えています。この「疑うのは保険(正しいときは少し損、外れが多いときに崩れない)」という形は、Snorkel(Ratner ほか、VLDB 2017)の弱い情報源の正確さを学ぶ利点の分析とも同じ傾向です。
言えないこと
- 外れはくじで逆にしたもので、本物のNLIの間違いとは形が違います。本物の誤り率も測っていません。
- 私の方法は2割で調整し、BTPropは公開設定のままです。
- 木はすべてChatGPTで作られたものです。
- 分解の枝は壊していません。
- WikiBioの正解は文の似かたで突き合わせたもので、5文は落としています。
再現
BTPropにはライセンス表示がないので、リポジトリにはコードを入れず、取ってくるスクリプトだけ置いています。CPUで数分です。
git clone https://github.com/mst-design2020/akane-e2-experiments
cd akane-e2-experiments/analysis/btprop
pip install numpy scikit-learn pyyaml absl-py datasets
bash setup_btprop.sh # BTProp(6e80da8)とラベルを取得、WikiBioの突き合わせ
cd work/BTProp
python ../../e210.py factcheckgpt out_fcg.json
python ../../e210.py wikibio out_wb.json
python ../../e211.py wikibio out_flip.json # つながりを逆にする
参考文献
- Hou ほか "A Probabilistic Framework for LLM Hallucination Detection via Belief Tree Propagation", NAACL 2025. https://arxiv.org/abs/2406.06950 / https://github.com/UCSB-NLP-Chang/BTProp
- Manakul ほか "SelfCheckGPT", EMNLP 2023(WikiBio). https://arxiv.org/abs/2303.08896
- Wang ほか "Factcheck-Bench", 2024(FactCheckGPT). https://arxiv.org/abs/2311.09000
- Ratner ほか "Snorkel: Rapid Training Data Creation with Weak Supervision", VLDB 2017. https://arxiv.org/abs/1711.10160
一般向けの説明は note に書きました。https://note.com/mst_design2020/n/ne9eea6736480
Discussion