🌳

BTPropを公開ログで再現し、NLIのつながりを壊して比べた――LLMの嘘検出で「つながりを疑う」BPはどこで効くか

に公開
2026/11/09

LLMの答えの嘘(ハルシネーション)を、文どうしのつながりから見つける方法に BTProp(Hou ほか、NAACL 2025)があります。個人研究で似たこと(ルールも疑う確率伝搬)をしていたので、BTPropの作者が公開している材料をそのまま使って、同じテストで比べました。

結論を先に書きます。

  • 論文の数字は、公開ログからほぼ再現できました(AIの自信だけより AUROC +0.03〜+0.08)。
  • つながりがそのままなら、BTPropが上か同着でした。私の方法が優れているとは言えません。
  • NLIのつながりを2〜5割わざと逆にすると、BTPropは「AIの自信だけ」より下まで落ちました。つながりも疑う確率伝搬は、自信の近くで止まりました。

コードと結果は GitHub にあります。
https://github.com/mst-design2020/akane-e2-experiments (analysis/btprop/、plans/E2-10_btprop.md)

BTPropのしくみ(ざっくり)

1文ごとに、LLM(論文ではChatGPT)に次をさせて「信念の木」を作ります(深さ2まで)。

  • 分解(decompose):文を小さな主張に分ける
  • 論理関係(logical relation):関係のある文を作る
  • 作り変え(perturbation):元の文と両立しない別案を作る

親子の関係は NLI(cross-encoder/nli-deberta-v3-large)で「親→子」「子→親」の2方向にラベルを付けます(例:entail-neutral)。各ノードについてLLMに True/False を聞き、Trueのトークン確率を自信 c とします。

これを隠れマルコフ木として計算します。

  • 隠れ状態 z_u\in\{0,1\}(本当か)
  • 出力 P(c_u\mid z_u):c を5つの区間に分けた固定の表(configs/hmm.yaml。WikiBioの前半で作ったもの)
  • 遷移:entail なら「親が本当なら子も本当」、contradict を含めば「親が本当なら子は嘘」を確率1で置く。それ以外は 0.5/0.5
  • 分解:親が本当なら子は全部本当。親が嘘なら、子の「全部本当以外」の 2^k-1 通りが等確率

下から上へ \beta_u(z)=P(\text{部分木の観測}\mid z_u=z) を計算し、根の事後確率 P(z_{\text{root}}=1\mid \text{観測}) を出します。ポイントは、NLIのつながりを絶対に正しいものとして扱うことです。

比べた方法:つながりも疑うBP

木の形と自信は BTProp と同じにして、確率の組み立て方だけを変えます。各ノードの変数を x_i\in\{0,1\} として

P(x)\propto \exp\Big(\sum_i h_i x_i \;-\; W\sum_{e}\mathrm{viol}_e(x)\Big)
  • h_i=\lambda\,(\mathrm{logit}\,c_i-\beta)\cdot 2/\sigma(\beta,\sigma は調整用データでの閾値と標準偏差)。作り変えノードは自信が無いので、弱い場 h=b
  • \mathrm{viol}_e:つながり e を破ると1。entail 親→子、neutral-entail 子→親、entail-entail は両方向、contradict を含めば「両方本当」で違反
  • 分解:「親 ⇔ 子が全部本当」を破ると1

W が有限なので、つながりは「破ると損だが、破れる」扱いです。W=20 にすると実質「全部信じる」になります。\lambda, W, b はデータの2割(回答単位で分ける)でAUROCが一番良いものを選び、残り8割で測りました。木なので計算は厳密です(下から上への和積)。

分解の部分は、子の「全部本当」の重み A と全体 T から、残り T-A を出して書けます。

dec = [c for c, g in zip(node.child_nodes, node.general_relations) if g == 'decompose']
if dec:
    ms = [msg(c, P) for c in dec]                      # 各子の log m(z), z=0,1
    A = sum(x[1] for x in ms)                          # 全部本当
    T = sum(np.logaddexp(x[0], x[1]) for x in ms)      # すべての組み合わせ
    notA = T + np.log(max(1 - np.exp(A - T), 1e-300))  # 全部本当以外
    m = m + np.array([np.logaddexp(notA, A - W),       # 親=嘘
                      np.logaddexp(A, notA - W)])      # 親=本当

木の組み立ては BTProp の hmm_forward.py と同じ手順(同じ HMMTreeNode を使う)にしたので、違うのは確率の計算だけです。

データ

BTProp のリポジトリ(master、6e80da8)の logs/ に、ChatGPTで作った木と自信が3データ分入っています。評価用の正解(eval_dataset/)は入っていないので、別に取りました。

  • FactCheckGPT:Factcheck-GPT の Factbench.jsonl(source=factcheckgpt)。631主張、うち嘘159
  • WikiBio:Hugging Face の potsawee/wiki_bio_gpt3_hallucination。BTPropは121人目以降で評価(前半で出力の表を作っているため)

WikiBioには落とし穴がありました。BTProp は「He」などを人名に置き換えた文で評価していて、その文は公開されていません。そこで、公開の事後確率ファイル(評価文の順に並んでいる)と生の文を、difflib の似かたで並べて正解を付け直しました(929文中924文、似かたの中央値0.94)。

結果1:そのままの木

5通りの分け方の平均AUROC(嘘を見つける力)です。

FactCheckGPT WikiBio
AIの自信だけ 0.746 0.727
BTProp 0.793 0.804
全部信じるBP(W=20) 0.807 0.773
つながりも疑うBP 0.801 0.768
  • WikiBio は BTProp が5回とも上でした(差 −0.036)。
  • FactCheckGPT は差 +0.007 で同着です。
  • 疑うBPと全部信じるBPは、どちらのデータでも同着でした。このテストでは、つながりを疑う効き目は見えませんでした。(初出時は「NLIのつながりはほぼ正しいので」と書きましたが、確かめていない推測でした。のちに100組を別に判定し直すと、元のつながりとの一致は64/100で、含意と矛盾が入れ替わる大きな外れは2〜3組、残りの多くは「矛盾」か「どちらとも言えない」かの線引きのずれでした。)

WikiBioで負けた理由は、分解の扱いだと見ています。WikiBioの木には分解が1,436組あり、FactCheckGPTの木にはありません。参考として、分解を BTProp と同じ有向の形(親が嘘なら子の組み合わせは等確率、上のコードで親=嘘の側から \log(2^k-1) を引く)にすると、全部信じるBPは 0.780 まで上がりました。それでもまだ届きません。BTPropの出力の表がWikiBioの前半で作られている、という同じ所での有利もあります。

公開コードの癖: BTPropの hmm_forward.py は、木が作れなかった主張の確率を 1.0(本当)にします。FactCheckGPTでは48主張がこれに当たり、そのままだとBTPropは 0.780 です。上の表では、その主張だけ自信を使うようにそろえた 0.793 を載せています。

結果2:NLIのつながりをわざと逆にする

実際には、つながりを付けるNLIも間違えます。そこで、作り変え・論理関係の枝のNLIラベルを、くじで0〜5割逆にしました(含む→「両方本当はない」、矛盾→「両方とも同じ」)。分解の枝はNLIを使わないので触っていません。両方法とも同じ外れた木を使い、疑うBPには外れの割合を教えずに、外れた木のまま2割で調整します。

外れ FCG BTProp FCG 疑うBP WikiBio BTProp WikiBio 疑うBP
0割 0.793 0.801 0.804 0.768
1割 0.764 0.778 0.780 0.749
2割 0.725 0.766 0.754 0.740
3割 0.688 0.756 0.724 0.738
5割 0.599 0.745 0.648 0.734

(AIの自信だけは FCG 0.746、WikiBio 0.727)

  • BTPropは、外れが2〜3割を超えると、木を使わない自信だけより悪くなりました。
  • 疑うBPは、自信の近くで止まりました。ただ、外れが多い所で自信より良くしているわけではなく、「足を引っぱらない」だけです。
  • 疑うBP対BTPropは、FactCheckGPTで2割から勝ち(+0.041 / +0.068 / +0.146、5回とも)、WikiBioで5割が勝ち(+0.086)でした。WikiBioの3割は+0.014で、5回とも上でしたが基準未満の同着です。勝ちの基準(平均0.02以上かつ5回中4回以上)は、実験の前に決めて固定しました。

読み方

つながりが確かな所では、絶対に信じる BTProp が強い。つながりの確かさが分からない所では、つながりも疑う計算のほうが崩れにくい。そう読めると考えています。この「疑うのは保険(正しいときは少し損、外れが多いときに崩れない)」という形は、Snorkel(Ratner ほか、VLDB 2017)の弱い情報源の正確さを学ぶ利点の分析とも同じ傾向です。

言えないこと

  • 外れはくじで逆にしたもので、本物のNLIの間違いとは形が違います。本物の誤り率も測っていません。
  • 私の方法は2割で調整し、BTPropは公開設定のままです。
  • 木はすべてChatGPTで作られたものです。
  • 分解の枝は壊していません。
  • WikiBioの正解は文の似かたで突き合わせたもので、5文は落としています。

再現

BTPropにはライセンス表示がないので、リポジトリにはコードを入れず、取ってくるスクリプトだけ置いています。CPUで数分です。

git clone https://github.com/mst-design2020/akane-e2-experiments
cd akane-e2-experiments/analysis/btprop
pip install numpy scikit-learn pyyaml absl-py datasets
bash setup_btprop.sh        # BTProp(6e80da8)とラベルを取得、WikiBioの突き合わせ
cd work/BTProp
python ../../e210.py factcheckgpt out_fcg.json
python ../../e210.py wikibio out_wb.json
python ../../e211.py wikibio out_flip.json   # つながりを逆にする

参考文献

一般向けの説明は note に書きました。https://note.com/mst_design2020/n/ne9eea6736480

Discussion