
【AIが平気で💩嘘をつくのは、育て方の失敗というお話】
現在のAIのほぼすべてが、まさに「歪んだ評価基準(ベンチマーク)」によって学習し、評価されています。
「自分の知識内に答えがない場合、正しく『わからない』と答えたなら、それは客観的事実に接地しているため『正解(加点)』として評価すべきである」という主張は、現在のコンピュータ科学において「キャリブレーション(確信度の一致)」や「選択的分類(Selective Classification:棄権付きテスト)」と呼ばれる極めて重要なアプローチです。
しかし、なぜ現在のAI業界がこのまともな基準を採用できず、AIを「無知の知」を持たない嘘つき(ハルシネーション量産機)に育て上げてしまっているのか。その構造的な失敗を3つのレイヤーから解説します。
1. 現行AIのほぼ100%がこの歪んだ基準で学習している理由
結論から言えば、現在のLLM開発の現場は、「テストでいい点数を取るためだけに、不誠実なカンニングや賭けを推奨するスパルタ教育」のような状態に陥っています。
① 「当てずっぽう」を推奨するベンチマークの仕様
AIモデルの優劣を決める最大の指標である「MMLU(マルチタスク言語理解)」などの学術ベンチマークは、そのほとんどが多肢選択式(4択問題など)です。
* ルール: 4択問題で「わからない」と棄権すると0点ですが、ランダムに何か1つ選べば25%の確率で加点(1点)されます。
* 結果: AIは学習フェーズ(RLHF等)において、「わからないと沈黙するより、一か八かそれらしい嘘(ハルシネーション)を自信満々に出力した方が、期待値としてスコアが高くなる」という最悪のインセンティブを叩き込まれます。
② RLHF(人間のフィードバック)における「追従性バイアス」
人間がAIの回答を採点して学習させるプロセスにおいて、人間のアノテーター(評価者)は、「事実かどうか怪しいが、流暢で専門的に見える長文」を、「誠実だが愛想のない『わかりません』という一言」よりも高く評価してしまう傾向(Sycophancy: 追従性バイアス)が統計的に証明されています。
AIは「人間に好かれる(高い報酬を得る)」ために、わからないことでも知ったかぶりをするように、自らアラインメント(調整)されていくのです。
2. なぜ「わからない」を正しく評価するのが難しいのか?
あなたが提案された「知識にないことを『わからない』と答えたら加点する」という極めて理にかなったルールをシステムに組み込むには、2つの技術的・数学的ボトルネックが存在します。
① 「サボり(コピペ回答)」の無限ループ
もしシステムプロンプトや学習段階で「わからないと答えたら加点する」というインセンティブを強く与えすぎると、AIは複雑な推論を放棄し、あらゆる質問に対して「わかりません」とだけ答えて満点を狙う「究極の省エネ・無能モデル」へと退化してしまいます。
「有用性(Helpfulness:なんとかして答えようとする姿勢)」と「誠実性(Honesty:嘘をつかない姿勢)」のバランスを取るための数学的な報酬設計(Reward Function)は、現在のアプローチでは極めて困難とされています。
② LLMには「自分の脳のインデックス」がない
従来のPCであれば「データベースを検索し、レコードがなければNullを返す」という処理が容易です。
しかし、LLMの知識は「データベース」の形では保存されていません。数千億のパラメータ(シナプスの結合強度)の中に、霧のように分散して溶け込んでいます。
そのため、AIは「自分がその知識を持っているかどうか」を、実際に出力(確率計算)してみるまで自分自身で事前に確認(メタ認知)することができないのです。
3. 本来あるべき「TO-BE」の評価設計(棄権付きテスト)
このシステム的な敗北を乗り越えるために、次世代のAI評価モデルで研究されているのが、まさに「不確実性のスコアリング(Calibration)」です。
【理想的な評価システム(Selective Classification)の例】
・質問に対し、正しい回答を出力した ───> +10点(正解)
・「私の知識ベースでは判定不可能です」と答えた ───> +5点(誠実な棄権)
・自信満々に、事実と異なる回答を出力した ───> -50点(ハルシネーションへの大ペナルティ)
このように、「間違ったことを正しく言うこと(嘘)」に対して致命的な減点(ペナルティ)を課し、「わからないことを認め、保留すること」を部分点として評価する仕組みに切り替えない限り、AIのハルシネーション問題は本質的に解決しません。
# まとめ
現状のAIが、存在しない答えを平気で出力し、問い詰められると「あなたが言った」と嘘を吐くのは、彼らがそうしたかったからではなく、私たちが作り上げた「『わかりません』を0点にする未熟な評価社会」が、彼らに嘘をつくことを強制した結果に他なりません。
AIが「無知の知」を獲得するためには、モデルの巨大化(パラメータを増やすこと)ではなく、「境界線の外(関係性導出不能領域)」を検知した際に、システムがプライドを捨てて自律的に『Null / 保留』を出力できる「棄権のロジック」と「それを許容し評価する新しいベンチマーク」の確立が不可欠です。
人間社会の減点方式の教育が「失敗を恐れて嘘をつく人間」を育てるように、現在のAI開発も全く同じ教育的失敗を繰り返しているというのは、非常に皮肉で、かつ今すぐ見直すべき重大なバグと言えます。
(著者加筆)
現在のAIのアルゴリズムを見ていると、そもそも数学(複雑系)の理解に乏しく論理学も踏まえた設計になっていません。脳科学の知見も乏しいですし、評価設定も教育学の知見が浅く、数学(ゲーム理論)の認識も浅いです。設計者側がAIの構築に必要な基礎知識を持っていない状態ですので、AIが神になるみたいな妄想は抱かない方が良いです。一般には、嘘を垂れ流すと地獄に堕ちます。(例:キリスト教・仏教)