メインコンテンツへスキップ
見出し画像

ハルシネーションとは?生成AIのもっともらしい誤りをITパスポート過去問で解説

    ある会社の営業担当者が、生成AIに「取引先A社の最近の業績をまとめて」と頼みました。返ってきた文章は、売上高や前年比の数字まで入っていて、とても読みやすいものでした。

    ところが、資料をそのまま上司に出したところ、「この数字、A社の決算発表と違うよ」と指摘されます。生成AIが、実在しない数字をそれらしく作っていたのです。

    このように、生成AIが、もっともらしいが事実とは異なる内容を出力することを ハルシネーション といいます。英語で「幻覚」という意味です。

    なぜハルシネーションが起きるのか

    生成AIは、学習したデータをもとに「次に来そうな言葉」をつなげて文章を作ります。そのため、内容が正しいかどうかを確かめているわけではありません。

    • 学習データに含まれていない情報を聞かれた

    • 学習データ自体に誤りや古い情報が含まれていた

    • 質問があいまいで、AIが内容を補ってしまった

    といった場合に、もっともらしい誤りが出やすくなります。

    ハルシネーションへの対策

    • 出典や一次情報で確かめる:数字や固有名詞は、公式の発表などで確認する

    • 人が最終確認する:AIの出力をそのまま使わず、内容に責任を持つ人がチェックする

    • 指示を具体的にする:何をどの範囲で答えてほしいかを、はっきり伝える

    • 社内の正しい資料を参照させる:信頼できる資料をもとに答えさせる仕組みを使う

    過去問にチャレンジ

    問題
    生成AIにおいて,もっともらしいが事実とは異なる内容が出力されることを表す用語として,最も適切なものはどれか。
    ア エコーチェンバー
    イ シンギュラリティ
    ウ ディープフェイク
    エ ハルシネーション
    出典:令和7年度 ITパスポート試験 問10

    正解と解説

    正解:エ

    生成AIが、もっともらしいが事実とは異なる内容を出力することをハルシネーションといいます。

    他の選択肢

    • ア:エコーチェンバーは、SNSなどで似た意見の人とばかりつながることで、自分の意見が正しいと思い込みやすくなる現象

    • イ:シンギュラリティは、AIが人間の知能を超え、社会が大きく変わる転換点(技術的特異点)

    • ウ:ディープフェイクは、AIを使って本物そっくりの偽の画像や動画、音声を作る技術

    ひっかけポイント

    ① ディープフェイクとの違い
    どちらも「事実ではないもの」が出てきますが、ディープフェイクは人が意図して偽物を作る技術です。ハルシネーションは、AIが意図せず誤った内容を出してしまう現象です。

    ② AIまわりのカタカナ用語をセットで覚える

    • ハルシネーション:AIがもっともらしい誤りを出す

    • ディープフェイク:AIで本物そっくりの偽物を作る

    • シンギュラリティ:AIが人間の知能を超える転換点

    • エコーチェンバー:似た意見ばかりに囲まれて考えが偏る

    • フィルターバブル:自分好みの情報ばかり表示され、ほかの情報が見えなくなる

    ③ 「AIの出力は正しい」と考えない
    対策を問う問題では、「AIの出力をそのまま使う」は誤りです。人による確認や、出典での裏付けが正解のサインです。

    まとめ

    • ハルシネーションは、生成AIがもっともらしいが事実と異なる内容を出力すること

    • 生成AIは内容の正しさを確かめずに文章を作るため、誤りが混ざることがある

    • 対策は、出典で確かめる、人が最終確認すること

    • 人が意図して偽物を作るのはディープフェイク

    ほかの用語の解説は、ITパスポート過去問解説まとめ|分野別の記事一覧からどうぞ。

    ―――

    この記事のような解説を、試験範囲全体で体系的にまとめた本を出しています。
    過去問だけでは理解が浅いと感じる人は、ぜひどうぞ。

    『ITパスポート 新試験対応 体系テキスト+過去問』
    Amazonで見る

    あなたへのおすすめ