メインコンテンツへスキップ
見出し画像

AIのバイアスとは?学習データの品質の確保をITパスポート過去問で解説

    ある会社が、工場で作った部品の画像から不良品を見分けるAIを作りました。ところが、実際に使ってみると、夕方に撮影した画像ばかりを「不良品」と判定してしまいます。

    調べてみると、学習に使った「良品」の画像は、すべて明るい昼間に撮影したものでした。AIは部品のキズではなく、「画像の明るさ」を手がかりに判断するようになっていたのです。

    このように、学習データの偏りなどによって、AIの判断が一方向に偏ってしまうことを バイアス といいます。AIは学習したデータのとおりに判断するため、データの品質がそのまま結果の品質になります。

    学習データで気をつけること

    • 目的に合ったデータか:AIにさせたい判断に合ったデータを、偏りなく集める

    • 出どころは確かか:データの入手元や、どう作られたか(作成来歴)を確認する

    • 正解ラベルは適切か:データに付ける正解の情報(アノテーション)を、学習の目的に合わせて付ける

    • 判断できないデータを混ぜない:人間でも見分けられないほどあいまいなデータは、学習の邪魔になるので除外する

    過去問にチャレンジ

    問題
    AIの機械学習で利用するデータの取扱いに関する記述のうち,バイアスの低減やデータの品質を確保するために考えられる対策として,適切なものだけを全て挙げたものはどれか。
    a 学習の目的に適したデータであることを確認する。
    b データの入手元,作成来歴を確認する。
    c データへのアノテーションの付与は学習目的に合わせて実施する。
    d 人間の目でも同定が困難と考えられる画像認識用のデータは除外する。
    ア a,b
    イ a,b,c,d
    ウ a,d
    エ b,c,d
    出典:令和7年度 ITパスポート試験 問8

    正解と解説

    正解:イ

    a〜dのすべてが、バイアスを減らし、データの品質を確保するための対策です。

    • a:目的に合わないデータで学習すると、判断がずれる

    • b:出どころが不確かなデータには、誤りや偏りが混ざっているおそれがある

    • c:正解ラベル(アノテーション)が目的に合っていないと、正しく学習できない

    • d:人間でも判断できないデータは、正解ラベルがあいまいになり、学習の品質を下げる

    ひっかけポイント

    ① dの「除外する」で迷わない
    「データは多いほどよい」と考えると、dを誤りだと思ってしまいます。しかし、人間でも見分けられないデータには正しい正解を付けられないので、除外するのが適切です。

    ② 「アノテーション」の意味を覚える
    アノテーションは、データに「これは犬」「これは不良品」のような正解のラベルを付ける作業です。教師あり学習では欠かせません。

    ③ 「全て」が正解のパターン
    AIの留意事項やデータ品質の問題では、どれももっともな対策が並び、「全て」が正解になることがあります。

    まとめ

    • バイアスは、学習データの偏りなどでAIの判断が偏ってしまうこと

    • 対策は、目的に合うデータ、出どころの確認、適切なアノテーション、あいまいなデータの除外

    • アノテーションは、データに正解のラベルを付ける作業

    • AIはデータのとおりに判断するので、データの品質が結果の品質になる

    ほかの用語の解説は、ITパスポート過去問解説まとめ|分野別の記事一覧からどうぞ。

    ―――

    この記事のような解説を、試験範囲全体で体系的にまとめた本を出しています。
    過去問だけでは理解が浅いと感じる人は、ぜひどうぞ。

    『ITパスポート 新試験対応 体系テキスト+過去問』
    Amazonで見る

    あなたへのおすすめ