
AIのバイアスとは?学習データの品質の確保をITパスポート過去問で解説
ある会社が、工場で作った部品の画像から不良品を見分けるAIを作りました。ところが、実際に使ってみると、夕方に撮影した画像ばかりを「不良品」と判定してしまいます。
調べてみると、学習に使った「良品」の画像は、すべて明るい昼間に撮影したものでした。AIは部品のキズではなく、「画像の明るさ」を手がかりに判断するようになっていたのです。
このように、学習データの偏りなどによって、AIの判断が一方向に偏ってしまうことを バイアス といいます。AIは学習したデータのとおりに判断するため、データの品質がそのまま結果の品質になります。
学習データで気をつけること
目的に合ったデータか:AIにさせたい判断に合ったデータを、偏りなく集める
出どころは確かか:データの入手元や、どう作られたか(作成来歴)を確認する
正解ラベルは適切か:データに付ける正解の情報(アノテーション)を、学習の目的に合わせて付ける
判断できないデータを混ぜない:人間でも見分けられないほどあいまいなデータは、学習の邪魔になるので除外する
過去問にチャレンジ
問題
AIの機械学習で利用するデータの取扱いに関する記述のうち,バイアスの低減やデータの品質を確保するために考えられる対策として,適切なものだけを全て挙げたものはどれか。
a 学習の目的に適したデータであることを確認する。
b データの入手元,作成来歴を確認する。
c データへのアノテーションの付与は学習目的に合わせて実施する。
d 人間の目でも同定が困難と考えられる画像認識用のデータは除外する。
ア a,b
イ a,b,c,d
ウ a,d
エ b,c,d
出典:令和7年度 ITパスポート試験 問8
正解と解説
正解:イ
a〜dのすべてが、バイアスを減らし、データの品質を確保するための対策です。
a:目的に合わないデータで学習すると、判断がずれる
b:出どころが不確かなデータには、誤りや偏りが混ざっているおそれがある
c:正解ラベル(アノテーション)が目的に合っていないと、正しく学習できない
d:人間でも判断できないデータは、正解ラベルがあいまいになり、学習の品質を下げる
ひっかけポイント
① dの「除外する」で迷わない
「データは多いほどよい」と考えると、dを誤りだと思ってしまいます。しかし、人間でも見分けられないデータには正しい正解を付けられないので、除外するのが適切です。
② 「アノテーション」の意味を覚える
アノテーションは、データに「これは犬」「これは不良品」のような正解のラベルを付ける作業です。教師あり学習では欠かせません。
③ 「全て」が正解のパターン
AIの留意事項やデータ品質の問題では、どれももっともな対策が並び、「全て」が正解になることがあります。
まとめ
バイアスは、学習データの偏りなどでAIの判断が偏ってしまうこと
対策は、目的に合うデータ、出どころの確認、適切なアノテーション、あいまいなデータの除外
アノテーションは、データに正解のラベルを付ける作業
AIはデータのとおりに判断するので、データの品質が結果の品質になる
ほかの用語の解説は、ITパスポート過去問解説まとめ|分野別の記事一覧からどうぞ。
―――
この記事のような解説を、試験範囲全体で体系的にまとめた本を出しています。
過去問だけでは理解が浅いと感じる人は、ぜひどうぞ。
『ITパスポート 新試験対応 体系テキスト+過去問』
Amazonで見る