AIのバイアス(偏り)の発生原因
採用選考を支援するAIシステムにおいて、過去の採用履歴データをそのまま学習させた結果、特定の性別や年齢層の応募者が不当に低く評価される問題が起きた。この現象の主な原因として適切なものはどれか。
正解と詳しい解説・ひっかけポイントを見る
正解:ア(過去の学習データ自体に含まれていた人間の偏見(バイアス)をAIが増幅して学習した)
「Garbage In, Garbage Out(ゴミを入れればゴミが出る)」の原則どおり、学習データに歴史的な偏りがあるとAIはそれを「正解パターン」として学習します。データの公平性検証と人間によるチェックが不可欠です。
本番で狙われるひっかけポイント
「AIは客観的だから差別しない」という思い込みが落とし穴。過去の人間の偏見をそのまま学習してしまう。
全選択肢の解説
- ア. 過去の学習データ自体に含まれていた人間の偏見(バイアス)をAIが増幅して学習した:AIは学習データの傾向を忠実に再現するため、過去データに偏りがあると差別的な判定を再生産してしまう。
- イ. AIのハードウェア(GPU)の計算精度が低いためにランダムな誤差が生じた:計算精度の問題ではなくデータ品質・偏りの問題。
- ウ. ネットワーク帯域が不足して応募者の履歴書データが欠損した:通信速度の問題ではない。
- エ. SSL/TLSによる通信暗号化が設定されていなかった:暗号化は盗聴防止であり判定バイアスとは無関係。