学習データに含まれる偏見や偏りをAIが引き継ぎ、不公平な判断・出力をしてしまう問題。採用・審査・画像生成などで実害が報告され、AI倫理の中心課題になっている。
AIは白紙から考えません。過去のデータで学ぶ以上、データに染み込んだ人間社会の偏りごと学習します。過去の採用実績で学んだAIが特定の属性を不利に評価した事例は有名で、「社長の画像を生成して」に偏った人物像ばかり出すのも同根の現象です。
対策は、データの偏りの点検、出力の監査、多様なテスト——地道な品質管理の積み重ねです。利用者としては「AIは中立」という思い込みを捨てるのが第一歩。AIの答えは「データに写った過去の平均」であり、公平の保証書ではありません。人の評価や重要な判断にAIを使うときほど、この視点が効きます。
用語を覚えるより、ストーリーで体感するほうが早い。