説明可能AI（XAI）とは？

AIの判断根拠を人間に説明できるようにする技術・研究分野。融資審査や医療など「なぜその結論か」を示す義務がある領域で不可欠になる。

「AIがあなたの融資を却下しました。理由は……AIにも分かりません」——これでは社会で使えません。ディープラーニングは高精度な一方、内部が複雑すぎて判断根拠を追えない「ブラックボックス」問題を抱えます。説明可能AI（XAI）は、この箱に窓を開ける取り組みです。

判断に効いた要素を可視化する、判断根拠を別モデルで近似する、そもそも解釈しやすいモデルを使う——アプローチは様々です。LLMに「理由も説明して」と言えば流暢な説明は返りますが、それが本当の内部処理の説明とは限らない点は要注意。EUのAI法など規制でも説明責任は柱になっており、「精度と説明可能性のバランス」はAI導入の実務的な論点です。