10·01
8 min
XAIとは何か / Rudin(2019)批判
— 解釈可能性をめぐる議論
「説明可能 AI」と「解釈可能モデル」は別物、という Rudin の主張を読む。
// xai / what-is
READ →
// PART 10 / 16
XAI
L2
L3
説明可能AI
ブラックボックスを開く 10 手法。SHAP、LIME、Grad-CAM、Counterfactual から Concept Bottleneck まで、説明可能 AI の主要技法を「臨床で誤読しない」視点で 10 本に整理。Rudin (2019) 批判も含めて立場を明示します。
- ARTICLES
- 10本
- EST_TIME
- 80min
- LEVEL
- L2/L3
- UPDATED
- 2026.05.04
記事一覧
// 10 ARTICLES · ALLXAIとは何か / Rudin(2019)批判
10·02
7 min
解釈可能モデル vs 説明可能AI
— ホワイトボックスかブラックボックスか
GAM / EBM / CBM 系と post-hoc 説明法の使い分け。研究設計の出発点。
// xai / interpretable-vs-explainable
READ →
10·03
9 min
Global解釈手法(feature importance / permutation / PDP / ICE / ALE)
— 全体傾向を可視化する手法群
モデル全体の振る舞いを記述する 5 手法。それぞれの仮定と注意点。
// xai / global-methods
READ →
10·04
7 min
LIME
— 局所線形近似で説明
個別予測の周辺で線形モデルを当てる発想。サンプリング設計が要。
// xai / lime
READ →
10·05
9 min
SHAP(計算量・近似・落とし穴)
— Shapley値の実用的注意点
Tree / Kernel / Deep 各 explainer の違い、計算量、誤読パターン。
// xai / shap
READ →
10·06
8 min
Counterfactual Explanation
— 「もしXを変えたら」型の説明
個別予測を反転させる最小変更を提示。臨床判断補助として有望。
// xai / counterfactual
READ →
10·07
8 min
Grad-CAM / Score-CAM / Eigen-CAM
— CNNが注目している領域の可視化
勾配ベースの注目領域可視化。ヒートマップの過信を避ける読み方。
// xai / cam
READ →
10·08
8 min
Integrated Gradients / SmoothGrad
— 勾配ベースの帰属法
ベースラインからの積分による帰属。SmoothGrad のノイズ平均化。
// xai / ig-smoothgrad
READ →
10·09
8 min
Attentionは説明か(MIL含む)
— Attentionの解釈性論争
Attention 重みは説明として信頼できるか。Jain & Wallace 議論を読む。
// xai / attention
READ →
10·10
9 min
Concept Bottleneck Model / ProtoPNet
— 設計時から解釈可能なモデル
予測経路に「臨床概念」や「プロトタイプ」を強制する設計の利点。
// xai / cbm-protopnet
READ →