SHAPでAIの判断を説明する：実務で使えるシャプレー値入門

2026年6月26日

機械学習モデルの予測精度が高まるほど、「なぜその予測になったのか」を人間が理解することは難しくなります。この「ブラックボックス問題」を解く手法として、現在最も広く利用されているのが「SHAP（SHapley Additive exPlanations）」です。金融・医療・マーケティングと業界を問わず、「AIの判断を説明するデファクトツール」としての地位を築いています。

本記事では、SHAPの基本、その背景にあるシャプレー値の考え方、代表的な実装、実務での使いどころ、そして導入時の注意点までを実務目線で整理します。

1. SHAPとは何か

SHAPは、機械学習モデルが行う予測に対して、「どの特徴量がどれだけ予測値に貢献したか」を公平に分解する手法です。2017年にLundbergとLeeによって提案され、当初から「人が見て理解できる説明」を超えて、「数学的に一貫性のある説明」として評価されてきました。

例えば、ある顧客の解約確率をモデルが0.82と予測したとき、SHAPは「平均予測値は0.3だが、利用頻度の低さが＋0.4、サポート問い合わせ回数の多さが＋0.2、プラン賠額の高さが－0.1…」という形で、予測値の内訳を表示します。それぞれの貢献度を足しあわせると、その個体の予測値に一致する点がSHAPの重要な性質です。

2. なぜSHAPが選ばれるのか

XAI（説明可能なAI）の手法は他にもLIMEやアテンション可視化など複数ありますが、その中でSHAPがデファクトの地位を築けた理由を見ていきましょう。

1. 理論的な裏付けが強い

SHAPはゲーム理論の「シャプレー値」に基づいており、効率性・対称性・ダミー性・加法性という公平分配の要件を満たす、唯一の説明手法として証明されています。「なぜその説明を信じていいのか」という問いに、数学的な答えを持っている点が最大の強みです。

2. 個体と全体の両方を説明できる

「この顧客はなぜ解約と予測されたのか」という局所的説明と、「モデル全体としてどの変数が重要か」という大域的説明の両方を、同じ枚組みで提供できます。

3. モデルを選ばない

汎用のカーネルSHAPは、XGBoost、ランダムフォレスト、ニューラルネットワーク、サポートベクターマシンなど、あらゆるモデルに適用できます。モデルごとに説明手法を切り替える必要がないという運用上のメリットも大きいです。

4. 豊富な可視化

Pythonのshapライブラリには、force plot、summary plot、dependence plot、waterfall plotなど、意思決定に使える可視化が充実しており、現場への展開がしやすい点も魅力です。

3. シャプレー値という考え方

SHAPの核心にある「シャプレー値」は、ゲーム理論で「複数のプレイヤーが協力して生み出した利益を、どう公平に分配するか」を表す数値です。

これをモデルに当てはめると、「複数の特徴量が協力して生み出した予測値を、どう公平に各特徴量に割り振るか」という問題になります。計算上は、ある特徴量を「含めた場合」と「含めない場合」の予測値の差を、あらゆる組み合わせで平均して求めます。

この「あらゆる組み合わせ」を考慮するのがシャプレー値の特徴であり、特徴量間の相互作用を適切に扱える理由です。ただし計算量は特徴量数に対して指数的に増えるため、実用では効率的な近似アルゴリズムが不可欠です。

4. SHAPの実装と主要な種類

1. TreeSHAP

決定木ベースのモデル（XGBoost、LightGBM、ランダムフォレスト等）に特化した高速アルゴリズムです。木構造を利用して多項式時間で厳密なシャプレー値を計算できるため、実務で最も使われるSHAPです。

2. KernelSHAP

モデルの中身を問わず適用できる汎用手法です。LIMEの考え方を拡張し、シャプレー値の性質を満たすように設計されています。計算コストは高いものの、どんなモデルにも適用できる柔軟性が魅力です。

3. DeepSHAP

ディープラーニングモデルに特化した手法で、DeepLIFTをベースにSHAPの考え方を取り入れています。画像認識や自然言語処理モデルの説明に利用されます。

4. LinearSHAP

線形モデルに対して単純な式でシャプレー値を計算できる法です。重回帰やロジスティック回帰などの実務モデルで使いやすい一本です。

5. 業務でのSHAP活用シーン

1. 金融：モデルリスク管理と規制対応

信用スコアリングで「低スコア」と判定された顧客に対し、「どの要因が何ポイント下げたか」を説明することは、規制上も顧客対応上も必須です。SHAPはこのユースケースに最も適した手法の一つとして、大手金融機関で標準採用されています。

2. マーケティング：顧客離反予測の動因分析

どの顧客が離反しそうかを予測するだけでは不十分です。SHAPを使えば「AS顧客の起こる離反リスクを高める要因」を個別に判別でき、「価格不満」「サポート不満」といった原因に応じたアクションを打てるようになります。

3. 医療：診断支援の信頼構築

AIが「この画像は悪性の可能性高い」と示しても、医師がそれを受け入れるには根拠が必要です。SHAP（ディープラーニングの場合はDeepSHAP）を使えば、「この部分が判断に寄与した」という説明を提供でき、临床現場での採用をしやすくします。

4. 製造：品質异常検知の要因分析

製造ラインで「品質異常」と予測された製品について、温度・圧力・原材料ロットなどのうち、どの要因が危険信号を出しているかをSHAPで可視化することで、原因追跡とプロセス改善につなげられます。

5. 人事：公平性検証

採用・人事評価にモデルを使う際、「性別や年齢が予測に不当に寄与していないか」をSHAPで検証することが、バイアス検知とコンプライアンスの要となります。

6. 導入時の注意点とこれから

SHAPは強力なツールですが、使い方を誤ると誤った意思決定を按し進めるリスクもあります。

1. 「重要度」は「因果関係」ではない

SHAPが示すのは「モデルの予測にとってどの変数が重要か」であって、「現実世界でその変数が結果を引き起こしているか」を意味しません。因果推論と混同しない警戒が必要です。

2. 特徴量の相関に注意

相関の高い特徴量が複数ある場合、貢献度がそれらの間で分散し、「どの変数もとりたてて重要ではない」ように見えてしまうことがあります。解釈の際には特徴量間の関係を事前に把握しておきましょう。

3. 計算コストとのバランス

データ量やモデル、サンプル数によっては計算コストが重くなります。TreeSHAPを使えるケースではそれを選ぶ、サンプルサイズを調整するなど、実装上の工夫が重要です。

4. これからの展望

生成AIの拡大とともに、LLMの出力に関する説明手法としてのSHAPの応用研究も進んでいます。また、因果推論との組み合わせにより、単なる「モデル説明」から「現実を判断するための説明」へと進化する動きも加速しています。

SHAPは「モデルと人間の間をつなぐ言語」です。予測だけでなく説明をさせることで、AIは初めて職場に受け入れられ、意思決定を助けるパートナーになります。「とりあえずSHAPも出しておこう」ではなく、「SHAPをどう使うかを設計する」姿勢こそが、これからのデータサイエンスに求められるスキルです。

URLをコピーしました！

URLをコピーしました！

ナレッジ AIに知能の問題はない、あるのは「コンテクスト」の問題だ

この記事を書いた人

神田利貴人