解釈可能なＡＩ 機械学習モデルの解釈手法を実践的に理解する （Ｃｏｍｐａｓｓ Ｐｒｏｇｒａｍｍｉｎｇ）

機械学習モデルがどのように動作し、その結果が生成されるのかを解釈する手法をＰｙｔｈｏｎによる実装とともに説明する。ＡＩシステムを動かすモデルの解釈可能性を高め、説明可能なＡＩへの道を開く解説書。【「TRC MARC」の商品解説】

『Interpretable AI：Building Explainable Machine Learning Systems』（Ajay Thampi／Manning）の日本語版。

AIモデルの透明性と解釈可能性、そして説明可能性の追求は、エラーやバイアスを最小限に抑え、予測結果の信頼性・公平性を高め「責任あるAI」を実現するために重要な分野です。
本書では、線形回帰や決定木などのシンプルなホワイトボックスモデルから、深層ニューラルネットワークなどのようなブラックボックスモデルまで、その解釈手法とPythonによる実装を解説。「どのように動作し、予測に至ったのか」に答え、モデルを「解釈可能」にするためのアプローチを網羅的に扱い、そして更に「なぜ、この予測をしたのか」に答え「説明可能なAI」に至るための道を示しています。

【日本語版特別付録】
本書の第7章では、英語を対象とした、テキストからの特徴量の抽出を扱っています。
日本語版には、この処理を日本語に適用する方法を解説した『付録C 日本語版付録　日本語を扱う』を収録しています。

【Contents】
第1部 解釈可能性の基礎
　第1章はじめに
　第2章ホワイトボックスモデル

第2部 モデルの処理の解釈
　第3章 モデルに依存しない方法：大域的な解釈可能性
　第4章 モデルに依存しない方法：局所的な解釈可能性
　第5章 顕著性マップ

第3部 モデルの表現の解釈
　第6章 層とユニットを理解する
　第7章 意味的な類似性を理解する

第4部 公平性とバイアス
　第8章 公平性とバイアスの軽減
　第9章 説明可能なAIへの道

Appendix
　付録A セットアップを行う
　付録B PyTorch
　付録C 日本語版付録日本語を扱う【商品解説】