可解释人工智能（XAI）的解释范畴指其解释所涵盖的对象、层次、类型及目标等多维度的范围。以下从不同视角梳理其核心范畴：

一、按解释对象的范畴

解释的对象决定了 XAI 关注的具体层面，可分为三大核心范畴：

1. 模型层面

1）解释范畴：聚焦模型本身的结构、机制或行为，回答 “模型如何工作”。

    内容：

· 模型架构的透明度（如决策树的规则路径、线性模型的权重含义）；

· 模型复杂度与可解释性的平衡（如参数规模、网络深度对解释难度的影响）；

· 全局行为分析（如模型在整体数据分布上的决策逻辑，如 “年龄特征在信用评分模型中占比 30%”）。

2）典型技术：内在可解释模型（决策树、逻辑回归）、模型可视化（神经网络层激活分析）。

2. 数据层面

1）解释范畴：分析数据特征与模型输出的关联，回答 “哪些数据影响了决策”。

   内容：

· 特征重要性（如 SHAP 值量化每个特征对预测结果的贡献）；

· 数据异常检测（如离群样本对模型决策的影响）；

· 反事实解释（如 “若血压降低 10mmHg，患病概率将下降 20%”）。

2）典型技术：LIME（局部特征扰动分析）、Grad-CAM（图像关键区域定位）。

3. 决策层面

1）解释范畴：针对具体决策结果，回答 “为何做出这个决策”。

   内容：

· 单样本决策依据（如某张图片被分类为 “猫” 是因为检测到耳朵和胡须特征）；

· 决策逻辑的可追溯性（如提取 “IF-THEN” 规则解释黑箱模型的决策）；

· 决策合规性验证（如金融贷款决策是否违反反歧视原则）。

2）典型技术：规则提取、注意力机制可视化（如 Transformer 模型的注意力权重热力图）。

二、按解释深度的范畴

解释的深度反映了对模型机制的揭示程度，可分为：

1. 表面解释

1）范畴特点：提供浅层的关联信息，不涉及模型内部机制。

内容：

· 特征与结果的直接对应（如 “推荐该商品是因为你购买过同类产品”）；

· 简单统计描述（如 “年龄越大，风险评分越高”）。

· 优势与局限：易于理解，但无法揭示因果关系或复杂交互（如忽略特征间的非线性作用）。

2. 机制解释

1）范畴特点：深入模型内部，解释决策的生成逻辑或因果关系。

内容：

· 神经元激活模式（如神经网络中某层神经元对特定特征的响应）；

· 因果推理（如排除混杂变量后，验证 “吸烟” 与 “肺癌” 的直接关联）；

· 模型鲁棒性分析（如输入微小扰动如何影响决策）。

2）典型技术：因果介入分析（Causal Intervention）、对抗样本解释。

三、按解释抽象程度的范畴

解释的抽象程度决定了其适用范围是局部还是全局：

1. 局部解释

范畴特点：针对单个样本或特定决策的解释（微观层面）。

应用场景：医疗诊断（解释某患者的癌症检测结果）、个性化推荐（解释某条推荐的来源）。

2. 全局解释

范畴特点：描述模型在整体数据分布上的行为（宏观层面）。

应用场景：模型调试（分析整体特征重要性排序）、政策评估（验证 AI 是否存在群体偏见）。

3. 亚群体解释

范畴特点：解释模型在特定子群体（如 “女性用户”“老年患者”）中的行为差异（中观层面）。

应用场景：公平性分析（检测模型在不同子群体中的决策偏差）。

四、按解释生成方式的范畴

1. 内在可解释性

范畴特点：模型自身结构天然透明，无需额外解释技术。

典型模型：线性回归（权重直接代表特征影响）、决策树（规则可视化）、逻辑回归（概率解释）。

2. 事后可解释性

范畴特点：对已训练的黑箱模型（如神经网络、GNN）进行外部解释。

技术分类：

模型无关方法：不依赖模型内部结构（如 LIME、SHAP）；

模型特定方法：针对特定模型设计（如神经网络的梯度可视化、Transformer 的注意力分析）。

五、按解释受众的范畴

解释需适配不同受众的知识背景：

1. 技术受众（如开发者、数据科学家）

范畴需求：深度机制解释（如梯度消失对模型性能的影响、特征交互的数学推导）。

典型内容：模型参数敏感性分析、训练过程可视化（如损失函数收敛曲线）。

2. 非技术受众（如用户、决策者、普通公众）

范畴需求：简洁易懂的自然语言解释或可视化（避免技术术语）。

典型内容：用通俗语言解释推荐理由（如 “根据你的浏览历史和评分”）、用图表展示决策关键因素（如柱状图显示特征重要性）。

六、按解释目的的范畴

1. 科学研究目的

范畴内容：揭示 AI 模型的认知规律（如模仿人类视觉识别的层级机制），推动跨学科理论发展（如神经科学与深度学习的结合）。

2. 工程应用目的

范畴内容：辅助模型调试（定位过拟合原因）、优化模型性能（通过特征重要性筛选冗余变量）。

3. 伦理与合规目的

范畴内容：确保决策公平性（检测性别、种族等敏感特征的影响）、满足法律要求（如 GDPR 的 “解释权” 条款）、建立用户信任（透明化 AI 决策逻辑）。