T-ASE 开源代码论文推荐｜把分布建模移到隐空间，能缓解数据漂移误报吗？

从对抗攻击视角重构故障重建，东南大学团队提出ABIGX统一框架，将经典CP/RBC诊断方法拓展至任意深度学习模型，理论证明其等价性，破解"故障类别涂抹"难题，在TEP、晶圆图及工业图像上验证，为智能运维黑箱决策提供可信归因工具。 本期给大家推荐这篇东南大学虞文武教授团队的论文。本文提出ABIGX（Adversarial Fault Reconstruction-Based Integrated Gradient eXplanation，基于对抗故障重构的积分梯度解释）框架，统一解决可解释故障检测与分类问题。核心创新在于：1）从对抗攻击视角重构故障重建，将传统CP（Contribution Plot，贡献图）/RBC（Reconstruction-Based Contribution，基于重构的贡献）方法扩展到非线性模型；2）提出分类SPE（Squared Prediction Error，平方预测误差）指标，使AFR（Adversarial Fault Reconstruction，对抗故障重构）适用于故障分类任务；3）结合集成梯度实现模型无关的变量归因。理论证明CP和RBC是ABIGX的线性特例，并分析"故障类别涂抹"问题，证明ABIGX优于传统梯度方法。实验涵盖多种模型，在TEP过程、晶圆图和MVTec-AD数据集上验证其优越的解释准确性与泛化能力。 由于文章篇幅过长，小编将分两次为大家翻译介绍这篇论文，第一篇推文系统系统综述了故障检测与分类的研究背景，指出传统CP、RBC方法受限于线性模型且无法处理分类任务，而现有深度学习解释器缺乏故障诊断领域的理论基础。基于此，作者从对抗攻击视角重新诠释故障重建，提出AFR方法及分类SPE指标，进而构建ABIGX统一框架——通过AFR生成语义有效的反事实基线，结合集成梯度实现任意可微FDC模型的变量归因，为后续理论分析与实验验证奠定基础。 文章质量很高。本文配套思维导图&论文精华速览，已同步至小红书：(ID:故障诊断与python学习)，需要的小伙伴可以自取💡~ 论文链接：通过点击最左下角的阅读原文进行在线阅读及下载。 论文基本信息论文题目: ABIGX: A Unified Framework for eXplainable Fault Detection and Classification论文期刊：IEEE Transactions on Pattern Analysis and Machine IntelligenceDoi：https://doi.org/10.1109/TPΑΜΙ.2026.3689327作者: Yue Zhuo a , Duxin Chen a , Wenwu Yu a , Zhiqiang Ge a , Xiaoyu Jiang b , Jinchuan Qian c , Junhua Zheng c , Zhihuan Song d 论文时间: 2026年1月 机构: a School of Mathematics, Southeast University, Nanjing 210096, Chinab Hangzhou International Innovation Institute, Beihang University, Hangzhou 311115, Chinac School of Automation and Electrical Engineering, Zhejiang University of Science and Technology, Hangzhou 310023, Chinad School of Automation, Guangdong University of Petrochemical Technology, Maoming, 525000, Guangdong, China作者: 虞文武，东南大学首席教授、数学学院院长，入选教育部长江学者、青年长江、国家"万人计划"青年拔尖人才、国家优青，2014-2024连续十一次入选全球高被引科学家。主要从事系统科学与人工智能交叉研究，发表IEEE汇刊文章100余篇，Google和SCI引用超3万次，H指数75。主持科技部"新一代人工智能"重大项目等多项国家级课题，获国家自然科学二等奖1项、省部级一等奖3项；任Complex Engineering Systems主编及多个IEEE汇刊编委。（来源：Research）摘要本文提出了ABIGX，一种用于可解释故障检测与分类的统一框架。ABIGX建立在已有故障诊断方法的基础原理之上，包括贡献图和基于重构的贡献，同时将其适用范围扩展至通用FDC模型，并提升了故障解释效果。ABIGX的核心在于对抗故障重构方法，该方法从对抗攻击的视角重新审视故障重构，引入了一种适用于故障检测与分类任务的新型故障指标。在故障检测方面，我们通过理论证明CP和RBC是ABIGX的线性特例，从而建立了ABIGX与传统故障诊断方法之间的理论联系。对于故障分类，我们解决了故障类别模糊化问题——这是可能掩盖准确解释的固有缺陷。我们证明了ABIGX能够有效缓解该问题，其性能优于现有的基于梯度的解释方法。实验通过定量指标和直观图示对FDC（Fault Detection and Classification，故障检测与分类）的解释效果进行了评估。结果验证了AFR的通用性与准确性，并表明ABIGX在多种FDC模型上提供了更为全面和精确的解释，相较于现有方法具有显著提升。实现代码已公开发布于：https://github.com/qianjc3391/ABIGX。 关键词：特征归因；综合梯度；可解释的人工智能；反事实解释 目录1 引言2 预备知识及相关工作 2.1 FDC 2.2 故障诊断 2.3 基于梯度的XAI方法 2.4 对抗攻击 2.5 可解释FDC的挑战3 故障重建：对抗视角 3.1 对抗故障重建 3.2 故障分类的SPE指标 3.3 AFR算法 3.4 AFR与对抗攻击的对比4 ABIGX：统一框架 4.1 定义 4.2 算法 4.3 讨论5 ABIGX在故障分类中的应用 5.1 故障分类设定 5.2 故障类别涂抹6 ABIGX在故障诊断中的应用 6.1 RBC与ABIGX-OneVar 6.2 CP与ABIGX7 实验 7.1 评估指标与对比方法 7.2 田纳西伊斯曼过程 7.3 晶圆图 7.4 MVTec-AD工业图像 7.5 计算成本 7.6 实现细节8 结论注：小编能力有限，如有翻译不恰之处，请多多指正~ 若想进一步拜读完整版，请下载原论文进行细读。 1 引言数据驱动的FDC是识别工业过程中故障模式的一项重要技术。故障检测[1]旨在判定是否发生了故障/异常，其实现方式通常采用无监督模型（如PCA（Principal Component Analysis，主成分分析）[2]和AE（AutoEncoder，自编码器）[3]）的残差投影度量。故障分类涉及故障/异常类型的辨识，其中NN（Neural Networks，神经网络）[4]近年来取得了显著成功。然而，这些复杂模型日益呈现不透明性，对用户而言趋向于成为"黑箱"。这种不透明性导致模型输出（预测结果）缺乏可信度，而在关键领域（如工业过程、自主系统和医疗健康）的实际应用中，可信度至关重要。XAI（Explainable AI，可解释人工智能）[5]旨在通过探究预测结果的成因解释，提升人工智能模型的透明度与可信度。在可解释人工智能领域中，XFDC（eXplainable Fault Detection and Classification，可解释故障检测与分类）旨在帮助人们理解导致故障的潜在因素。给定一个故障样本，XFDC指示各变量对监测结果（检测分数或分类置信度）的贡献程度。贡献度较高的变量被视为异常的潜在根本原因（如故障传感器）。通过识别这些变量贡献，XFDC能够辅助用户解释模型预测的故障，并主动修复存在缺陷的部件。CP[6]和RBC[7]是故障诊断的基础方法，分别基于残差分解和重构误差提供直观的变量级归因。CP通过SPE分解突出故障相关变量，而RBC则将偏差与模型重构相关联。这些方法提供了有价值的诊断信息，但主要对线性PCA故障检测模型有效，且假设变量相互独立。关于非线性模型的扩展，虽然CP可启发式地扩展至非线性模型，但在非线性语境下缺乏严谨的理论基础。相比之下，RBC与线性重构紧密耦合，需要大幅修改才能处理非线性问题[8]、[9]、[10]、[11]、[12]。此外，这些故障诊断扩展通常受限于特定结构（如核主成分分析和堆叠自编码器），且仅适用于故障检测任务。这一局限性在现代基于深度学习的FDC系统中造成了通用故障解释方面的显著空白。本文提出了一种统一框架，称为ABIGX（Adversarial Fault Reconstruction-Based Integrated Gradient eXplanation，基于对抗故障重构的积分梯度解释）。ABIGX建立在CP和RBC的概念优势之上（如基于残差和基于重构的推理）。ABIGX首先从对抗攻击[15]的视角重新审视FR（Fault Reconstruction，故障重构）[14]，随后采用深度学习归因方法——IG（Integrated Gradients，积分梯度）[16]计算变量贡献。该框架的构建基于两个核心动机：将故障解释扩展至通用FDC模型的统一框架：传统的解释方法如CP和RBC虽然提供了概念合理且理论基础扎实的方法，但其本质上受限于线性模型，缺乏对现代非线性FDC系统的泛化能力。本文提出的ABIGX方法建立在CP和RBC的核心原理之上，但通过对抗优化对其进行重新诠释。具体而言，本文引入了AFR，该方法利用对抗攻击技术生成语义有效的反事实样本以抑制故障信号。当与积分梯度相结合时，ABIGX能够将故障归因推广至任意可微分的FDC模型，包括PCA、AE、MLP、CNN和ViT（Vision Transformers，视觉Transformer）。ABIGX在保留CP和RBC诊断直觉的同时克服了其架构局限性，提供了一个统一且广泛适用的框架，推动了线性和非线性领域中故障可解释性的发展。基于理论基础提升故障解释精度：传统解释器的另一主要局限性在于其倾向于将变量视为相互独立，忽略了变量之间的关键交互作用——这在复杂、高维、非线性模型中尤为突出。通过采用对抗攻击视角，本文方法自动考虑了这些变量间的相互关联，显著提升了故障解释的准确性和全面性。ABIGX框架在CP和RBC的概念基础之上进行构建和扩展，为生成更精确的解释提供了坚实的理论基础，如下文的理论分析和实验结果所示。通过解决上述两个核心动机，本文提出的ABIGX框架不仅增强了故障解释在各类模型上的泛化能力，还显著提升了其精度。图1展示了本文涉及的主要方法之间的关系，体现了ABIGX的通用性。综上所述，本文的主要贡献包括以下四个方面： 图1 ABIGX示意图及相关方法。ABIGX是一个同时适用于线性和非线性故障检测与分类模型的解释框架。该方法框架了两种经典的故障诊断方法( CP和RBC)，并将其推广到对抗攻击和IG方法辅助的一般FDC模型中我们从对抗攻击的视角重新审视故障重构，并针对通用FDC模型提出了AFR。新的SPE指标将AFR扩展至分类任务中的可靠故障重构，这一问题此前较少受到关注。（第3节）我们提出了一个统一框架ABIGX，用于有效解释通用FDC模型。我们通过证明CP和RBC是ABIGX的线性特例，表明ABIGX将经典故障诊断方法纳入了一个更为广泛的框架之中。（第4节和第6节）我们在可解释故障分类中引入了一个新问题，即故障类别模糊化，这是故障分类模型中固有的问题，会导致误导性的变量贡献和不准确的模型解释。通过理论分析，我们证明了ABIGX能够有效缓解该问题，从而使其在故障分类模型的可解释性方面具有显著优势。（第5节）我们在传感器数据集和图像数据集上进行了实验，采用多种定量指标进行评估。评估涵盖了多种模型，包括经典的PCA、AE、MLP、CNN和ViT模型，结果表明ABIGX相较于现有XAI方法始终能够产生更优的解释效果。（第7节）本文其余部分的组织结构如下：第2节介绍FDC、故障诊断、对抗攻击和XAI领域的预备知识和相关工作；第3节从对抗攻击的视角重新审视故障重构，提出AFR；第4节阐述统一框架ABIGX，并通过分析故障类别模糊化问题证明其可解释性；第6节在理论上建立经典故障诊断方法与ABIGX之间的桥梁；第7节报告评估本文所提方法的实验结果；第8节对全文进行总结。 2 预备知识及相关工作表1列出了本文主要符号的说明。未在表中列出的较少使用符号，均在文中首次出现时予以定义。表1 论文中主要符号的注记表 2.1 FDC 故障检测旨在利用统计方法或基于学习的方法对正常运行工况进行建模。这些模型通常将数据投影至两个子空间：捕获正常模式的主成分子空间，以及表示噪声或异常的残差子空间。当样本的残差超过预定义的控制限时，即判定为发生故障。传统方法基于PCA[17]、[18]、[19]，而近期方法则采用AEs（AutoEncoders，自编码器）[20]、[21]、[22]。给定一个无故障数据集 ，故障检测模型通过学习来最小化重建或残差误差 。模型输出表示为 ，被称为主成分样本 。在这项工作中，我们重点关注基于编码器-解码器的检测模型 。非线性情况使用带有神经网络编码器和解码器的自编码器 ： PCA可以被视为一个线性自编码器 ： 其中 是载荷矩阵，通过数据协方差的特征分解将 投影到前 个主成分上 。本研究中用于故障检测的SPE指标基于平方预测误差(SPE)，即残差误差的 范数度量 ： 控制限 由正常数据分布上SPE值的置信限得出 。当样本的SPE低于控制限时，该样本被预测为正常 。故障分类旨在识别故障样本中的不同模式 。与故障诊断不同，分类是一项使用带标签训练数据集的有监督任务 。本工作重点关注最流行的分类模型：神经网络 。给定数据集 和标签 ，其中 为故障类型的数量 。故障分类器 通过以下方式训练 ： 其中 是神经网络的交叉熵损失函数 。 2.2 故障诊断故障检测模型的解释——通常称为故障诊断——已得到广泛研究[7]、[6]、[9]、[23]。一旦检测到故障，故障诊断旨在通过量化各输入变量对故障指标（如SPE）的贡献程度，识别其根源变量。下文简要回顾三种常用于基于 PCA 模型的经典故障诊断方法。故障重构 [14] 寻求将故障样本的指标（例如 SPE ）恢复到正常范围内所需的最小调整 。这种调整由两个参数定义：方向 （代表第 个变量的单位向量）和标量幅度 。例如，对于五个传感器变量，第一个变量的方向向量为 ： 大多数以前的故障重构方法 会依次预定义重构变量 并求解幅度 。给定 ，故障重构即寻找 ： 其中 是故障样本， 是恢复到正常状态的重构样本。故障方向可以通过使得重构样本的 SPE 最小化的方向 来确定 。然而，故障重构无法提供每个变量的准确贡献，这由基于 RBC 方法所解决 。RBC [7]用于计算重构向量 的故障指标，表示为 ： 其中 是到残差子空间的投影矩阵 。贡献图（CP）[6] 是通过直接确定每个变量对检测指标的贡献来构建的 。首先，定义的 SPE 可以展开为 ： 其中 和 分别是检测样本和主成分样本的第 个变量。CP 在 SPE 上的贡献 可以简单地通过输入样本与输出样本第 个变量之间的平方差值来计算 ： 2.3 基于梯度的XAI方法 基于梯度的 XAI 方法可以通过反向传播直接对输入特征进行归因，这些方法计算效率高，并适用于多种模型模态。最近，IG（Integrated Gradients，积分梯度）[16]成为一种流行的基于梯度的方法，并且与故障诊断方法具有一些相同的内在属性。因此，本文主要关注 IG 和另一种经典方法：显著性图（朴素梯度）[24]。显著性图通过计算输出预测相对于输入变量的梯度来直接提供解释，这是模型行为的自然类比： 其中，在故障检测和分类中，真实类别的 指标和对数几率（logit）值分别被用作模型 F 的输出。IG 是一种流行的 XAI 算法。与简单地计算梯度不同，IG 沿着从被解释样本 到反事实基线 的路径 累加梯度。第 个变量的 贡献定义为：IG 与简单地计算梯度不同， 沿着从被解释样本 到反事实基线 的路径 累加梯度。第 个变量的 IG 贡献定义为： 其中 是基线， 是被解释的故障样本，F 是与朴素梯度中定义相同的 FDC 输出函数。2.4 对抗性攻击 对抗性攻击是机器学习模型的一个关键安全问题，FDC 模型的对抗鲁棒性已在工作 [25] 中得到研究。关于对故障样本的攻击，对抗性样本 通过以下方式求解： 其中 F 与式 10 中的定义相同， 是距离度量， 是预定义的距离约束， 是故障标签， 是 的预测标签（第二个约束并不是严格必要的）。2.5 可解释FDC的挑战 尽管FDC领域的研究兴趣日益增长，但为基于深度神经网络的FDC模型生成准确且具备理论基础的解释仍然是一项关键挑战。虽然传统的故障诊断方法和深度学习解释器均已得到应用，但仍存在若干局限性：故障诊断面临的挑战：经典故障诊断方法（如 CP 和RBC ）在线性模型中已得到充分研究。尽管已有一些针对非线性模型的扩展方法被提出[9]、[11]、[26]、[8]、[10]，但这些方法通常将各变量视为相互独立，忽略了重要的变量间交互作用——尤其在复杂非线性系统中。此外，这些方法大多仅限于故障检测任务，无法直接应用于故障分类任务。深度学习解释面临的挑战：基于梯度的解释器（如IG）在解释深度模型方面展现出一定前景，但将其应用于 FDC 领域会引入新的困难。一个主要问题是基线 的选择：常用的零向量或常数向量基线[27]在FDC场景中往往缺乏语义意义，因为在该场景中区分故障与正常工况至关重要。此外，许多深度学习解释方法缺乏针对故障诊断领域的强有力理论基础。本文提出的 ABIGX 框架通过融合传统故障诊断与深度学习解释的优势来解决上述不足。ABIGX根植于CP和RBC的原理，将自适应的、故障感知的基线引入IG，从而为故障检测和分类任务提供准确且与模型无关的解释。3 故障重建：对抗视角首先，我们从对抗攻击的角度对故障重构进行了研究，指出现有的故障重构解决了与稀疏对抗攻击相同的优化问题。定理 1。对于故障检测，现有的故障重建与针对故障样本的稀疏对抗攻击共享相同的优化目标 。证明。根据式 12，针对故障检测的稀疏对抗攻击可以通过 范数约束来定义 ： 其中 衡量向量的非零元素数量， 控制要攻击的变量数量 。如果 以仅攻击一个变量，并且给定了被攻击变量的方向 ，则攻击目标变为在 的情况下计算该方向上的幅值 ： 这与式 6 中定义的故障重建相同 。3.1 对抗故障重建 定理1启发我们利用对抗攻击算法实现更为泛化的故障重构，从而无需逐一预定义重构方向。迭代地预定义方向并求解幅值不仅耗时，还会忽略变量间的交互作用。因此，我们针对 FDC 模型提出了AFR（Adversarial Fault Reconstruction，对抗故障重构） 。与通过蛮力搜索逐一寻找最佳故障方向不同，AFR 可以通过对被解释样本 与重建样本 之间的距离施加幅值约束，从而自动求解使 SPE 指标最小化的变量（或其组合） 。定义 1。（针对 FDC 的 AFR ）AFR 通过以下优化问题在 FDC 模型中重建故障 ： 其中 用于约束重建样本与原始故障样本之间的距离，其度量方式为 范数（ ）。受约束的 范数和 范数幅值均能使攻击算法自动聚焦于对 SPE 指标贡献最大的变量 。由于在非线性模型中变量之间的相互作用更加复杂，且在诸如图像之类的高维样本中逐个变量进行搜索的计算成本更高，因此 AFR 具有更强的通用性 。值得注意的是，我们声明传统的逐个变量故障重建可以被视为 AFR 的一种特例（规范），并将其命名为 AFR-OneVar ：定义 2。（AFR-OneVar）AFR-OneVar 分别针对 n 个变量计算一组重建样本 ，其中涉及 n 个优化问题 。给定第 i 个变量的方向 ， 可以定义为式 14 ： 其中 。这与之前一些将 RBC 扩展到非线性 AE 模型的故障诊断方法 [26] 类似 。图 5 直观地展示了 AFR 与 AFR-OneVar 在二维 PCA 检测模型上的对比 。此前，式 15 中的 SPE 仅针对故障检测进行定义 。为了使 AFR 同样适用于故障分类，我们为分类版本引入了一种新型的 SPE 指标 。3.2 故障分类的SPE指标 故障分类的 SPE 源自故障检测（定义见公式3）。鉴于检测模型旨在最小化正常样本的残差投影，我们认为正常样本残差投影的重心位于残差子空间的零点。因此，故障样本的检测SPE可视为在残差子空间中计算故障样本投影与正常样本投影重心（即零点）之间的欧氏距离。因此，故障分类的 SPE 亦可类似地定义。我们在表征空间中计算欧氏距离，正常样本表征的重心即为"零点"，SPE定义为正常重心与故障表征之间的欧氏距离。图2展示了检测 SPE 与分类 SPE 的对比。分类 SPE 的定义如下： 图 2 SPE进行故障分类(右)，与故障检测SPE (左)进行对比定义 3。（故障分类的 SPE）给定分类网络的表示层 和正常样本集 ，故障样本 x 的分类 SPE 为： 其中 项是正常样本表示的重心。在定义了SPE 指标后，FDC 中的AFR（公式15）可通过对抗攻击算法求解，下文将对此进行简要讨论。3.3 AFR算法 针对不同 FDC 模型，AFR 的目标函数（公式15）可采用不同的优化算法求解。本文主要考虑两种具体算法：能够保证最优解的数学规划方法，以及对多种模型更具通用性的梯度下降方法。3.3.1. 基于数学规划的AFR对于线性模型，我们可以将 AFR 转化为凸的 MILP （Mixed-Integer Linear Programming，混合整数线性规划），从而可以求得全局极小值。 在这里，我们具体说明 范数约束的问题，该问题极具吸引力，因为它能够直接诊断出 FDC 模型中最显著的变量。 首先，引入一组辅助二值变量 ，将 范数约束形式化为混合整数线性形式： 其中，合取符号 表示逻辑与， 表示重建样本的第 个变量， 是为所有变量预定义的较大边界。接下来，线性模型的客观函数 可以被表示为： 其中 是残差投影矩阵。这种通过 MILP 求解 AFR 的思想类似于对抗验证的相关工作 [28], [29], [30]，并且可以扩展到基于 ReLU 的神经网络。 然而，在不失一般性的前提下，本文采用基于梯度的攻击算法来求解 AFR ，这将在下文中进行讨论。3.3.2. 基于梯度下降的AFR对于更一般的 FDC 模型，我们可以利用现有的攻击算法来实现 AFR 。 具体而言，我们应用了多步梯度攻击算法，即PGD（Projected Gradient Descent，投影梯度下降）[31]，它适用于 、 和 范数： 其中 是第 t 次迭代时的对抗样本，L 用于在特定范数下对扰动进行归一化。4 ABIGX：统一框架借助对抗攻击算法和新的分类 SPE，AFR 将故障重构推广至通用 FDC 模型。基于AFR重构的反事实样本，我们致力于计算各变量对模型预测的贡献。4.1 定义 通常，ABIGX 沿着从被解释样本到 AFR 重构样本的路径对模型输出的梯度进行积分。定义 4. (ABIGX) ABIGX 通过对变量进行归因来解释 FDC 模型：给定被解释样本 x 和由 AFR 重构的样本 ，第 i 个变量的 ABIGX 贡献定义为： 公式 21 是公式 11 的黎曼和，其中梯度沿着从 到 x 的直线路径进行积分。如果重构样本是在逐个变量的方向上求解的，那么贡献也可以沿着逐个变量的方向进行计算，这被称为 ABIGX-OneVar：定义 5. (ABIGX-OneVar) 第 i 个变量的 ABIGX-OneVar 贡献是沿着从 x 到变量方向 上的 AFR 重构样本 的路径对梯度进行积分： ABIGX-OneVar 忽略了变量间的相互作用，可以被视为 RBC 在通用 FDC 模型上的扩展。由于 AFR 和 IG 都只需要模型的梯度信息，因此 ABIGX 是一种适用于 FDC 模型的通用解释技术。4.2 算法 算法1展示了ABIGX 归因方法，该方法结合AFR（Adversarial Fault Reconstruction，对抗故障重构）和IG（Integrated Gradients，积分梯度）生成忠实可靠的特征归因，用于解释 FDC 模型。该方法包含两个阶段。在第一阶段中，AFR通过将输入向所选表征空间中的模型诱导正常区域移动来重构故障抑制基线，具体实现方式是在 范数约束下最小化 SPE 距离至正常表征重心。我们强调，这是一种由模型和约束集定义的近似投影，而非保证精确落在真实数据流形上。在第二阶段中，IG算法沿AFR重构基线到故障输入之间的线性路径进行计算，替代了大多数基于IG方法中所使用的传统基线（如零样本）。 对于ABIGX - One Var，对每个变量单独重复算法1，合并所有变量的属性得到最终的属性。步骤 1：AFR（Adversarial Fault Reconstruction，对抗故障重构）// 初始化正常表征和 AFR 对于FC，而对于FD则为0。 // 计算 AFR，见定义 1 和公式 20 对于 t = 1 到 T 执行: // SPE 的梯度 // 更新与归一化步骤2：基于IG的归因ABIGX（Adversarial Fault Reconstruction-Based Integrated Gradient eXplanation，基于对抗故障重构的积分梯度解释）计算差异: 初始化总归因: // 朝向 AFR 进行梯度积分（见定义 4） 对于每个 执行 // FDC 输出的梯度 // 更新归因最终确定归因: 返回 A 作为 ABIGX 结果4.3 讨论 4.3.1. 异常图像解释示例 ABIGX框架通过引入AFR（Adversarial Fault Reconstruction，对抗故障重构）自适应基线选择机制来扩展IG（Integrated Gradients，积分梯度）。如图3所示，给定一张异常图像，ABIGX通过最小化分类SPE（定义1）来搜索具有低故障置信度的AFR基线。尽管从原始样本出发的扰动在视觉上微乎其微，但其显著改变了模型的预测结果，有效地将故障输入投影到模型诱导的正常区域。该AFR基线具有语义意义，且与模型的内部表征相一致。从该基线指向原始故障样本的向量捕获了关键的故障诱导扰动，形成了更具信息量的梯度积分路径。 图 3 利用MVTec - AD [ 34 ]的异常图像对比ABIGX ( a )和Vanilla IG ( b )对Win Clip [ 33 ]模型的解释。ABIGX的不同之处在于使用AFR自适应地找到一个语义有意义的、具有故障抑制功能的基线，从而得到更有信息量的路径梯度积分获得AFR基线后，ABIGX沿AFR基线到原始样本之间的直线路径，采用简单的IG方法计算特征归因，如图所示。这一过程与原始IG形成对比——后者使用固定的、与语义无关的黑色图像作为基线。通过故障感知的积分路径，ABIGX生成了更为聚焦且可解释的归因图。4.3.2. 表格故障解释示例 除了对不同重构故障样本进行比较之外，我们还深入剖析了ABIGX与IG之间的本质区别，以阐释本文所提方法在XFDC（eXplainable Fault Detection and Classification，可解释故障检测与分类）任务中的优越性。 ABIGX与IG的本质区别在于基线（即积分区间的起点）：ABIGX的基线为AFR重构样本，而IG的基线为正常样本。我们讨论这两种基线对变量贡献结果的影响。图6b中对TEP故障6的解释表明，ABIGX相对于IG的主要优势在于变量XMV(3)。因此，图4深入剖析了导致XMV(3)贡献差异的原因。 图 3 比较ABIGX和Vanilla IG对TEP [ 18 ]故障分类模型的解释。( a )模型边界上两条基线和积分路径的直观示意(不是真正的案例)；( b )从两条基线到被解释样本的两条路径上的模型置信度；( c )梯度方向与根变量XMV ( 3 )之间的余弦相似度，沿着相同的路径。三幅图中红色方框为相互对应的噪声区域我们认为两种不同的基线导致了不同的积分路径。IG的路径更可能穿过其他故障类型（即除被解释故障和正常工况之外的故障类型）具有高置信度的区域，我们称之为噪声区域。图4中的红色方框展示了这一区域。ABIGX由于其AFR基线，更可能避开噪声区域——AFR沿最快速最小化分类SPE的方向重构故障。因此，我们推测ABIGX的路径更与正常工况和被解释故障（如故障6）的分类区域相关。相反，随机正常样本的基线可能使IG进入噪声区域，图4顶部描绘了这种可能的情形。 为验证上述分析，图4还报告了一个含TEP故障6的样本实例。首先，中间子图展示了故障6与正常工况的（总和）置信度比率。从基线向被解释样本移动时，IG穿过了一个置信度比率急剧下降的区域（红色方框），这意味着其他故障的置信度大幅上升（如图4顶部所示的故障N）。其次，图4底部报告了沿路径各点与根源变量XMV(3)的梯度相似度。噪声区域的梯度与XMV(3)完全无关。可以发现这两个区域高度重叠。 与检测不同，故障分类不仅建模正常工况与故障之间的区别，还区分不同的故障类型。然而，XFDC（仅解释哪些变量导致模型将故障样本预测为"故障"而非正常工况。至于为何故障6未被预测为"故障N"，这并未被XFDC所考虑。因此，这正是噪声区域导致梯度方向错误的原因（如图4顶部所示的梯度方向）。顺便指出，图4底部的梯度图解释了为何显著性图不够准确：显著性图仅计算被解释样本处的梯度，但XMV(3)的梯度在接近正常工况（或AFR重构样本）时明显更高。4.3.3. 核心洞察 ABIGX的核心思想在于自适应利用FDC模型的内部表征，为归因构建具有语义意义的基线。与依赖静态基线（如黑色图像或零向量）的原始IG方法不同，ABIGX采用AFR来搜索故障输入的最小扰动版本，以显著降低模型的故障置信度。这通过最小化FDC模型内的SPE来实现，有效地将故障样本投影回模型诱导的正常区域。通过这种方式，ABIGX确保用于梯度积分的插值路径完全位于输入空间的语义有效区域内。如图3和图4所示，该策略生成了更清晰、更聚焦的归因图，避免了沿非现实路径通常遇到的虚假或噪声梯度。与使用多个正常样本作为基线的期望IG相比，ABIGX提供了更具针对性且与模型相关的基线构建方式。虽然期望IG通过利用数据驱动基线改进了原始IG，但其仍缺乏对被解释特定故障实例和FDC模型的自适应性。所选正常样本可能距离给定故障的真实决策边界较远，导致归因路径穿过输入空间的不相关区域。相比之下，ABIGX通过与FDC模型的内部故障-正常决策边界对齐，为每个故障样本动态定制基线。这使得ABIGX能够更好地隔离触发故障的最小特征变化，从而在实践中产生更准确且更可解释归因结果。此外，ABIGX不仅在视觉上更具信息量，而且具有坚实的理论基础。在第5节和第6节中，我们将对数值故障分类中的ABIGX进行分析，并将本文所提方法与经典故障诊断方法（如CP和RBC）建立联系，为各类模型上的检测和分类任务提供一个统一的解释框架。4.3.4. 局限性 尽管ABIGX为故障解释提供了一个通用、可解释且理论基础扎实的框架，但其仍存在若干局限性。首先，该方法依赖迭代梯度优化来计算AFR和IG算法，计算开销较大，尤其对于ViT等大规模深度模型。虽然对于大多数FDC场景而言，运行时间仍在可接受范围内（详见第7.5节讨论），但对于ViT等大型模型，若无进一步的加速技术，实时应用可能成为瓶颈。其次，"类正常"AFR基线应被理解为在选定表征空间中对模型诱导正常区域的近似投影，而非正常数据流形本身。具体而言，AFR在以下条件下最为可靠：（i）正常样本在所选空间中形成紧致结构，从而使SPE目标能够有意义地反映与正常性的接近程度；（ii）表征映射具有局部稳定性且不发生坍缩，从而使SPE目标保持可优化性；（iii）扰动预算足够小，且投影位于有效域内以避免超出支撑集的基线。当这些条件不满足时，AFR可能产生保真度较低的基线，从而导致更嘈杂的归因结果，其失效案例在第7.6.3节中进行了研究。第三，尽管ABIGX不一定需要模型的内部架构和参数，但其依赖对底层FDC模型的梯度访问。这一要求使ABIGX无法兼容非可微模型，如基于树的模型或经典贝叶斯网络。虽然这一限制在基于梯度的解释器中普遍存在，但它将ABIGX的适用范围限制于那些可进行反向传播或自动微分的模型，该问题未来可通过梯度近似技术加以解决。最后，ABIGX通过沿AFR优化基线生成关联性归因来解释已训练FDC模型的行为，因此不应被解读为经过认证的因果根源。在实践中，它有助于缩小候选故障源的范围。若因果结构或过程机理先验信息可用，则可将其作为附加AFR约束纳入，以强制生成物理上合理的反事实样本。 编辑：Leo校核：李正平、陈凯歌、曹希铭、赵学功、白亮、任超、海洋、陈宇航、Kira、Tina、王金、赵诚、肖鑫鑫、张优该文资料搜集自网络，仅用作学术分享，不做商业用途，若侵权，后台联系小编进行删除来源：故障诊断与python学习