特征解耦与节点优选｜面向多传感器设备寿命预测的抗干扰图神经网络框架

本期给大家分享一篇小编近期阅读的1区top综述文章。如果有故障诊断相关方向研究人员希望宣传自己研究成果，欢迎大家在公众 号后台与小编联系投稿，大家一起交流学习。故障诊断是当前工业设备领域的研究热点。本期推荐的这篇是葡萄牙阿威罗大学博士后研究员约瑟夫·卡康的文章,本文系统综述了XAI（Explainable AI：可解释性人工智能）在工业故障检测与诊断中的最新进展，围绕设备、过程、产品及网络安全四大场景，梳理SHAP（Shapley Additive Explanations：沙普利加性解释）、Grad-CAM（Gradient-weighted Class Activation MappingShapley Additive Explanations：梯度加权类激活映射）、LIME（Local Interpretable Model-agnostic Explanations：局部可解释模型无关解释）等方法的应用现状，指出黑箱信任、法规合规、数据稀缺与解释粒度不足等挑战，提出构建模型内在可解释、混合解释范式、多模态输出及人机共创验证的未来方向，填补工业落地与监管审计的研究空白，推动工业AI从“可用”走向“可信、可审、可控”。由于文章篇幅过长，小编将分两次为大家翻译介绍这篇论文，第一篇推文阐述XAI在工业故障诊断中的研究背景、核心挑战与系统分类，重点剖析了“黑箱”模型在设备、过程、产品和网络安全四大场景下的信任鸿沟，并首次提出面向工业落地的XAI统一框架与评估指标。希望对大家的学习有所帮助，文章质量很高同时希望大家可以多多引用。论文基本信息论文题目: Explainable AI for industrial fault diagnosis: A systematic review论文期刊：Journal of Industrial Information IntegrationDoi：https://doi.org/10.1016/j.jii.2025.100905作者: J. Cação(a), J. Santos(b), M. Antunes(c) 论文时间: 2025年 机构: a TEMA - Centre for Mechanical Technology and Automation, Department of Mechanical Engineering, University of Aveiro, 3810-193, Aveiro, Portugal b LASI - Intelligent Systems Associate Laboratory, Guimarães, Portugal c DETI - Department of Electronics, Telecommunications and Informatics, University of Aveiro, 3810-193, Aveiro, Portugal d IT - Institute of Telecommunications, 3810-193, Aveiro, Portugal作者简介：约瑟夫·卡康，葡萄牙阿威罗大学机械工程系博士后研究员，TEMA 机械技术与自动化中心成员，研究方向为工业人工智能与可解释机器学习，参与欧盟及葡萄牙国家基金资助的多个智能制造项目。(来源：ResearchGate） 摘要在当今先进制造时代，尽早诊断机械故障以确保其安全高效运行变得比以往任何时候都更为关键。随着现代工业过程日益复杂，传统的机械健康监测方法已难以提供高效性能。在工业大数据激增以及传感与计算技术进步的推动下，基于机器学习/深度学习方法的数据驱动式机械故障诊断解决方案已在制造应用中广泛应用。在工业应用中，及时、准确地识别故障机械信号至关重要，为此已提出诸多相关解决方案，并在早期文献中多有综述。尽管目前存在大量关于机械故障诊断的解决方案和综述，但是现有文献大多聚焦于特定设备类型或分析方法，导致其在广泛制造环境中的适用性受限。此外，关于实施数据驱动方法所面临挑战的讨论（例如处理噪声数据、选择合适特征、以及调整模型以适应新的或未知故障）往往流于表面或完全被忽略。因此，本综述对采用不同类型机器学习方法检测和诊断各类机械故障的文献进行了全面回顾，重点评述了其优势与局限性；梳理了用于预测分析的方法；详尽探讨了可用的机械故障数据集；向未来研究者介绍了应用这些方法进行故障诊断时可能遇到的挑战，并提出了缓解这些问题的可能解决方案。同时，本文也指明了未来研究前景，以促进对该领域的深入理解。我们相信，本文将为研究人员提供帮助，并促进该领域的进一步发展。 随着工业4.0与5.0的推进，人工智能（AI：Artificial Intelligence）与机器学习（ML：Machine Learning）在工业场景中的融合——尤其是用于优化故障检测与诊断——显著提速。然而，这些方法的“黑箱”特性阻碍了其实际落地，因为信任、可解释性与可说明性对于知情决策至关重要。此外，即将出台的监管框架（如欧盟《AI法案》）使得将不透明AI直接用于关键工业任务变得不可行。XAI通过以人类可理解的解释提升ML模型的可解释性与可审计性，提供了一种有前景的解决方案。本文全面剖析了面向工业故障检测与诊断的最新XAI进展，提出一套全新的XAI方法分类学，并讨论XAI输出如何生成、传递给终端用户以及被评估。随后，系统回顾了真实工业场景中的XAI落地案例，梳理其应用、方法与输出呈现方式。关键趋势包括：事后特征归因方法占主导，SHAP与GradCAM被广泛使用，以及高度依赖图形化解释工具。最后，指出当前挑战并勾勒未来研究方向，以推动工业场景中可解释、可信赖且可审计的AI系统发展。 关键词：可解释性人工智能；故障检测与诊断；工业5.0；可解释性；透明度 ；分类体系 目录1 引言2 理论背景 2.1 基础概念 2.2 XAI 分类法 2.3 XAI 输出呈现与评估3 研究方法4 XAI 输出呈现与解释工具5 综合讨论6 结论注：小编能力有限，如有翻译不恰之处，请多多指正~ 若想进一步拜读完整版，请下载原论文进行细读。 1 引言人工智能（AI：Artificial Intelligence）与机器学习（ML：Machine Learning）已成为社会中不可替代的工具，在个性化推荐、金融服务到自动驾驶等广泛任务中实现自动化[1–3]。其解决复杂问题的效率亦加速其在制造、时间序列预测与医疗等诸多领域的落地[4–6]。在工业语境下，AI与ML在工业4.0范式驱动下引发深刻变革。与AI、ML并行，物联网（IoT：Internet of Things）、数字孪生与云计算等技术共同推动工业生产系统的全面数字化[7–9]。由此诞生的工业物联网（IIoT：Industrial Internet of Things）概念，催生了智能传感器与先进架构的研发部署，实现对大规模实时数据的实时监测、控制与管理[10–12]。除过程监测外，数据处理亦日益融入这些架构，彻底变革所采集信息的利用方式[13,14]。传统工业过程控制依赖基于知识与规则的“if-else”系统[15,16]。尽管可靠且高度可解释，此类系统却存在局限：缺乏对动态演化运行条件的适应灵活性，随复杂度增长难以扩展，且过度依赖领域专家经验[17,18]。为此，业界聚焦研发基于AI与ML的数据处理方法。波士顿咨询集团（BCG：Boston Consulting Group）2023年一项涵盖15国1800位制造业高管的调查显示，89%的受访者对AI落地感兴趣，其中68%已在探索AI驱动方案[19]。在这一演进格局中，工业故障与异常检测（通常与故障诊断协同）成为关键处理任务[20,21]。故障检测旨在识别偏离正常行为的现象，而故障诊断则通过定位根本原因助力根因分析[22]。在制造环境中，这些任务广泛应用于以下四大核心领域：设备：监测机器数据，以实现预测性维护（PdM：Predictive Maintenance）、及早发现刀具磨损或识别零部件缺陷。过程：利用传感器数据标记生产中的异常阶段，这些异常通常与设备故障或产出缺陷相关。产品：应用于生产后阶段，常通过视觉及无损检测手段识别零件缺陷。网络安全：通过网络日志、流量数据及智能设备活动检测工业物联网：系统中的入侵或异常。随着工业自动化水平提升与数据收集强度加剧，利用ML实现实时工业故障检测已成必然[18]。相较于传统基于规则的系统，ML具备更强适应性、实时响应力与性能提升[16,21]。因此，ML方法已被积极引入设备[23–25]、过程[26–28]、产品[29,30]及网络安全[31–33]四大故障检测任务。其中，深度学习（DL：Deep Learning）凭借处理大规模复杂数据与建模高度非线性模式的能力尤为突出[34–36]。工业应用中，卷积神经网络（CNNs：Convolutional Neural Networks）常用于图像数据处理[30,37]，循环神经网络（RNNs：Recurrent Neural Networks）则用于时间序列分析[38,39]。然而，DL性能提升伴随模型可解释性下降——其常以“黑箱”形式运行，内部结构极度复杂，致使决策难以解释。该问题在工业场景中引发担忧，因为可解释性对建立信任、满足合规与有效决策至关重要[34,35,40,41]。图1展示了模型性能与可解释性之间的权衡。 图1 模型可解释性与性能之间的权衡 来源：改编自文献[42]工业界在拥抱工业4.0数字化转型之际，工业5.0已悄然兴起[41,43]。工业4.0聚焦自动化与效率，往往削弱人工参与；而工业5.0则通过可持续性、韧性与人本设计，重塑人的核心地位[41,43,44]。在此框架下，技术服务人类工人，确保系统适应多元需求与期望[41]。对安全关键型应用（如工业故障检测）而言，“黑箱”式ML算法极不可取[1,40]，其透明度缺失不仅阻碍AI落地，更与工业5.0理念背道而驰[41,43]。监管举措亦强调工业AI需透明、可解释且以人为本，例如欧盟AI法案[45]。该法案按风险等级监管AI系统，要求高风险作业（含工业故障检测）满足透明、稳健与安全标准，相关条款包括：第10条（数据治理）、第12条（日志记录）、第13条（输出解释透明度）、第14条（人工监督）。在工业故障检测领域，上述法规强制要求可审计性：ML系统不仅须性能优异，还必须为故障检测与诊断提供可解释洞见[46,47]。可审计性亦确保AI系统合法、合规、稳健且无偏，这对复杂工业应用而言是一大挑战[47]。可审计的AI系统通过让利益相关者理解、论证并评估AI驱动结果，促进协同决策。传统“黑箱”ML与DL缺乏必要的可解释性、透明度与可审计性。这一缺口激发了可解释人工智能（XAI：Explainable AI）的研究热潮——XAI致力于开发能为AI模型决策生成人类可理解解释的方法[42,48–50]。尽管XAI此前主要停留在学术圈[51]，其在打造可审计AI方面的潜力正获得工业界认可。例如，西门子在其AI全框架（从数据准备到评估）中强调XAI的收益[51]；德勤通过其Lucid工具突出XAI对输出解释与信任构建的重要性[52]；爱立信则倡导融合多种XAI技术以提升模型输出与解释效果[49]。图2对比传统“黑箱”AI与基于XAI的可审计系统。在“黑箱”模式下，AI/ML模型与流程被视为同一黑箱：数据训练模型，模型持续输出，但决策逻辑完全不可见，用户只能“盲信”结果；出现异常时，需自行解释并背锅。反之，XAI可审计系统在开发阶段即可暴露数据偏差，在部署阶段为不同利益方提供定制、可懂的解释（可视化、文本、统计），让操作员到管理者都能获得个性化信息，提升对整个AI系统的认知与掌控。 图2（a）“黑箱”AI系统与（b）可审计AI系统之对比综上，本文旨在全面回顾XAI在工业故障检测与诊断任务中的最新进展，既涵盖理论基础，也聚焦工业现场实践。主要贡献如下：系统梳理 XAI 在工业故障检测与诊断中的文献，聚焦应用领域、问题类型、方法论及XAI评估与解释工具。提出面向工业场景的全新XAI分类法，综合多篇文献提案，按工业落地相关准则多维归类。深入剖析当前在工业故障检测与诊断中实施XAI的核心挑战。给出未来研究方向指南，推动构建工业场景下可解释、可信赖的XAI方法论体系。本文其余部分安排如下：第2节提供XAI背景，涵盖其理论基础、所提出的分类法以及XAI评估策略概览；第3节描述用于系统性文献综述的研究方法；第4节对所选研究进行详细分析；第5节讨论关键挑战与未来研究机遇；最后，第6节总结全文内容。2 理论背景本节奠定XAI的理论基础：首先概述文献中关于XAI的核心概念，继而提出一套面向工业落地、聚焦实践的全新XAI方法论分类法，最后综述当下用于衡量XAI输出质量的各类评估方法。2.1 基础概念“XAI”一词由 van Lent 等人 [53] 于 2004 年在仿真游戏中首次提出，最初仅描述系统对 AI 单元行为的解释能力 [42]；如今，XAI 广义上泛指所有能为 AI 决策提供人类可理解解释的方法与工具 [42,50]。由于其与人类的可解释性、主观认知及信任紧密相连，XAI 常涉及哲学与伦理考量 [54,55]。其核心概念包括：可解释性（模型为何如此决策）、可诠释性（模型如何加以说明）以及可审计性（对 AI 系统整体评估，涵盖性能、解释质量、用户影响与伦理）[42,54,55]；其他涵盖人本与技术双重视角的关键概念还有透明度、公平性、信任、可靠性与鲁棒性 [1,2,42]。在实践层面，Miller [54] 与 Dazeley 等 [56] 提出了具有代表性的层次化解释分类，将解释划分为从零阶到元解释的多级结构，其图示见图3。总体规律是：阶次越高，解释越贴近人类推理——其中元解释完全模拟人类行为： 图3 XAI系统不同解释层次的层级划分 来源：改编自文献[56]零阶/反应式解释：聚焦于“单个智能体对即时感知输出的直接反应”[56]，作为一切解释的基础，通过输入–输出直接分析提供局部、实例级的推理。一阶/倾向性解释：揭示“智能体对环境及其他参与者的内在倾向，该倾向驱动了特定决策”[56]，不仅说明为何做出决策，还阐述如何做出，反映智能体对决策的意图。二阶/社会性解释：智能体承认存在其他具有独立输出与行为的参与者，因此在给出解释时，必须感知并预测这些参与者的行为。N阶/文化性解释：在考虑其他参与者行为的同时，进一步纳入他们对该智能体行为的期望，从而更接近人类解释方式。元/反思性解释：整合前述所有层次，逐步复现智能体的完整解题过程，彻底模仿人类的解释行为。当前工业界的XAI实践仍主要停留在零阶解释层面，即通过基于特征排序归因的表层分析给出局部理由；仅有极少数尝试迈向一阶解释，且多依赖内在可解释模型。这一现状暴露出学术XAI愿景与工业落地之间的明显鸿沟，凸显了构建以人为中心、情境感知系统的迫切需求。除上述层次结构外，文献普遍依据多重准则对XAI方法进行分类，常见维度包括：局部 vs. 全局：该维度亦称为解释的“范围”，区分仅针对单个样本给出理由的局部方法，与面向整个模型或数据集的全局方法 [2,35,40,42,48,57]。模型专属 vs. 模型无关：体现XAI方法的通用程度。模型专属方法仅服务于某一特定模型或模型族；模型无关方法可跨模型复用，因灵活性与适应性强而更受青睐 [1,34,35,40,42,48,57]。基于模型 vs. 事后解释：基于模型（亦称内在解释）将解释嵌入模型结构、机制或输出，对应所谓“透明模型”，通常属模型专属；事后解释则在ML分类器或回归器训练完成后另行构建，普遍为模型无关，适用范围更广 [1,2,35,40,42]。不同作者给出更细分的XAI归类：Barredo Arrieta 等 [1] 将透明模型的内在解释归纳为可模拟性、可分解性与算法透明度三类，并把事后模型无关方法划分为局部、可视化、特征相关性与简化解释。Linardatos 等 [57] 引入解释目的维度，在内在（“白盒”）与事后（“黑盒”）之外，新增促进公平性或测试预测敏感性的方法，同时考虑数值或图形等输出类型。Ali 等 [42] 独特地加入输入数据可解释性，涵盖探索性数据分析、知识图谱生成、降维等预处理步骤。针对深度学习解释，Samek 等 [58] 提出四分法：局部可解释代理、遮挡分析、基于梯度技术与层相关传播（LRP：Layerwise Relevance Propagation）。文献中还存在特征归因、基于示例、基于规则等子类 [1,2,34,42]。2.2 XAI 分类法 如前所述，目前尚不存在一套普适且标准化的XAI分类法。文献中呈现的众多体系常在对解释类型与XAI方法的归类上出现分歧，且鲜有关注落地实践与真实影响。针对这一碎片化现状，作者系统梳理既有分类，提出更统一、更综合的XAI方法归类框架；该框架首次聚焦XAI方法的工程化应用，尤其突出其在工业场景中的关键作用[59]，全新体系见图4。 图4 基于文献[1,2,34,42,50,57]提出的XAI与可解释性分类法本分类法以ML模型本身为起点，与Ali等[42]不同，仅聚焦XAI模型与解释，排除预处理步骤。首要划分是模型透明度，将ML模型分为两类：透明模型：这些模型本身即具备某种可解释性；据Barredo Arrieta等 [1] 所述，其透明度可细分为三个层级：可模拟性，指人类能够在脑中模拟或概念化该模型；可分解性，指可将模型拆解为独立组件以供分析；算法透明度，指从输入到输出的整个决策过程对人类而言完全可理解。透明模型的示例包括线性回归、逻辑回归、决策树（DT：Decision Trees）、K 近邻（KNN：K-Nearest Neighbours）以及基于规则的学习器 [1]；正如前述模型内在可解释性讨论所言，这类模型无需借助代理模型即可生成解释。非透明模型：即“黑箱”模型，复杂度极高，无辅助工具则难以理解，必须借助代理模型提供事后解释以增强可解释性。如上所述，事后可解释性意味着借助代理模型来增进对ML模型决策与输出的理解；这些技术可按多重准则划分，并可能同时归属不同XAI类别。图4提出四项 distinct 准则以区分XAI方法，下文将逐一简要介绍并描述各类别。通用性该准则在文献中被广泛采用，按方法对不同ML模型的适用性分类。模型专属技术局限于特定架构，仅服务于单一模型或少数相似模型；模型无关方法则独立于模型类型，可应用于任何已训练模型，通常聚焦输入–输出相关性分析。因其跨架构、跨框架的通用性与适应性，模型无关方法更受青睐[35]。解释范围文献中另一常见区分是解释范围，指解释对给定样本/数据集所提供信息的广度/深度。局部方法聚焦单个样本或特定预测，阐明模型在某一实例上的行为；全局解释技术则适用于整个模型与数据集，揭示模型的整体运行机制。落地角度看，全局解释更利于提炼过程知识、全面理解模型；局部解释则在生产环境中尤为实用，可提供快速、实例级的洞察，支持实时决策。解释输出不同于前述两大已被广泛采纳的分类，这一准则较少被考虑，但作者认为其至关重要，因为它直接影响用户如何感知并获得解释。新分类法借鉴 Linardatos 等 [57]，区分出四种截然不同的解释输出类型：图像：在大多数图像分类场景中，所采用的XAI方法基于特征归因；解释通常通过在原始图像上叠加热度图实现，高亮显示对模型预测影响最大的图像区域。与数值特征相关性相比，这类输出一般更直观，也更容易被用户解读。表格：这些输出由数值数据构成；尽管提供精确且详尽的信息，但相较于图像与图形输出更难解释，往往要求用户对特定问题领域乃至所采用的XAI方法本身具备更深入的了解。图形：部分 XAI 方法——如累积局部效应（ALE：Accumulated Local Effects）与偏依赖图（PDP：Partial Dependence Plots）——以图形为主要输出：ALE 图展示特征取值范围内平均相关得分（ALE value）的变化，PDP 则将模型预测值随某一特征变动的轨迹可视化，从而直接呈现输入-输出关联；此外，基于聚类的方法也常依赖图形输出来传递解释与解读。文本：较为少见，文本解释常与基于规则的方法相关联，或经由XAI后处理将数值输出转译为文本，以提升人类可解释性；此外，自解释神经网络与情感分析技术亦可借助自然语言处理直接输出文本解释[60–62]。解释方法论最后一条分类准则依据“解释方法论”对XAI方法进行划分，该准则在既往分类体系中虽已出现，但作者针对工业场景下的可解释需求对其进行了形式化与聚焦，以提供更全面、更贴合现场的方法区分。具体子类如下：示例生成：此类方法提供具有代表性的数据样本示例，以直观方式展示模型所学到的特定关系与相关性；这些示例既可来自原始输入数据集，也可通过“假设-如果”场景生成——后者通常被称为反事实[1,2,42]。反事实示例指为使模型预测变为期望结果而在输入数据上做出的最小改动[57]。规则提取：此类方法通过抽取描述模型决策过程与输出的规则来实现可解释性；规则通常以“if-then”语句或布尔逻辑形式呈现，其灵感源自利用层次决策结构进行预测的树基方法[2,42,57]。示例规则可为：“若特征 n 大于 X，则类别 C 的概率为 Y%”。简化解释：这类方法使用更简单的透明模型——称为代理模型——来近似复杂分类器的行为，从而通过直接分析这些局部的“白盒”代理模型，而非原本的“黑箱”模型，来获得可解释性[1,34]。输入可视化：这些技术聚焦于输入-输出相关性的直接可视化；在应用分类器后，利用其输出并与输入特征进行比较，PDP 和 ALE 等方法即属此类，通过图形方式揭示特征相关性与预测结果。基于概念：旨在通过将模型决策与人类可理解的“概念”相连接来提升可解释性；这类方法不再依赖原始特征或复杂内部机制，而是识别并利用人类易于把握的抽象概念来解释预测。特征归因：作为文献中应用最广的方法之一，其通过量化每个输入特征对模型预测的贡献来实现解释[1]。鉴于计算特征相关性的手段多样，可进一步细分为五类：—以博弈论为基础：主要代表为SHAP（SHAP：Shapley Additive Explanations）及其变体，基于合作博弈论，借鉴Lloyd Shapley(1953)理论，将每个特征视为“玩家”，衡量其对相对数据集平均预测的边际贡献[42,63]。—基于扰动：通常在局部应用，通过微小改变输入特征值并观测预测变化来度量贡献；输出变化越大，该特征越重要[42]。—基于遮挡：常视为扰动法的子集，多用于DL图像分析，系统性地遮挡输入部分（如图像区域或像素）并记录输出变化，显著变化区域即为高相关区域[58]。—基于梯度：亦称反向传播类方法，专用于神经网络事后分析，通过计算模型预测对输入特征的梯度，以梯度值推断特征相关性。—基于权重：多为模型专属，适用于线性或逻辑回归等会为特征分配权重的算法，直接将学习到的权重解释为特征重要性指标。就特征归因而言，尚存在潜在的第六类——事后聚类。这类方法既包括主成分分析（PCA：Principal Component Analysis）、t-分布随机邻域嵌入（t-SNE：t-distributed Stochastic Neighbour Embedding）等降维技术，也涵盖 K-means、DBSCAN 等无监督聚类算法。然而，它们既可作预处理，也可作后处理：在故障检测与诊断中，聚类常在二分类器区分正常/异常样本后执行，以进一步判别故障类型；反之，降维与聚类也可用于预处理，助力过程理解，从而增强内在可解释性。因其双重角色，本分类法不将聚类方法纳入特征归因子类。综上，本分类法整合并拓展了文献中的多个现有框架；不同于诸多侧重XAI理论原理的提案，此处分类专门面向工业实际与利益相关方需求，将ML模型归类与XAI方法归类清晰区分——这一区分在既有文献中常显模糊。具体而言，本体系把ML模型划分为透明与非透明两类，后者必须依赖XAI技术提供的事后可解释性。就事后XAI方法的四大分类准则而言，作者认为其直接回应了工业场景的核心诉求，体现了本分类法专为工业评估而设计。通用性在模型开发阶段尤为关键：模型专属方法虽可提供更细粒度洞察，却常缺乏灵活性；反之，模型无关方法适用面更广，但可能牺牲个性化。解释范围在部署环节作用显著——局部解释适用于车间实时决策，全局解释则为管理层趋势分析与战略制定提供高层视角。输出类型直接影响可用性：图像与文本解释对一线操作员更友好，可立即理解；图形与表格输出则需深入分析。解释方法论则决定了输出性质、计算效率及在工业环境中的实用程度。综合上述考量，本分类法构建了一个全面、实用且以用户为中心的框架，更贴合工业故障检测与诊断的严苛需求。2.3 XAI 输出呈现与评估 人类可解释性与可理解性位居 XAI 的核心目标；因此，开发能够高效传递可解释输出的工具与度量至关重要。此外，由于 XAI 天生以人为中心，解释的质量与相关性常受用户交互与反馈影响 [42]，用户遂成为解释评审与精炼过程中不可或缺的环节。尽管已有大量研究探讨 XAI 评估 [2,40,42,57,58,64]，但文献多聚焦理论框架，而非关注用户如何实际评判 XAI 输出的实践路径，导致应用语境中缺乏面向用户、可操作的 XAI 解释评估指标/度量 [57]。在这一理论背景下，多位作者已将解释归纳为三大主要类别 [40,57,64]：应用导向：面向领域专家的解释类型，提供针对模型具体决策的更深入洞察；直接检验系统的预期用途，但通常资源密集、实施成本高。人类导向：这类解释复杂度较低，面向更广泛的非专业受众；虽比应用导向解释细节少，却更易实现、理解且成本更低。功能导向：此类评估无需人工介入，完全依赖客观指标与数值评分来衡量解释质量。关于文献中的其他提议，Van der Velden 等 [40] 提出了六项解释评估标准：(1) 易用性，评估 XAI 技术能否在多种不同场景中轻松生成解释；(2) 有效性，评估解释是否正确且与最终用户的认知一致；(3) 鲁棒性，分析模型架构发生重大变化时，解释是否随之显著改变；(4) 计算成本，反映 XAI 方法为提供解释所需的计算资源；(5) 调参必要性，评估 XAI 技术是否即插即用，抑或其性能受自身参数及/或目标模型参数的影响；(6) 开源可用性。Carvalho 等 [64] 将可解释性指标分为定性与定量两类，是为数不多明确聚焦实践可解释性考量的作者。其定性指标包括：(1) 解释形式（特征相关得分、提取的规则集等）；(2) 解释规模；(3) 组合性，即解释的组织方式与信息结构（例如是否给出有序特征排序）；(4) 单调性及单元间交互（线性、非线性等）；(5) 不确定性，返回某种不确定性度量；(6) 随机性，评估解释中是否包含随机过程。至于定量指标，作者援引多项研究提出的不同解释公理：Sundararajan 等 [65] 为神经网络解释提出了敏感性与实现不变性两条公理：敏感性规定，若单个特征的变化导致预测结果不同，则该特征的归因值必须非零；实现不变性要求，两个功能等价的模型应产生完全相同的解释。Honegger [66] 提出了三条不同的公理：恒等性、可分离性和稳定性。恒等性确保相同的输入产生相同的解释；可分离性规定不同的输入应产生不同的解释；稳定性要求相似的输入产生相似的解释。Silva 等 [67] 定义了“3C”公理：完备性、正确性与简洁性。完备性关注解释的覆盖范围（即解释所涵盖实例的比例）；正确性要求被同样解释的实例应具有相同标签；简洁性强调解释需简明扼要，使任何用户都能轻松理解。如前文所述，文献似乎更关注“好的解释”在理论层面应满足哪些原则，而非解释如何被传达、将如何影响终端用户；作者们虽认同遵循理论公理可提升解释的质量与可解释性，但也主张解释的可解释性应以何种方式交付——无论是视觉、文本还是数值——理应成为XAI评估的基本组成部分，这些指标充当着XAI输出与用户理解之间的关键中介。在此背景下，本文综述所采取的路径正是为了弥合这一缺口——把解释“如何实际交付”置于核心位置；为此，第4.4节系统回顾了各位作者用以提升用户可解释性的数值与图形工具。3 研究方法本节概述本文所采用的研究方法，即遵循PRISMA（PRISMA：Preferred Reporting Items for Systematic reviews and Meta-Analyses）系统综述与荟萃分析优先报告条目指南[68]的系统文献综述法；该方法已在类似情境下被用于全面分析与讨论 XAI 相关文献[69–71]。然而，既往综述多聚焦于更广泛的XAI概念或一般工业应用，而非专门关注故障检测与诊断等关键实际任务；相关出版物的识别、筛选与选择整体流程见图5。 图5 文章筛选流程的PRISMA示意图在初始的文献识别阶段，研究者在 Scopus 数据库中执行检索，共获得 167 条记录作为初始总量；所使用的检索式如下： 需要指出的是，首次检索于2024年10月10日完成，共获得167条记录，随后将接受进一步筛选与分析。第二阶段聚焦于对已识别文献的精细过滤与筛选。如图5所示，在Scopus数据库中直接应用了三项初始过滤器：首先，将出版年限限定为2020年及以后——鉴于该研究领域的新颖性，仅排除两篇文献；其次，采用类型过滤器，仅接受期刊和会议论文，又排除24条记录（多为XAI主题的综述文章）；最后，语言过滤器剔除两篇非英文出版物。由此，初步过滤将待分析文献数量减至139篇。值得注意的是，初始过滤后，又补充了10条来自其他综述或人工挑选的记录，总计149篇，并进一步基于摘要信息进行分析和筛选。在摘要筛选阶段，首先直接应用两项初始过滤：排除作者无法获取的文献（11篇）以及仅与会议海报展示相关的摘要（3篇）。随后进行摘要阅读，并依据以下标准进一步排除：与工业不完全相关（9篇）：缺乏工业适用性的文献被排除。无实际结果/实现（12篇）：仅聚焦理论工作且/或缺乏实际结果与实现的记录被剔除。XAI信息不足（10篇）：摘要中未明确所用XAI方法且/或未提供关于可解释性与可解释能力信息的记录被排除。完成上述步骤后，剩余104条记录；鉴于数量仍偏多，进一步剔除未被引用过的文献（42篇），最终留下62条记录进入全文阅读阶段。最终筛选阶段通过全文阅读与分析，进一步排除目标不明、结果洞察有限且XAI相关信息不足的文献（29篇），最终确定33篇出版物进入详细分析。图6给出了剩余文献的出版年份与出版机构分布，涵盖期刊与会议论文。 图6 (a) 所选记录中出版物（会议与期刊）数量的年度演变，(b) 最终期刊论文按出版机构分布的百分比及其 quartile 信息，(c) 会议论文按出版机构分布的百分比这一初步分析显示出每年发文量的上升趋势（图6(a)），从2021年的6篇增至2023年的12篇。2024年数量较少可能由多重因素造成：本次综述在2024年进行，留给新文献被纳入的时间有限；且作者采用的筛选流程曾排除未被引用的论文，这可能影响了尚未获得引用的新发表研究。在最终入选的33篇文献中，24篇来自期刊，其余9篇为会议论文。由图6(b)可见，绝大多数（20篇，占83.3%）发表于公认的Q1期刊；剩余期刊文章里，3篇发表于Q2期刊，1篇发表于Q3期刊。至于会议论文（图6(c)），9篇中有7篇由IEEE组织，另外2篇分别属于Springer与Elsevier。综上，最终遴选的33篇文献可被视为契合本综述主题及当前研究状态的具代表性样本；如本节所述，严格遵循PRISMA各阶段的筛选流程确保了仅纳入高质量且高度相关的出版物。排除标准——尤其聚焦具备实际应用与实证证据、并拥有充分引用指标的论文——进一步将结果精炼为在学术界已彰显相关性与影响力的研究。此外，占比高达83.3%的期刊论文均发表于高影响力、相关度高的Q1期刊，而会议论文则由IEEE、Elsevier及Springer等公认机构组织。鉴于本综述专注“XAI在工业故障检测与诊断任务中的适用性”这一特定方向，最终样本量亦体现了该研究领域在检索时的新颖性；因此，所获文献数量足以用于识别该领域的最新趋势。 编辑：赵栓栓校核：李正平、陈凯歌、曹希铭、赵学功、白亮、任超、海洋、陈宇航、陈莹洁、Tina、王金、赵诚、肖鑫鑫、张优该文资料搜集自网络，仅用作学术分享，不做商业用途，若侵权，后台联系小编进行删除来源：故障诊断与python学习