深度学习模型是一个内部机制不明确的黑箱模型,这大大降低了用户对决策过程的信任度。很多研究者们在研究可解释系统,期望诊断结果更可靠、透明。
邵海东老师团队对智能故障诊断领域最新的可解释性研究进行系统综述。将该领域内近期关于可解释模型的学术成果进行了系统梳理,并根据其方法和结构特征进行了分类。此外,还探讨了智能故障诊断可解释性面临的挑战及未来的研究方向。非常值得相关研究方向人员学习。
论文题目:A systematic review on interpretability research of intelligent fault diagnosis models
论文期刊:Measurement Science and Technology
论文日期:2024
论文链接:10.1088/1361-6501/ad99f4
作者:Ying Peng(a), Haidong Shao(a), Yiming Xiao(a), Shen Yan(a), Jie Wang(a) and Bin Liu(b)
机构:
a: College of Mechanical and Vehicle Engineering, Hunan University, Changsha 410082, People’s Republic of China
b: Department of Management Science, University of Strathclyde, Glasgow G1 1XQ, United Kingdom
作者简介:
邵海东,1990年生,副教授,博士生导师,岳麓学者,西北工业大学本硕博,瑞典吕勒奥理工大学博士后,IEEE Senior Member,湖南省优青,湖湘青年英才(湖南省青年科技人才),入选科睿唯安全球高被引科学家(工程学/交叉学),爱思唯尔中国高被引学者(机械工程),斯坦福全球前2%顶尖科学家终身科学影响力榜单(人工智能),ScholarGPS全球前0.05%顶尖科学家榜单(信息学),中国知网高被引学者TOP 1%(机械工程)。曾获:湖南省自然科学奖二等奖(排名1/4),中国振动工程学会科学技术奖二等奖(排名1/3),吴文俊人工智能青年科技奖,中国施工企业管理协会工程建设十大新技术(排名13/20),第五届全国高校教师教学创新大赛二等奖(排名2/4),湖南省普通高校教师教学创新大赛一等奖(排名2/4),湖南省普通高等学校课程思政教学竞赛一等奖(排名3/5),中国机械行业产教融合教育教学创新大赛全国赛一等奖(排名6/10),全国航空航天类课程思政示范课程(排名8/10),全国宝钢优秀学生特等奖,IEEE Andrew P. Sage Best Transactions Paper Award,英国物理学会IOP Publishing Top Cited Author Award,中国精品科技期刊顶尖学术论文,中国机械工程学会优秀论文,《机械工程学报》第六届/第九届高影响力论文,《航空学报》2020—2023年高影响力论文,湖南大学优秀教师新人奖,教学优秀奖,长丰优秀教师奖,青年岗位能手,创新创业优秀指导教师,本科毕业论文优秀指导教师,连续3年博士生国家奖学金等荣誉。
研究方向为运载装备机电系统的健康管理与智能运维,主持国家自然科学基金面上项目,青年项目,国家重点研发计划子课题,湖南省创新平台与人才计划项目,湖南省自然科学基金优秀青年基金项目,教育部产学合作协同育人项目,国家级重点实验室开放课题和研究所/企业委托课题等,参与了重大研究计划、军委装备预研基金、航空科学基金等课题。
目前以第一作者/通讯作者发表学术期刊论文100余篇:70余篇中科院SCI一区/Top (全部为非开源);20余篇ESI热点,40余篇ESI高被引;具体期刊包括Information Fusion、IEEE TII、IEEE TSMC、IEEE TIE、IEEE-ASME TMECH、IEEE TTE、IEEE IoTJ、IEEE TR、IEEE TIM、MSSP、JMS、ESWA、RESS、ADVEI、CII、EAAI、Science China、中国科学: 技术科学、机械工程学报、航空学报等;论文被引总次数16000+(Google Scholar),单篇最高被引次数700+,H-index为67,公开授权发明专利9项。
担任《IEEE Transactions on Industrial Informatics》、《IEEE Transactions on Systems, Man, and Cybernetics: Systems》、《IEEE Transactions on Intelligent Transportation Systems》、《Structural Health Monitoring》、《IEEE Sensors Journal》、《Journal of Vibration and Control》、《Proc IMechE, Part C: Journal of Mechanical Engineering Science》等10余个SCI期刊副主编(Associate Editor);《Measurement Science and Technology》、《CMC-Computers Materials & Continua》等多个SCI/EI期刊编委(Editor Board Member);30余个EI国际会议Program Chair和Session Chair等;中国振动工程学会动态信号分析专业委员会委员;中国机械工程学会工业大数据与智能系统分会委员;中国系统工程学会系统可靠性工程专业委员会委员;湖南省高新技术产业科技创新引领计划项目评审专家;教育部学位中心学位论文评审专家;湖南湘江新区青年科技工作者联合会理事;IEEE Senior Member;IIAV/IET Member。
独立指导1名博士生入选首届中国科协青年人才托举工程博士生专项计划;独立指导多名博士生,硕士生和本科生获国家奖学金、省级优秀毕业生、校长奖学金、优秀研究生标兵、优秀学生党员等荣誉。独立指导的SIT项目组成员成功前往苏黎世联邦理工学院,南洋理工大学,香港大学、香港中文大学等知名高校攻读硕士和博士学位。(来源:湖南大学教师主页)
摘要
1 引言
2 事前可解释模型
2.1 物理知识嵌入模型
2.2 功能框架嵌入模型
2.3 算法结构等价模型
3 事后可解释模型
3.1 模型特定可解释性
3.2 模型无关可解释性
4 挑战与展望
5 结论
近年来,基于深度学习方法的智能故障诊断(IFD)发展迅猛,提供了日益精准和自主的解决方案。然而,这些方法忽视了模型的可解释性,且大多数模型是内部机制不明确的黑箱模型,从而降低了用户对决策过程的信任度。这在关键决策中尤其成问题,因为诊断依据的不明确会带来重大风险。为应对这些挑战,迫切需要一个更可靠、透明且可解释的系统。关于智能故障诊断可解释性的研究势头渐盛,如今已成为一个活跃的研究领域。为促进该领域的深入研究和发展,有必要对现有的关于可解释故障诊断模型的期刊文章进行全面审视。此类综述将为读者揭开当前技术的神秘面纱,并为未来的研究奠定基础。本文旨在对智能故障诊断领域最新的可解释性研究进行系统综述。我们对该领域内近期关于可解释模型的学术成果进行了系统梳理,并根据其方法和结构特征进行了分类。此外,我们还探讨了智能故障诊断可解释性面临的挑战及未来的研究方向。
关键词:可解释性、智能故障诊断、深度学习、黑箱模型
如今,各行各业对安全性和健康的经济周期都有了更高的要求,而故障诊断在设备监测、诊断和维护中起着至关重要的作用[1]。传统的故障诊断方法依赖人工检查和专家经验,不仅效率低下,还容易受到人为因素的影响[2, 3]。智能故障诊断(IFD)技术的出现正是为了弥补这一不足,并提供更准确、高效、实时的故障诊断解决方案。IFD的应用领域十分广泛,例如建筑系统[4]、化工过程[5]、能源工程[6]、电气系统[7]、智能交通[8]等。IFD技术融合了人工智能与故障诊断的精髓,在设备健康监测和故障预防方面取得了重大突破[9]。随着技术的发展,IFD技术变得越来越先进、具有更强的适应性和智能化[10]。
尽管智能故障诊断(IFD)已经达到了前所未有的准确度和精确度,但大多数深度学习算法都是黑箱模型。如果一个机器学习模型表现良好,我们就能信任该模型并忽略其决策背后的原理吗?答案是否定的。从模型结构和算法设计的角度来看,正是复杂的结构和错综复杂的参数优化策略推动了模型性能的提升,这不可避免地导致无法直观理解模型的内部机制。黑箱模型无法为决策者提供诊断结果的合理解释,这降低了模型在高可靠性要求环境中的可信度,因为它将面临极高的未知风险,从而限制了其应用[11]。为了提高智能故障诊断的安全性和可信度,有必要让决策者了解模型给出输出结果的原因。因此,需要增强模型的可解释性[12]。值得一提的是,“可解释的”“可说明的”及其其它表达方式在本文中传达的是相同的含义。
许多学者都对IFD的可解释性进行了研究,相关出版物数量显著增加。然而,我们注意到,目前尚未有对该领域研究的全面调查,也没有从可解释性的角度对现有模型进行分类。因此,在本综述中,我们借鉴了最新且相关的文献,对IFD可解释性研究的所有成果进行了回顾和分类[13]。过去五年中,关于可解释性故障诊断的期刊文章数量迅速增长。为了揭示这种方法的受欢迎程度,我们在Web of Science上进行了文献检索,结果如图 1 所示。我们发现,大多数期刊文章来自IEEE Xplore和Elsevier Science Direct。这表明过去五年该领域的研究高度集中,且近三年的出版物数量显著增加。值得注意的是,由于可解释性故障诊断算法的命名方式多样,要全面涵盖所有相关研究具有一定难度。近年来发表的这些文章可能为该领域的研究提供新的思路。但目前仍需要对这些进展进行更深入的综合与传播。因此,对当代研究进行系统综述既是必要的,也是至关重要的[14,15]。

图1 过去五年间可解释性故障诊断相关期刊论文数量
可解释的故障诊断模型大致分为两类:事前可解释模型和事后可解释模型。事前可解释性是指训练好的模型无需补充信息就能让人理解其决策过程或原理,这是在模型训练前就固有设计好的。典型的事前可解释模型包括线性回归、逻辑回归和决策树[16,17]。在本文中,事前可解释模型被进一步分为三类:物理知识嵌入模型、功能框架嵌入模型和算法结构等价模型。相反,事后可解释性是在模型训练后进行处理的。事后可解释性指的是在不改变原始模型结构的情况下构建一个可解释的模型,基于原始模型的输入数据和输出结果,推导出模型决策的逻辑和原因,并得出合理的解释。典型的事后可解释性方法包括类激活映射(CAM)[18]、沙普利加性解释(SHAPs)和局部可解释的模型无关解释(LIME)[19]。事后可解释性还进一步分为模型特定可解释性和模型无关可解释性[20]。此外,可解释性的范围可以是局部的,侧重于单个输入样本;也可以是全局的,旨在揭示模型的总体逻辑和内部机制[21]。事前可解释性和事后可解释性之间的区别如图 2 所示。

图2 事前可解释性与事后可解释性的差异
本文的主要贡献总结如下:
介绍了可解释性的基本概念和理论,包括事前可解释性和事后可解释性,并从算法角度系统回顾了IFD模型的可解释性研究。
围绕模型架构和原理,详细阐述了可解释性故障诊断模型的五个子类别,这有助于指导从业者为其特定的工业应用选择合适的算法。
阐述当前可解释性故障诊断发展面临的挑战和未来方向,旨在为该领域的新手和资深学者提供系统性综述。
如图 3 所示,本研究的结构安排如下。第2节介绍了事前可解释模型,并将相关文献分为三类:物理知识嵌入模型、功能框架嵌入模型和算法结构等价模型。第3节详细介绍了事后可解释模型并对其进行了分类。

图3 本系统性综述的框架
它们进一步分为两类:特定模型和无关模型。文中对相关概念进行了解释,以说明它们各自的优势。第4节讨论了IFD可解释性面临的挑战和未来的研究方向。最后,第5节对本综述进行了总结。
在本节中,我们介绍事前可解释性的基本概念,这是一种在训练前就将可解释性融入模型设计的主动策略。通过引入额外的网络结构或修改训练过程,可以在网络的训练过程中施加可解释性约束,从而引导网络具备可解释性,并符合实际问题的特定物理结构。我们将现有的事前可解释故障诊断模型分为三类:物理知识嵌入模型、功能框架嵌入模型和算法结构等价模型,以阐明事前可解释性的运行机制和策略方法。
物理知识嵌入模型是一种直接的事前可解释模型,它直观地将相关约束整合到损失函数中,从而促使黑盒神经网络执行物理定律或经验公式,以获取额外信息来辅助模型训练[22]。深度学习已成为智能故障诊断(IFD)的主要方法。特别是卷积神经网络(CNNs)显著提高了故障诊断性能[23]。然而,传统卷积神经网络的内部结构不透明,这限制了它们在现实中的实际应用。如果将小波变换嵌入卷积神经网络(CNN),可能会有一些改进。
鉴于小波分析的物理相关性,它能够有效增强深度神经网络(DNNs)的可解释性。离散小波变换(DWT)是一种近似小波变换方法,可将信号分解为不同尺度的近似系数和细节系数。Wang等人[24]基于DWT坚实的物理理论基础,提出了一种能够进行深度频率分离的物理知识嵌入模型。他们模型的创新之处在于设计了一个频率学习层,该层由基于DWT的频率分解模块和基于卷积的特征学习模块组成。Li等人[25]构建了一种具有物理可解释性的网络,该网络结合了小波基和卷积核的优势。他们的算法在准确性和噪声鲁棒性方面表现更优。Gao等人[26]也将物理知识(即小波基单元函数)嵌入到卷积网络(ConvNet)中。他们设计了三种不同的小波基单元函数,并将其嵌入到卷积层中。由于其物理原理清晰,因此该嵌入层本质上具有可解释性。Zhao等人[27]创新性地将双阻尼小波作为核函数嵌入到卷积层中,能够更好地识别故障特征。他们更关注模型的轻量化设计,以降低大量参数带来的高计算成本。他们使用多个并行卷积层而非堆叠卷积层来筛选故障特征,这可以降低网络的复杂度。前面提到的内容就是基于双阻尼小波的动态CNN模块。最后,在此基础上,他们结合改进的DWT来增强轴承故障诊断的可解释性,这就是DWT增强模块。频率特征被转换为线性通过逆离散小波变换输出,如图 4 所示。

图4 基于小波动态层的故障诊断流程图
某些方法将小波与其他功能可解释模块相结合,以提高可靠性和适用性。Li等人[28]提出了完全可解释的透明算子网络。该透明算子网络由三个本质上具有物理可理解性的模块组成:带有参数化Morlet小波滤波算子的信号算子层、带有特征归一化的统计特征层以及线性分类器。整个透明算子网络的所有模块都具有物理可解释性。He等人[29]提出了一种可直接获取的小波权重初始化方法,该方法具有很强的物理可解释性。该模型侧重于降噪的权重初始化和阈值设置。为了增强少样本学习能力并提高可解释性,Liu等人[30]提出了一种跨域模型,该模型采用时间散射卷积网络,在每个卷积层而非仅第一个卷积层中使用小波核。通过这种方式,卷积网络的所有层(包括Morlet小波变换和softmax)都是可解释的。之后,Liu等人[31]提出了一种归一化小波散射卷积网络,以增强故障诊断模型在跨传输路径迁移任务中的域泛化能力。
短时傅里叶变换(STFT)也常被用于可解释网络,因为它能将时域信号转换为时间-频率表示,从而突出那些更易于分析和理解的重要特征及模式。这种表示形式通常可视化为频谱图,它为信号提供了更清晰、更具结构性的视图,有助于特征提取,并使神经网络的决策更具透明度和可解释性。短时傅里叶变换具有可解释的理论基础,因此,He等人[32]将可微分的短时傅里叶变换作为物理知识嵌入到网络中,使网络具有内在的可解释性。上述两个模型都是跨机器故障诊断,从实验场景到实际场景。他们使用可视化方法来证明所提出模型的有效性,如图 5 所示。可以看出,可微分短时傅里叶变换能够集中能量并降低噪声。之后,He等人[33]对其进行调制,使时频谱具有鲁棒性,如图 6 所示。Chen等人[34]提出了一种可解释网络。他们将具有物理可解释性的时频变换(TFT)技术嵌入到卷积神经网络的预处理层中,使模型具有事前可解释性。Kim等人[35]提出了一种可解释框架,结合短时傅里叶变换和包络分析来展示模型所学习到的故障特征的分类机制。

图5 有无可微分短时傅里叶变换的时频图

图6 采用短时傅里叶变换、可微分短时傅里叶变换及调制可微分短时傅里叶变换时频图
对于嵌入物理知识的模型,表 1 突出显示了不同作者使用相同可解释方法提出的模型的独特之处,包括创新点或应用场景。
表1 物理知识嵌入模型的独特性

神经网络中还嵌入了一些其他物理模块,以提高模型的可解释性。Yan等人[36]将物理信息权重矩阵嵌入到单个隐藏层网络中,该网络被设计为决策模块,以确保可解释性。Sun等人[37]为诊断结果提供了直接的物理解释。Liu等人[38]针对滚动轴承故障引起的非平稳脉冲信号,构建了物理知识增强的稀疏子段引导降噪层,利用稀疏子段进行降噪增强了网络的可解释性。Abid等人[39]开发了一个新的深度学习框架。它实现了高准确率、事前可解释性以及对噪声的鲁棒性。
该功能模块本地嵌入深度神经网络(DNN)中,用于体现特定的物理知识,以提高可解释性。常见的功能模块包括卷积核模块、注意力机制模块等。
深度学习中的注意力机制模仿人类的注意力过程,使模型能够聚焦于输入数据中的关键信息,极大地提高了模型的准确性和效率,并增加了模型的透明度。注意力机制已在各种模型中得到广泛应用。Li等人[40]提出了一种使用Transformer网络进行挖掘的旋转机械故障诊断模型。
信号内部的关联关系,这通过稀疏正则化约束来优化注意力权重。Yang等人[41]提出了一种轴承故障诊断模型,该模型利用注意力机制来反映不同输入片段对结果的重要性,如图 7 所示,其中 表示输入向量; 表示查询向量,它是与任务相关的表示, 表示评分函数,用于计算每个输入向量与查询向量之间的相关性; 代表注意力分布,它是在给定 和 的情况下选择第i个输入向量的概率: 作为输入的高级表示可用于进一步诊断,并且使用softmax分类器进行最终的轴承状态分类。Su等人[42]提出了一种卷积时空网络。该模型通过使用注意力模块具有可解释性的优势,能够从输入数据中依次提取深层次的时空特征。Zheng等人[43]构建了一个图卷积注意力网络,利用注意力机制根据特征重要性分配自适应权重。Xiao等人[44]提出了一种用于旋转机械故障诊断的Transformer模型,并利用贝叶斯知识优化注意力权重。
图7 注意力机制的工作流程
平方包络谱(SES)是一种传统的信号处理方法,已被用于可解释的故障诊断模型中。Li和Chen[45]将SES引入了传统故障诊断。Hou等人[16]提出了一种基于可解释机器学习的故障诊断方法,该方法采用在线更新策略逐一更新每个样本的权重。Yan等人[46]基于归一化的SES定义了一个异常敏感指标,经过权重优化后,该模型能够在信号处理和频谱分析中自主发现故障特征频率。
信念规则库(BRB)模型作为一种智能专家系统被提出,用于处理模糊和不确定的信息。它结合了专家系统和数据驱动模型的优势,特别适用于信息不完整或专家知识难以量化的复杂系统预测。在预测模型中使用BRB时,专家的知识可以以“如果-那么”规则的形式进行编码,这些规则利用置信度来表达各种类型的不确定性和模糊信息。更重要的是,作为一种白盒方法,它可以为决策者提供直接的访问途径和透明度。利用这一点,Ming等人[47]将BRB与概率表相结合,构建了BRB-P模型,该模型能够实现比传统BRB更高的精度。随后,他们通过添加可解释性约束,在可解释性要求下对参数进行优化。He等人[48]为复杂系统设计了一种可解释的BRB模型,并在该模型中添加了可解释性约束。Chen等人[49]提出了一种新的可解释方法,即将具有大量参数的BRB分解为多个参数较少的子BRB,然后构建权重分配方法来组合这些子BRB,同时确保惯性平台故障诊断的可解释性。
对于功能框架嵌入模型,表 2 强调了不同作者使用相同可解释方法提出的模型的独特性,包括创新点或应用场景。
表2 功能框架嵌入模型的独特性

神经网络中还嵌入了一些功能框架,以使算法具有可解释性。Zhou等人[50]使用极端梯度提升来替代卷积神经网络(CNN)的部分功能,从而使模型具有可解释性。Tong等人[51]对故障诊断模型进行了可解释性分析,将卷积层的第一层结构和原始信号的输出特征进行可视化,然后通过展示每一层训练后特征图的变化,直观地揭示了模型的特征学习过程和表示。Liu等人[52]设计了多个具有事前可解释性的时频滤波核,利用数学中的点积方法来提取特征。Huang等人[53]构建了一个图结构模型,该模型利用基于概率分布知识的物理约束来反映分布差异和关联。
算法结构等价模型对神经网络中信号处理方法的结构进行近似,从而提高网络的可解释性,并挖掘目标信号的健康状态特征。
基于稀疏表示的稀疏迭代算法引起了广泛关注。Zhao等人[54]提出了一种具有事前可解释性的深度学习模型。基于多层稀疏编码器的思想,他们设计了一种能够跨层解决稀疏编码问题的算法。Niu等人[55]深入探究了自编码器的可解释性,分别研究了其组件结构,并提出了一种具有清晰理论框架的稀疏编码模型。An等人[56]将扩展稀疏编码模型的嵌套迭代软阈值算法成功应用于轴承的智能诊断中,并通过特征可视化验证了所学特征是否有意义,证明了该模型的透明性和可信度。Liu等人[57]提出了一种新的多尺度残差网络用于滚动轴承故障诊断,其中在特征提取器中应用了动态校准机制,并将校准结果可视化以提供可解释性。Zhang等人[58]提出了一种稀疏编码方法如图 8 所示,该方法利用兰姆波卷积,并将多层迭代软阈值算法应用于多层基追踪问题,以灵活识别兰姆波损伤特征,实现损伤识别与定位。

图8 基于多层迭代软阈值算法的损伤定位
对于算法结构等价模型,表 3 强调了不同作者使用相同可解释方法提出的模型的独特性,包括创新点或应用场景。
表3 算法结构等价模型的独特性

事后可解释性技术拓展了智能故障诊断(IFD)技术的理论与应用边界,不仅有助于更清晰地理解复杂诊断模型的故障分类过程及深层逻辑,还提升了诊断模型的可信度、可靠性与准确性。如图 9 所示,可解释性分析能让用户更深入地洞察模型决策背后的依据,进而增进对模型判断结果的信任度。在本节中,我们将从两个主要维度,探究事后可解释性方法在不同智能故障诊断(IFD)模型中的适用性。

图9 事后可解释方法的作用
模型特定可解释性指通过分析模型的输入、输出、结构、参数等信息,设计可解释性方法,以理解模型进行分类决策的依据。该类可解释性仅适用于特定模型,无法迁移至其他类型的模型。通常,模型特定可解释性以梯度信息为载体,通过特征显著性图、类激活映射(CAM)等方式,解释模型的分类原理。
杨等人 [60] 提出了一种深度学习模型,该模型在旋转机械的振动数据(已转换为频域)上进行训练。该模型结合了神经元激活最大化和显著性图两种方法来可视化学习到的特征,从而推断模型识别健康状况的依据,如图 10 所示。孙等人 [61] 提出了一种通过图像和学习特征进行故障诊断的方法,并通过CAM技术定位故障。车等人 [20] 提出了一种可在不同工作条件场景下使用的迁移学习模型,利用CAM获取显著性图,这在增强模型可解释性的同时确保了模型的稳定性和准确性。金等人 [62] 提出了一种端到端模型,用于学习时间域数据。他们使用分组卷积为每个轴学习可解释特征,并使用基于频域的梯度加权CAM(Grad-CAM)可视化训练模型的决策标准。陈等人 [63] 提出了一种新的梯度评分CAM方法,用于分析时间域信号注意力分布的可解释性。陈等人 [64] 提出了一种新的评分加权CAM方法,用于提取暖通空调系统中的关键特征。程等人 [65] 使用Grad-CAM方法验证所提出的方法是否准确学习了故障特征。郭等人 [66] 从时间域和频率域两个角度开发了一种解释CNN的方法,用于轴承故障诊断。他们使用Grad-CAM检测时间域的注意力分布,并使用基于梯度上升的核可视化研究CNN在频域的工作原理。任等人 [67] 在时间卷积网络中使用Grad-CAM分析特征图,并观察当前模型在做出决策时的关注点,从而提高了电力系统的可解释性变流器故障诊断。陈和李[68]使用Grad-CAM在分析轴承振动信号进行故障诊断时,获得了CNN模型的注意力分布。Kim等[69]使用Grad-CAM可视化频域中的分类标准,用于线性导轨故障诊断。Yu等[70]将基于特征向量的CAM与Grad-CAM结合,用于解释一个6层残差神经网络。Lee等[71]使用Grad-CAM识别模糊能量模式图像数据中对模型影响最大的区域。陈等[72]改进了Grad-CAM技术,并将其与领域的先验知识结合,以理解模型的分类原理。

图10 基于显著图的可解释性故障诊断
对于特定模型的可视化方法,表 4 突出了不同作者提出的模型在使用相同可解释方法时的独特性,包括创新点或应用场景。
表4 模型特定可视化方法的独特性

与CAM可视化的解释策略不同,Tang等人[73]提出了一种使用自注意力机制的可视化方法,用于观察每一层的注意力图并解释模型的工作原理。在滚动轴承故障诊断中,深度学习模型的抗噪性能弱且可解释性差,会降低其在工业应用中的可信度。为了解决这个问题,Sun等人[74]提出了一种具有强抗噪能力的模型,并使用可视化方法确保可解释性。他们可视化了网络的输出,如图 11 所示。Yang等人[75]提出了一种针对IFD的事后可解释方法,用于可视化模型从经过STFT处理的故障信号中学习到的特征。Kim等人[76]提出了一种可解释方法,使用频率激活图。虽然An等人[56]设计了上述的事前可解释模型,但他们也进行了事后可解释性分析,使用可视化方法观察算法学习到的特征。Li等人[40]能够通过注意力热图推导故障特征与分类结果之间的关系,使用的是事后可解释的可视化方法。Jiang等人[77]通过分析模型小波核的结构和参数并可视化其特征来说明可解释性。Guo等人[78]提出了一种具有跨域性能的IFD方法,使用因果解释来提高决策系统的可靠性。

图11 类别激活可视化结果
Gwak 等人 [79] 提出了一个基于扰动的事后可解释模型,该模型通过观察输入和输出的变化来解释模型。此外,他们使用扰动数据来测试模型 [80, 81]。Liao 等人 [82] 提出了一个深度信念网络,用于解释 DNN 的学习和决策过程。Fang 等人 [83] 专注于量化和解释环境因素对传感器数据的影响,并构建了一个对抗学习网络以解释输入对输出的影响。Li 等人 [84] 通过对模型进行事后可解释性分析,确认了其轴承故障诊断的可靠性。Liu 等人 [38] 使用模型关键信息权重分布结果来说明事后可解释性。Glock 等人 [85] 提出了一个新的算法思路,即使用一个可解释模型来解释另一个不可解释的模型。在 [86] 中,他们提出了一个可解释的故障诊断神经网络,该网络使用特征重要性值和反事实方法,从全局和局部两个角度提供解释。Zhang 等人 [87] 提出了一个基于功能性脑网络理念的可解释功能网络。Rui 等人 [88] 提出了一个用于噪声环境下故障诊断的可解释有限脉冲响应网络,并通过实验证明该方法具有良好的事后可解释性。
与模型无关的可解释性表明该算法适用于各种方法。Grad-CAM 和 SHAP 在可解释性研究领域中被广泛使用。Grad-CAM 通过可视化输入图像中的感兴趣区域提供局部可解释性信息,而 SHAP 值则衡量每个特征对模型预测的贡献并探索依赖关系 [53]
SHAP 起源于博弈论,旨在帮助人们理解机器如何做出决策[89,90]。可解释性分析的流程图见图 12。该方法将模型输出的预测值分解为各特征的贡献,从模型外部探讨可解释性[91]。Zhu 等人[92]在每一层中使用 Shapley 值来确定是否简化决策树学习中生成的树。Brito 等人[93]提出了一种方法论,他们使用 SHAP 来解释旋转机械故障诊断的黑箱模型。根据模型可解释性获得的重要性,对特征进行了排序。Li 等 [94] 使用 SHAP 值量化了一个顺序不变且可解释的扩张卷积神经网络中 特征的贡献。Jang 等 [95] 能够顺利地将 SHAP 与监测指标结合使用,以解释对抗自编码模型。Chowdhury 等 [96] 使用 SHAP 库来理解集成学习模型在 3D 打印机故障诊断中预测机制。Zhang 等 [97] 开发了使用 SHAP 的故障特征选择方法,可以理解故障特征如何影响油浸变压器故障诊断的诊断结果。

图12 利用 SHAP 对训练好的模型进行可解释性分析
SHAP 也可以应用于其他学科领域的故障检测与监控或故障诊断。在故障检测与监控方面有四种情况。Bhakte 等 [59] 提出了一种基于 Shapley 值的事后可解释方法用于过程监控。Hwang 和 Lee 等 [98] 使用 SHAP 可视化工业控制系统异常检测中的异常情况。Keleko 等 [99] 在液压系统状态监控中应用深度 SHAP 进行解释。Utama 等 [100] 在光伏故障检测中使用 SHAP 提高可解释性。在其他学科领域也有四种情况。Biju [101] 在电气故障分类中使用 SHAP 进行可解释性研究。在建筑能源系统领域,Li 等 [102] 提出了一种权重融合算法,利用 SHAP 值和 Grad-CAM 的优势特性来增强可解释性。Bi 等 [103] 设计了一种特征权重计算方法并使用 SHAP 分析进行数据处理。Chen 等 [104] 使用 SHAP 以理解模型的内部原理和运行过程。
逐层相关传播(LRP)是一种可解释的方法,通过反向传播计算重要性。LRP算法假设神经网络每一层的神经元与神经网络输出之间存在一定的相关性。神经元之间相关性越高,它们对神经网络输出的影响就越大,其重要性也越高。此外,该算法为神经网络中的每一层定义了一种特殊的反向传播方法,可以将神经网络逐层输出的相关性传递到输入样本的每一个单元,即相关性传播,从而计算每个单元与输出之间的相关性,如图13所示。Kim 等人[35]通过使用LRP热图增强了物理可解释框架的可解释性。Tong 等人[105]也使用LRP增强模型的可解释性,并设计了压缩特征编码器。Grezmak 等人[106]使用LRP获得每个输入单元的梯度值,这可以很好地反映该输入单元的重要性。Li 等人[107]使用LRP方法解释暖通空调故障诊断模型。

图13 基于 LRP 的 CNN 故障诊断模型解释
Lu 等人 [108] 利用 LIME 模型解释了其在时变速度条件下基于特征的拟议模型。Li 等人 [109] 使用 LIME 模型对决策过程进行了可解释性分析。Zhang 等人 [110] 引入了 LIME,如图 14 所示,通过使用超声导波在小样本数据中进行损伤识别时,根据预测概率和关键特征值表对预测结果进行解释。Oliveira 等人 [111] 将 LIME 与 SHAP 方法结合,从全局和局部两个角度解释模型,以便更全面地理解轮胎制造过程中缺陷检测背后的内部机制。Gawde 等人 [112] 使用 LIME 解释预测性维护中的故障分类结果。

图14 基于 LIME 的可解释性损伤识别
对于模型无关的可解释方法,表 5 突出了不同作者使用相同可解释方法提出的模型的独特性,包括创新点或应用场景。此外,还有一个分类表,如表 6 所示,根据本文提出的分类法对主要期刊文章进行了分类。
表5 模型无关可解释方法的独特性

表6 可解释故障诊断模型的分类

事前可解释性和事后可解释性各有其优缺点。事前可解释性涉及使用本质上可解释的模型,如线性回归或决策树。这 些模型提供了透明性,因为它们的结构直接显示了输入如何影响输出。它们在需要解释的高风险决策场景中 特别有用。然而,这种固有的简单性往往以诊断能力为代价,使得它们难以处理更复杂的问题。此外,可解释层的存在会影响分类器的训练,因为它们是一起训练的。事后可解释性则是在训练后使用技术对复杂模型进行解释。像 Grad-CAM、SHAP 或 LIME。这些方法通过可视化特征重要性或生成解释,使人们能够理解“黑箱”模型。这些方法保持了原始模型的诊断能力,但其真实性需要验证,可能会限制其可靠性。本质上,事前可解释性倾向于简单和可靠,但可能限制性能,而事后可解释性则更适用于高性能模型。
尽管已经有大量研究致力于提高IFD模型的可解释性,但仍然存在许多挑战:
(1) 算法复杂性。嵌入物理知识的事前可解释性模型利用小波变换和STFT等技术来增强可解释性。这些模型解决了如下问题噪声减少、计算效率和领域泛化。然而,平衡可解释性与算法复杂性仍然是一个挑战。如果可解释算法的复杂性远远超过现有诊断方法,或者引入可解释技术显著增加了方法的整体复杂性,那么该方法的实用性将需要进一步评估。
(2) 决策支持。嵌入功能框架的模型在前可解释性中使用了各种方法,如注意力机制、SES 和 BRB。然而,这些方法不仅应作为解释工具,还应旨在增强诊断结果的可信度或确保与用户的更清晰沟通,从而最终实现更明智、更准确的决策。因此,在开发和评估可解释性技术时,必须优先考虑其支持和增强决策过程的能力。
(3) 算法标准化。特定模型的可解释性通过特征显著性图、CAM 和 Grad-CAM 等方法,使通过分析模型输入、输出和结构来详细理解分类决策成为可能。然而,不同领域研究人员的背景差异产生了各种关于可解释性的观点。可解释性的需求也会随着应用环境而变化操作条件,强调了标准化和可适应可解释算法的必要性。
(4) 评估机制。像 SHAP、Grad-CAM 和 LRP 这样的模型无关方法已被广泛采用,以提供对各种应用中模型行为的洞察。但不仅需要理解模型,还需要确保可信决策的可解释性和结果的可靠性。关于可解释性自我评估的研究有限,例如输出结果的可靠性。针对特定需求开发可解释的定性或定量评估机制,是该领域进步的一个必然问题。
IFD 方法的“黑箱”问题已成为其可信度的巨大制约因素,关于其可解释性的研究以及可解释方法的建立,已受到学术界和工业界越来越多的关注。在此背景下,本文从“事前(ante-hoc)”和“事后(post-hoc)”两大分类框架,对 IFD 模型的可解释性研究进行了系统综述。基于此,本文进一步完善了分类框架,利用类似的方法对可解释的故障诊断模型进行聚类。最后,本文指出了当前可解释性相关研究发展的瓶颈,并讨论了深度智能诊断领域可解释性研究所面临的挑战和发展方向。