本文针对机械故障诊断中因工况变化导致数据分布偏移的挑战,提出了一种名为渐进式域融合网络(Progressive Domain Fusion Network, PDFN)的新型无监督域自适应方法。该方法的核心创新在于从实例关系学习的角度,协同利用故障样本的多样性与相似性。具体而言,PDFN设计了渐进式域融合机制,通过动态选取并融合目标域中的高置信度样本,有效利用其特有信息以缩小域间分布差异;同时,通过构建实例相似度矩阵并设计改进的对比损失,增强了模型对决策边界附近模糊样本的区分能力。在公开数据集和自建平台数据上的大量实验表明,PDFN在多个跨域诊断任务中取得了最优性能,显著提升了诊断准确率与模型泛化能力,为应对实际工业场景中的测量不确定性和域偏移问题提供了有效解决方案。
论文题目: Toward Instance Relationship Learning:A Progressive Domain Fusion Networkfor Transfer Fault Diagnosis;
论文期刊:IEEE TRANSACTIONS ON INSTRUMENTATION AND MEASUREMENT;
Doi:https://doi.org/10.1109/TIM.2025.3563007;
作者联系方式:202337614@mail.sdu.edu.cn。
1 引言
2 准备工作
2.1 无监督跨域故障诊断的定义
2.2 基础CDAN模型
2.3 局部最大均值差异LMMD
3 所提方法
3.1 基于实例多样性的渐进式域融合机制
3.2 实例相似性关系洞察
3.3 整体优化
4 实验结果分析
4.1 数据集描述
4.2 对比方法
4.3 实验细节
4.4 实验结果
4.5 消融实验与分析
5 结论
作为旋转机械中不可或缺的关键部件,滚动轴承的健康状态对工业系统的稳定性与可靠性具有至关重要的影响。然而,在多变的工作条件下,轴承故障极易产生,可能导致严重的经济损失,甚至人员伤亡。因此,轴承故障诊断因其在保障设备可靠运行方面的重要作用而受到广泛关注,同时也是旋转机械测量(Rotating Machinery Measurement, RMM)领域的核心研究方向之一,其主要挑战在于测量不确定性问题。
随着工业大数据与深度学习技术的迅速发展,智能故障诊断(Intelligent Fault Diagnosis, IFD)——即将机器学习理论应用于故障诊断领域的方法——凭借其卓越的特征提取能力,在学术研究与工程应用中受到了广泛关注。这表明,IFD 在一定程度上能够有效应对仪器与测量领域中RMM所固有的内部不确定性问题。尽管现有的 IFD 方法已取得显著进展,但仍面临若干挑战。首先,不同工况下的数据分布存在显著差异,导致诊断性能下降。其次,在实际工业场景中,获取带标签的数据往往需要大量的时间与经济投入。因此,显而易见,需要引入一种合适的方法来应对上述挑战。
迁移学习为解决上述问题提供了一种有前景的途径,而基于迁移学习的IFD被称为迁移故障诊断。在众多迁移学习方法中,无监督域适应的目标是最小化有标签源域与无标签目标域之间的域差异,从而实现有效的知识迁移。基于无监督域适应的故障诊断方法,其核心目标在于学习域不变的故障特征,即提取在不同域间保持稳定的特征。通过学习域不变特征,这类方法能够应对仪器与测量领域中的关键问题,如测量不确定性和实际应用中的域偏移。这类由不同工况下数据分布变化所引起的外部和非参数不确定性,往往会导致诊断性能下降,是实际故障诊断应用中的普遍挑战。
目前主流的无监督域适应故障诊断方法主要包括基于度量的方法和基于对抗的方法。在基于度量的方法中,Wen 等人通过最小化-最大均值差异来减小两个域之间的分布差异。类似地,Qian 等人将最大均值差异与相关对齐方法相结合,以实现域间边缘分布和条件分布的对齐,从而获得良好的诊断效果,但在建模故障样本之间的内在关系方面仍存在局限。也有研究提出新的分布对齐度量,以增强域间分布关系的表达能力,但忽略了样本层面的关系,从而导致细粒度故障信息的丢失。
在基于对抗的方法中,域判别器用于判断特征来自哪个域,而特征提取器则通过混淆这一过程进行训练。条件域对抗网络在传统对抗神经网络的基础上引入了条件判别器和多线性条件机制,实现了条件层面的对齐。在此基础上,Wu 等人引入高斯分布约束并采用双分类器结构,进一步增强了对抗适应过程,从而提升了特征对齐与诊断性能。尽管该方法在全局分布对齐方面表现良好,但在捕捉细粒度故障特征方面仍存在挑战,容易产生负迁移。Zhang 等人提出了基于故障样本与模型参数的分层选择机制,实现了细粒度对齐,但仅关注样本的相似性而忽略了样本固有的多样性。Yang 等人设计了一种基于随机分类器的对抗网络,以提升决策边界的可靠性,但未考虑样本之间的内在关系,可能导致域混淆。
总体而言,无论是基于度量还是基于对抗的无监督域适应诊断方法,其主要关注于宏观层面的域间差异缩减,而忽视了样本之间固有的多样性与相似性。具体来说,对样本多样性的忽视意味着未能充分利用目标域特有的故障信息,即仅存在于目标域样本中的特定类别特征,这常常导致严重的负迁移。此外,现有方法往往忽略源域与目标域样本之间的相似性,造成决策边界附近模糊样本的预测不确定性。因此,在自适应过程中对所有样本一视同仁是不合理的,这也带来了如何构建一种有效的样本关系学习机制,以协调故障样本多样性与相似性的重要挑战。
图1 PDFN 算法的图示。域适应之前,模型在故障识别方面表现不佳。 PDFN利用故障实例的多样性和相似性将相似样本拉近,将不相似样本推远。适应后,PDFN 可实现卓越的诊断。
针对上述问题,本文提出了一种渐进式域融合网络,从样本关系学习的角度出发,协同挖掘样本的多样性与相似性,以实现更优的诊断性能。具体而言,为了有效利用样本的多样性(即目标域特有的故障信息),设计了一种渐进式域融合机制,通过动态构建可融合的子域,并与源域逐步融合以实现自适应训练,从而缩小源域与目标域的分布差异并提升模型的诊断能力。在此基础上,进一步考虑样本之间的相似性,通过样本相似关系建模构建相似度矩阵,用于刻画源域与目标域样本之间的关联关系。此外,基于相似度矩阵设计了一种改进的多样本对比损失函数,以缓解模糊样本带来的负面影响。所提出的渐进式域融合网络能够在保持优越诊断性能的同时实现跨域泛化,对仪器与测量领域具有重要意义,特别是在存在测量不确定性和多种工作工况下的故障诊断任务中具有较高应用价值。该网络的算法框架如图1所示。通过综合考虑样本的多样性与相似性,模型的诊断性能和泛化能力得到了进一步提升。综上所述,本文的主要贡献如下。
1. 提出了一种新颖的渐进域融合网络(progressive domain fusion network, PDFN),通过实例关系学习来提升故障诊断性能。具体而言,我们设计了一种渐进域融合机制,用于利用目标域的私有故障实例构建可融合的子域。该子域与原有的源域进行融合,形成增强的新源域并用于自适应的渐进式训练,从而有效利用实例多样性以提升诊断性能。
2. 为了进一步挖掘实例相似性关系,我们构建了一个相似性矩阵,并在此基础上优化改进的多实例对比损失,以减轻类别混淆的不利影响。因此,从实例关系学习的角度协同利用实例的多样性和相似性,显著增强了PDFN的诊断性能。
3. 所提出的PDFN在一个广泛使用的开源数据集及一个实际诊断平台上的多种迁移任务中得到了全面验证。大量实验结果表明,PDFN在迁移诊断性能上优于其他最新的先进方法。
本文结构如下,第二节介绍了理论背景。第三节详细描述了所提出的方法。第四节介绍了实验结果和分析。最后,第五节对本文进行了总结。
2.1 无监督跨域故障诊断的定义
本文主要研究不同工作条件下的迁移故障诊断问题。源域记为
其中包含 nₛ 个带标签样本;目标域记为 ,包含 nₜ 个无标签样本。这里 xᵢ ∈ X 表示一个样本,yᵢ ∈ Y 表示其对应的标签。两个域共享相同的标签空间,即 ,表示相同的健康状态类别。本文提出的渐进式域融合网络的主要目标,是通过设计并训练一种模型,从源域 中提取具有判别性且域不变的特征,从而提升目标域 上的故障诊断性能。
2.2 基础 CDAN 模型
条件域对抗网络(Conditional Domain Adversarial Network, CDAN)是一种广泛使用的基于对抗学习的无监督域适应方法。该模型主要由特征提取器 ,域判别器 和分类器 组成。CDAN 通过两个损失项构建了一个极小极大优化过程。首先,分类损失 被最小化以降低源域风险,从而提升模型的分类能力和故障诊断准确率。其表达式如下:
其中,E表示求和与平均运算, 表示交叉熵损失函数。其次,对抗损失 如式(2)所示,其中域判别器 旨在最大化 ,而特征提取器 则旨在最小化它。通过在 上进行的极小极大博弈,可以增强模型学习域不变故障特征的能力,从而更有效地提取跨域共享的故障知识。
其中, 表示域判别器的输出,如式(3)所示。此外, 和 分别表示提取的特征, 和 则表示相应的分类输出。
其中 表示在CDAN中使用的多线性条件操作。为减轻不确定预测带来的副作用,引入了熵条件机制。最终的CDAN损失函数可定义为:
其中, 表示权衡参数。通过对最终的CDAN损失进行更新,模型能够获得更强的域不变故障特征学习能力和分类能力,从而提升故障诊断性能。CDAN通过条件对抗训练减少域间分布差异,从而在不同工况下改善故障诊断效果。然而,该方法在处理靠近决策边界的模糊样本时仍存在困难。为解决这一问题,本文提出PDFN通过构建实例相似性矩阵并引入改进的对比损失,有效缓解了样本不确定性带来的负面影响,从而提升了故障诊断的准确性。此外,所设计的PDFN能够自适应地减少域间差异,使其在应对大规模域偏移时更加高效。
2.3 局部最大均值差异LMMD
LMMD是一种常用于无监督域适应的基于距离的度量方法,用于缓解域间分布偏移问题。为了衡量源域分布 与目标域分布 之间的分布差异 ,定义了基于核函数的平方均值嵌入距离如下:
其中,H表示再生核希尔伯特空间,而 是将原始数据样本投影到该空间的映射算子。核函数k可表示为 ,其中 表示向量的内积。由于 对应的是一个无限维特征空间,因此无法直接计算。为此,引入核技巧,从而可以将式(5)改写为以下形式的LMMD损失函数:
其中
LMMD 通过基于高阶统计差异来对齐域分布,从而改进了故障诊断性能,但由于其依赖全局距离度量,在应对复杂域偏移和模糊样本时存在不足。PDFN 针对这些局限性进行了改进,通过在实例层面逐步融合域以利用实例多样性,并引入改进的实例相似性对比损失函数,更有效地处理模糊样本,从而在复杂多变的工况下展现出更优越的诊断性能。
图2提出的PDF故障诊断模型训练流程
3.1 基于实例多样性的渐进式域融合机制
目前,大多数方法虽然能够有效减小域间差异,但往往忽视了目标域样本中所包含的特有故障信息,导致特征错配。为了解决这一问题,本文提出了一种基于实例多样性的渐进式域融合机制,充分利用目标域的专有故障信息。首先,从目标域中选取预测置信度较高的故障样本,这些样本包含了目标域特有的故障信息,体现了实例的多样性。某一目标样本的预测置信度𝐴由分类结果确定,其定义如下:
其中
因此,总的渐进训练损失可以表示为:
其中,分类损失和对抗损失分别被重写为
其中
3.2 实例相似性关系洞察
在通过充分挖掘实例多样性潜力完成渐进式训练后,还需要进一步考虑实例之间的相似性。为了更好地利用样本间的相似关系,本文通过设计一种以相似性为导向的实例选择器,构建实例相似性矩阵,用以表征源域与目标域样本之间的亲和关系。随后,基于该相似性矩阵设计了一种改进的多实例对比损失,从而有效缓解模糊故障样本带来的不利影响。
借鉴文献[14]的思想,为了求解两个域中实例间的相似关系,相似性度量𝜃可按如下方式计算:
由于目标域中缺乏标注数据,本文采用一种基于最近邻源域样本的伪标签分配方法。具体而言,对每个目标样本,根据其与小批量中源域样本的距离关系,分配与其最接近的源域样本对应的标签
其中,
其中,μ为采样因子,表示取目标样本中相似度最高的μ分位样本作为可靠样本。对于其余样本,则视为
此外,还构建了改进的 MIC 损失,以使相似的样本更接近,并将不同的样本推得更远。 MIC 损失可表述如下:
小批量中所有源样本的 MIC 损失是这些单独损失的集 合,可以写为:
3.3 整体优化
PDFN 的整体优化目标包括分类损失
其中
其中,
为解决宏观层面上减少域间差异的挑战,本文提出了 PDFN,通过实例关系学习的视角融合实例多样性与相似性。基于分析与实验结果,我们验证了 PDFN 的有效性。进一步讨论时,当模型在融合了来自不同机械部件的故障数据的源数据集上训练,并在包含源域部分故障类型的目标数据集上测试时,PDFN 展现了处理同类型故障相似实例的潜力。然而,PDFN 在应对不同类型故障的干扰时仍面临挑战。此外,不同异构传感器之间的迁移也对 PDFN 提出了一定难题。因此,如何在这些任务上实现最佳诊断性能仍是 PDFN 需要解决的关键问题。
为了验证所提出的 PDFN 的稳健性和有效性,对著名的开源数据集和实际诊断平台自行收集的数据集进行了彻底的评估,并将我们的 PDFN 与其他 SOTA 技术进行了比较。
4.1 数据集描述
图4实际诊断平台 PT500 及故障轴承示意图。(a) 实际轴承实验平台;(b) 滚动体故障;(c) 复合故障(CF);(d) 内圈故障;(e) 外圈故障。
4.2 对比方法
为全面评估 PDFN 的诊断性能,本文选取了七种具有代表性的对比方法进行比较,其中包括近年来提出的五种最新的先进方法以及两种基线模型。所有 SOTA 方法列于表 I 中。两种基线模型分别为 ResNet 和 CORAL。在本文中,PDFN 及所有对比方法均统一采用 ResNet 作为特征提取器,以确保性能评估的直接性与准确性。ResNet 的网络结构详见表 II。
1)HNA(2024 年):HNA 旨在通过对特征范数分布的逐步对齐来增强领域不变特征的学习,同时保持判别性的语义信息,从而提升跨域故障模式识别能力。
2)MMSD(2023 年):MMSD 从最大均值差异的角度重新审视其核函数关系,能够在再生核希尔伯特空间中精确捕获故障样本的均值与方差信息。与其他常用的分布差异度量方法相比,MMSD 能够更有效地提升迁移诊断能力。
3)ACDA(2022 年):为实现精确的特征对齐,ACDA 引入动态注意力机制,根据样本间的相似性对跨层语义信息进行重加权,从而提高故障诊断中的识别精度。
4)DALN(2022 年):DALN 通过引入核范数 Wasserstein 差异,将任务特定的分类器重新用作判别器,以此实现显式的领域对齐,同时在迁移故障诊断中也能取得优异表现。
5)TPC(2022 年):TPC 通过引导模型的预测输出,实现领域不变且具有判别性的特征学习,即最小化类别混淆并最大化核范数,从而提升无标签目标故障样本的诊断精度。
在本实验中,所有方法均采用小批量 Adam 优化算法进行训练。每个批次包含 32 个样本,每个迁移任务训练 100 个周期。权重衰减系数和学习率分别设置为
4.4 实验结果
所有方法均在开源的 JNU 数据集和自采集的实际诊断平台 PT500 数据集上进行了评估,实验结果如表 III 和表 IV 所示。表中符号 “A→B” 表示跨域诊断任务,即将 A 域的数据作为源域,将 B 域的数据作为目标域。在本节中,将对诊断结果、混淆矩阵以及特征可视化结果进行分析与讨论。
1)JNU数据集上的诊断结果:从表 III 和图 5 的总体结果来看,PDFN 以 96.27% 的最高准确率取得了最优表现,充分证明了其优越性。具体而言,虽然在任务 L2 → L1 中的准确率略低于 DALN,但在其余所有任务中,PDFN 均获得了最高的诊断准确率。以任务 L1 → L0 为例,基础模型 ResNet 的准确率仅为 66.19%,而基线方法 CORAL 在此基础上提升了约 14%。此外,其他对比方法在该任务中的准确率均超过 90%,但仍未能达到 PDFN 的表现水平。值得注意的是,PDFN 的标准差显著低于其他方法,表明其在结合实例多样性与相似性关系学习机制后,具有更强的稳定性与鲁棒性。从整体上看,所有对比方法相较于基础 ResNet 的诊断准确率均提升了 7.51%–10.29%。其中,ACDA 的表现相对最弱,但其平均准确率仍比 ResNet 提高了 7.51%,这得益于其跨层对齐机制,有助于在不同网络层次中捕获领域不变的故障特征。然而,ACDA 仍不及表现最优的 TPC 方法,后者不仅通过特征对齐实现跨域泛化,还通过约束输出预测来最小化类别混淆。DALN、MMSD 和 HNA 的平均准确率略低于 TPC,但差距极小,凭借各自独特的机制优势,仍展现出较强的故障诊断性能。
2)混淆矩阵分析:各方法在任务 3)PT500 实验平台上的诊断结果分析:表 IV 展示了在实际故障诊断平台 PT500 上的诊断结果。可以明显看出,PDFN 取得了最高的平均诊断精度,优于所有对比方法。在以 P0 作为源域的四个任务中,PDFN 的分类准确率均超过 98.5%,其平均准确率比表现最优的竞争方法 MMSD 高出 6.7%。在所有对比方法中,TPC 在 11 个任务上取得最高准确率,超过了在 6 个任务中表现最好的 MMSD。然而,由于 TPC 在
4)特征可视化分析:表 IV 展示了在实际故障诊断平台 PT500 上的诊断结果。可以明显看出,PDFN 取得为了直观展示 PDFN 的优越性,随机选择任务 P0 → P4 进行特征分布可视化,如图 7 所示。可以清晰地看到,其他竞争方法在特征分布中表现出明显的类间混叠现象,类别间差异较小,导致靠近决策边界的模糊样本难以准确分类。在对比方法中,MMSD 由于其在特征对齐中同时考虑了故障样本的 均值与方差信息,在若干易混类别之间仅存在少量特征混淆区域,表明其在分布对齐方面具有一定优势。然而,从图 7(h) 可以观察到,PDFN 的特征分布更加清晰、类间间隔更大,并且显著缓解了 MMSD 中存在的类间错位问题。这种改进得益于 PDFN 的渐进式域融合机制 与 实例多样性及相似性建模策略 的结合,使模型在特征空间中实现了更精细的类间分离与跨域对齐。综上,特征可视化结果进一步验证了 PDFN 在提升特征判别性和降低域间差异方面的有效性与优势。
5.5 消融实验与分析
1)消融实验:为进一步分析 PDFN 各组成模块的贡献,在 JNU 数据集和PT500 平台 上进行了消融实验。在 JNU 数据集中,随机选择
2)域融合轮次的确定:根据公式(10),渐进式域融合的最终循环次数 P 通过自适应方式确定,在 JNU 数据集上为 3,在 PT500 平台上为 4。为验证其可靠性,分别在两个数据集上将P从 0 变化到 5 进行实验。结果表明,随着 PPP 的增加,模型精度先上升后下降,说明融合目标域私有故障信息能够有效提升诊断性能,但过多的迭代会导致过拟合或噪声干扰,从而降低精度。当 P=3(JNU 数据集)和 P=4(PT500 平台)时,模型达到最佳性能,这充分验证了所提出的优化与融合迭代方法的可靠性及 PDFN 的优势。

本研究提出了一种融合实例多样性与相似性的全新渐进式域融合网络,以提升迁移诊断性能。在该方法中,首先引入渐进式域融合机制,有效利用具有私有故障信息的目标域样本的多样性,从而逐步减少源域与目标域之间的分布差异。随后,通过实例相似性关系分析构建实例相似度矩阵,以刻画源域与目标域样本之间的关联关系。在此基础上,设计了一种改进的多实例对比损失函数,用于缓解模糊样本对诊断性能的负面影响。基于一个广泛使用的开源数据集和一个实际故障诊断平台的广泛实验结果表明,PDFN 的诊断性能优于现有的先进方法。通过全面考虑实例的多样性与相似性,PDFN 显著提升了故障诊断的准确性与泛化能力。
未来的研究将重点探索 PDFN 在在线故障诊断中的应用,实现实时运行环境下的智能诊断。此外,研究还将致力于开发可在融合故障数据集上训练的模型,以增强其对多种故障类型的自适应能力,并在异构传感器间迁移时获得更优的诊断性能。最后,将进一步引入不确定性量化方法,以评估并提升模型在模糊或噪声环境下的预测可靠性。
编辑:赵学功
校核:李正平、陈凯歌、赵栓栓、曹希铭、白亮、任超、海洋、陈宇航、Kira、Tina、王金、赵诚、肖鑫鑫、张优
该文资料搜集自网络,仅用作学术分享,不做商业用途,若侵权,后台联系小编进行删除