首页/文章/ 详情

一种基于Transformer的新型局部增强通道自注意力机制在工业剩余使用寿命预测中的应用

2月前浏览789

本期给大家推荐一种基于Transformer的新型局部增强通道自注意力机制在工业剩余使用寿命预测中的应用在预测性维护领域,剩余使用寿命预测是保障复杂工业机械可靠性与安全性的核心技术。然而,现有基于循环神经网络、卷积神经网络或自注意力机制的方法,往往难以同时兼顾全局长期依赖、局部上下文信息与多传感器空间相关性。为突破这一瓶颈,本文提出一种基于Transformer的新型局部增强通道自注意力模型——LECformer。该方法不仅通过Transformer架构高效捕获长期依赖,更设计了独特的局部增强通道自注意力机制,能够自适应提取局部与全局特征,并动态加权不同通道的重要性。在多个涡扇发动机和轴承数据集上的实验表明,LECformer显著超越了当前最先进的RUL预测方法。


论文基本信息

论文题目:A novel local enhanced channel self-attention based on Transformer for industrial remaining useful life prediction  

论文期刊:Engineering Applications of Artificial Intelligence

Doihttps://doi.org/10.1016/j.engappai.2024.109815

作者:Zhizheng Zhang (a), Wen Song (a*), Qiong Wu (b), Wenxu Sun (a*), Qiqiang Li (a), Lei Jia (a)
论文时间:2025年
机构:(a) Institute of Marine Science and Technology, Shandong University, Qingdao, 266237, China 

(b) MetaReal (Beijing) Technologies Co., Ltd, Beijing, 100043, China

作者简介:宋文,海洋研究院副教授,入选山东大学青年学者未来计划,IEEE Senior Member。本硕毕业于山东大学控制科学与工程学院,博士毕业于新加坡南洋理工大学计算机科学与工程学院。长期从事深度学习、强化学习、组合优化、时间序列预测等方面的研究,主要研究方向为数据与智能驱动的优化决策技术。主持国家自然科学基金青年/面上、山东省自然科学基金、中国商飞技术研发等项目,以第一/通讯作者发表高水平SCI/EI论文30余篇,包括TNNLSTIITKDE等中科院1区/CCF-A类期刊论文,ICML、NeurIPS、ICLR、AAAICCF-A类/顶级人工智能会议论文,谷歌学术引用4400余次,H-index 32ESI高被引论文3篇,热点论文1篇。获中科院1Top期刊IEEE Transactions on Industrial Informatics杰出论文奖(2024年度唯一获奖论文)。任NeurIPS、ICLR、AAAI、IJCAI、KDD等顶级会议的Area Chair/SPC/PC,以及TPAMI、TNNLS、TCYB等十余个高水平SCI期刊的审稿人。(摘自山东大学教师主页)
通讯作者邮箱:wensong@email.sdu.edu.cn; sunwenxu@sdu.edu.cn

摘要

剩余使用寿命Remaining Useful Life, RUL)预测是预测性维护(Predictive Maintenance, PdM)的基础技术,对保障复杂工业机械的可靠性与安全性至关重要。近年来,循环神经网络(Recurrent Neural Network, RNN)、卷积神经网络(Convolutional Neural Network, CNN)与自注意力(Self-Attention, SA)等先进深度学习架构已广泛应用于RUL预测,但现有方法仍难以同时处理序列单元的全局长期依赖、局部上下文信息以及工业多传感器的空间相关性。本文提出一种基于Transformer的局部增强通道自注意力模型(Local Enhanced Channel Self-Attention based on Transformer, LECformer),一种新型深度学习 RUL 预测方法以解决上述问题。相较于基于RNN/CNN的方法,LECformer通过Transformer架构能更高效地捕获长期依赖。此外,LECformer 提出一种新型局部增强通道自注意力(Local Enhanced Channel Self-Attention, LECSA)机制,替代原生Transformer的传统自注意力,可自适应提取长期依赖与局部上下文信息,同时动态加权不同通道的重要性以提升预测性能。本文采用两个广泛使用的涡扇发动机数据集与一个轴承数据集验证所提方法的有效性。实验结果表明,LECformer显著优于当前最优的RUL预测方法。


关键词:剩余寿命预测;预测性维护;人工智能;深度学习;Transformer;自注意力


目录

1 引言

2 相关工作

3 方法

3.1 所提LECformer架构概述

3.2 LECformer的输入层

3.3 LECformer的编码层

3.4 LECformer的输出层

3.5 相较传统Transformer自注意力的优势

4 案例研究1基于C-MAPSSN-CMAPSS数据集的实验

4.1 数据集描述

4.2 实验设置

4.3 实验分析

案例研究2:基于FEMTO轴承数据集的实验

5.1 数据集描述

5.2 实验设置

5.3 LECformer预测结果分析

5.4 与当前最优方法对比

讨论

结论

1 引言

预测性维护(Predictive Maintenance, PdM)在现代工业系统中至关重要,相较于传统预防性维护策略,其不仅能提升设备可靠性,还可降低维护成本(Zhang等,2024)。通过分析与挖掘状态监测(Condition Monitoring, CM)数据,PdM可持续评估设备健康状态,支持主动决策。PdM的核心技术是剩余使用寿命(Remaining Useful Life, RUL)预测,可帮助维护人员预判设备状态,为生产与维护规划做出合理决策(Elsheikh,2023)。然而,工业机械数据的高复杂性与高维度性,使得精准RUL预测仍具挑战。因此,开发有效的RUL预测模型对PdM至关重要,尤其在处理大型工业机械CM数据中的复杂模式方面。

近年来,深度学习技术在RUL预测中展现出巨大潜力,其可从原始多传感器数据中自动提取高维特征,减少对人工特征工程的依赖。常见的深度学习架构,如循环神经网络(Recurrent Neural Network, RNNs)(Huang等,2019)、卷积神经网络(Convolutional Neural Network, CNNs)(Kobayashi与Alam,2024),擅长处理时序数据,已广泛应用于RUL预测。RNN变体包括长短期记忆网络(Long Short-Term Memory, LSTM)(Yang等,2023)与门控循环单元(Gated Recurrent Unit, GRU)(Liu等,2020b),以捕获时序依赖著称;而CNNs则通过卷积操作擅长提取局部特征。近期,Transformer模型(Vaswani等,2017)凭借其自注意力(Self-Attention, SA)机制被引入RUL预测领域。该机制使Transformer能基于特定时间步相关性分配权重,更高效地捕获长期依赖,相较传统RNN与CNN方法实现性能提升。

深度学习RUL预测方法的目标是从采集的多传感器数据中提取设备退化特征。受现代大型设备复杂性影响,采集的CM数据中不仅存在复杂的全局与局部时序关系,还存在不同传感器序列间的空间相关性。尽管取得上述进展,面向复杂工业应用的有效RUL预测仍需同时考虑以下方面:

(1)长期依赖建模:如何提取不同序列单元的长期时序关系。从序列数据中提取长期依赖与时序关系对精准RUL预测至关重要。

(2)局部上下文特征提取:如何在捕获长期依赖信息的同时充分利用局部上下文信息。不同局部区域的退化特征对最终RUL预测同样重要。

(3)多传感器空间相关性学习:有效学习多传感器时序数据的空间相关特征,可显著提升模型的特征学习能力。融合多通道相关信息对精准RUL预测至关重要。

然而,现有深度学习RUL预测方法难以同时解决上述问题:

基于RNN/CNN方法的局限性:基于RNN与CNN的方法及其变体(Huang 等,2019;Kong等,2019;Ding等,2022)难以从序列数据中提取长期时序关系。RNN采用串行处理数据,易出现信息丢失与梯度消失/爆炸问题。CNN受限于局部感受野,需增加网络深度才能捕获长距离依赖,效率低下且无法有效建模全局时序相关性。

传统Transformer的局限性:尽管原生Transformer(Vaswani等,2017)的自注意力机制在建模长期依赖方面表现优异,但在学习细粒度局部特征方面能力较弱。在RUL预测中,局部区域的波动对预测精度影响显著。传统自注意力机制(Ren等,2022;Ma等,2021;Liu等,2022)执行逐点点积计算,可能忽略重要局部信息。

忽略多传感器空间相关性:RUL预测中的多传感器时序数据间存在复杂的非线性空间关系。但多数现有基于自注意力的方法(Zhang等,2022,2023)聚焦于建模时序依赖,未考虑不同传感器间的空间相关性,限制了方法有效性。值得注意的是,Peng等(2023)的研究采用滞后量化解决切换系统的输入到状态镇定问题,凸显了有效传感器与执行器管理的重要性。类似地,Song 等(2024)的研究探索了持续驻留时间切换下的状态估计,强调了复杂系统动态中鲁棒测量策略的重要性。这些方法体现了当代RUL预测中融合时序与空间维度的研究方向。本文围绕上述三个关键点开展相关研究。

为解决上述问题,本文提出一种基于Transformer的新型局部增强通道自注意力模型(Local Enhanced Channel Self-Attention based on Transformer, LECformer)用于RUL预测。本研究的主要贡献如下:

提出局部增强通道自注意力(Local Enhanced Channel Self-Attention, LECSA)机制:LECformer采用LECSA替代传统自注意力机制,结合线性投影与卷积操作的优势,使模型能有效捕获长期依赖与局部上下文信息。LECSA 在保留全局时序关系建模能力的同时,增强了模型提取局部退化特征的能力。

融合通道自注意力(Channel Self-Attention, CSA):LECSA融入CSA以动态捕获不同传感器通道间的空间相关性,使模型能自适应加权不同通道的重要性,提升多传感器数据的特征融合效果。

全面评估与消融实验:本文在广泛使用的涡扇发动机数据集与轴承数据集上开展大量实验,验证LECformer的有效性。结果表明,LECformer显著优于现有当前最优RUL预测方法。学习到的注意力权重可视化进一步证实了所提方法的特征提取能力提升。

综上,LECformer通过同时建模长期依赖、提取局部上下文特征、捕获多传感器空间相关性,有效解决了现有方法的局限性,提升了复杂工业应用中的RUL预测性能。

本文组织结构如下:第2节简要介绍当前相关工作与存在问题;第3节阐述所提LECformer方法与计算流程;第4节介绍涡扇发动机实验;第5节展示轴承数据集实验;第6节讨论所提LECformer;第7节总结全文。

2 相关工作

得益于高效的序列建模能力,RNNs、CNNs及其变体近期成为深度学习RUL预测领域的主流架构。Hu等(2021)提出一种基于双向RNN的方法,旨在提取RUL预测的退化特征。类似地,为解决RNN模型崩溃问题,Huang等(2019)提出双向LSTM模型,提升传统RNN变体的稳定性与精度。Li等(2018)提出一种基于深度CNN的新型方法用于涡扇发动机RUL预测,通过堆叠多层CNN层提取深度特征信息。Kong等(2019)开发了一种融合LSTM与CNN架构的混合RUL预测方法,利用空间与时序特征提升预测精度。

但上述现有方法存在固有局限性。基于RNN/CNN的方法难以捕获序列数据中的长期依赖(Vaswani等,2017;Zhang等,2022;Liu等,2020a)。具体而言,RNN在长序列中易遗忘关键信息,且存在梯度消失或爆炸问题。CNN受限于局部感受野,需增加网络深度才能有效建模全局信息,计算量大且效率低。

完全依赖自注意力机制处理整个序列的Transformer架构(Vaswani等,2017)的提出,为序列建模提供了更高效的方法。多项研究尝试将RNNs或CNNs与Transformer结合用于RUL预测。Wang等(2024)提出一种基于注意力机制的改进深度残差网络用于变速箱故障诊断,增强特定区域的特征提取以提升模型性能。Liu等(2022)提出一种融合CNNs与Transformer的方法,更好地结合全局与局部退化特征用于RUL预测。Wang等(2021)提出一种融合时序CNN(Temporal CNN, TCNN)与Transformer编码器的RUL预测方法,提升全局特征提取能力。此外,Liang等(2023)提出一种结合图神经网络与注意力机制的预测方法,提升时空特征提取能力。

此外,多项研究提出纯基于Transformer方法用于RUL预测。Ma等(2021)提出一种基于Transformer的预测方法,规避RNN/CNN模块的局限性,有效捕获长期依赖。Zhang等(2022)开发了一种基于Transformer的双视角自注意力机制用于RUL预测,采用两个独立编码器进行特征提取。Ren等(2022)提出一种时序张量辅助多尺度 Transformer方法,无需任何RNN/CNN模块即可捕获时序模式。此外,新型 Transformer 结构被提出用于提取时序预测与计算机视觉任务的相关特征。Liu等(2023)提出逆 Transformer(iTransformer),在反转维度上应用注意力与前馈网络以捕获时序预测中的相关性。Xu等(2022)提出一种用于弱监督语义分割的多类别标记Transformer,采用多个类别标记学习不同标记间的交互。

尽管上述预测方法取得进展,仍存在以下挑战:

RNN/CNN模块的固有局限性:堆叠RNNs或CNNs与自注意力模块的方法难以克服RNN/CNN架构的固有缺陷,捕获长期依赖与建模全局信息的局限性在混合模型中依然存在。

传统自注意力在局部特征提取中的低效性:Transformer中传统的线性点积自注意力机制可能无法有效提取局部区域的退化信息,而这对RUL预测至关重要。标准自注意力的逐点操作可能忽略重要局部特征。

现有基于Transformer的预测方法在特征提取中通常未同时考虑全局长期依赖、局部上下文信息与多通道空间相关性。忽略这些方面会降低特征表示质量,进而降低RUL模型的预测性能。

为弥补上述差距,本文针对上述方向展开研究,提出新型LECformer使模型更适配工业RUL预测任务。通过解决上述挑战,LECformer旨在提升RUL预测任务中的特征表示与预测性能。本文通过大量实验评估所提方法的有效性,实验结果证实其在工业应用中的有效性。下文将详细介绍LECformer的具体细节

3 方法

本节详细介绍所提用于RUL预测的LECformer架构设计。首先概述LECformer架构,随后深入阐述其核心组件,包括创新的LECSA机制与CSA机制。本文旨在阐明LECformer如何通过捕获全局长期依赖、局部上下文信息与多通道空间相关性高效处理多传感器时序数据,进而提升时序预测与状态监测等应用的预测精度。

3.1 所提LECformer架构概述

LECformer架构如图1所示。LECformer采用基于Transformer的框架,包含三个主要组件:输入层、编码层与输出层。与传统基于RNN/CNN的方法不同,LECformer利用Transformer的能力建模序列元素间无论距离远近的长期依赖。此外,通过引入LECSA机制,LECformer改进传统自注意力机制,有效融合长期依赖与局部上下文特征及多通道重要性,解决现有方法的局限性。LECformer工作流程如下:

1输入嵌入与位置编码:输入层对多传感器数据进行嵌入并添加位置信息以保留序列顺序。

2LECSA特征提取:编码层应用LECSA机制提取综合特征,捕获全局与局部依赖及空间相关性。

3RUL预测:输出层处理提取的特征以预测RUL。下文将详细阐述上述各子结构的具体细节。

 

所提LECformer架构

3.2 LECformer的输入层

如图1所示,采集的多传感器时序数据为    ,其中    表示时间步,    表示传感器数量。输入层主要执行两个功能: (1)嵌入:将输入数据投影至高维空间以捕获更复杂的特征表示。 (2)位置编码:融入位置信息使模型能识别序列元素的顺序。 嵌入过程通过线性投影将输入数据    从原始维度    映射至高维    ,公式如下:    其中      是可学习的嵌入权重矩阵,     是投影后的输入。由于Transformer架构不像RNN那样具备固有序列处理能力,本文融入位置编码为模型提供每个时间步在序列中的位置信息。存在多种位置编码方法,本文采用Vaswani等(2017)的位置编码方式,公式如下:

         

其中    是时间步的位置索引(取值0至     ),    是维度索引(取值0至     )。位置编码矩阵    通过上述公式生成。序列中每个位置    都有唯一编码,为模型提供元素相对与绝对位置信息。编码层的最终输入通过将位置编码与投影输入相加得到:

     

其中    将作为编码层的输入。该相加操作使模型在处理输入数据时保留位置信息。通过将位置编码直接融入输入嵌入,LECformer能以位置感知的方式关注序列元素,这对时序顺序至关重要的RUL预测等任务至关重要。

3.3 LECformer的编码

LECformer的编码层经过精心设计,增强模型捕获与处理全局长期依赖、局部上下文信息与多通道空间相关性的能力,这些均对精准RUL预测至关重要。如图1所示,编码层包含两个主要子层:LECSA机制与前馈网络(Feed Forward Networks, FFN)。每个子层后均连接残差连接与层归一化,统称为Add & Norm。这些机制有助于缓解深度神经网络训练中的梯度消失等问题,加速模型收敛。编码层可堆叠        层以提取深度退化特征。下文将详细阐述编码层的工作流程。

LECSA机制是LECformer编码层的核心,相较标准Transformer使用的传统SA机制实现重大改进。LECSA将卷积操作与线性投影融合,并融入CSA机制以有效建模多传感器通道间的空间相关性。该融合使LECformer能同时捕获全局依赖、增强局部特征提取、建模通道间关系,进而解决基于RNN/CNN方法与传统Transformer的固有局限性。        是LECSA的输入,其基于缩放点积自注意力。传统自注意力中,通过线性映射生成查询(query,        )、键(key,        )与值(value,        )矩阵,        通过点积计算与每个        对的相关性。与SA相比,LECSA通过融合线性投影与卷积操作改进此过程(如图2所示),有效捕获长期依赖的同时增强局部细粒度特征学习能力。首先,通过结合线性投影与卷积从        生成                        ,公式如下:

                       

其中        表示线性投影的可学习参数。                                分别表示第        个卷积核的权重矩阵与偏置,其中0<f<c,        表示卷积核数量,         表示卷积核大小。通过该方式,         处理序列中每个点的信息。                包含发动机运行过程中的局部变化特征信息。为保证输入输出维度一致,本文对Conv2d操作执行零填充。从图3可观察到,不同传感器的时序数据间存在复杂的空间相关性。高维特征图的每个通道可视为空间关系的表示,不同空间表示相互关联。

     

图2 传统SA与所提LECSA的对比

     

图3 所提通道自注意力机制

本文设计中,通过卷积操作生成的                不仅包含局部区域的退化信息,还包含多通道的空间特征关系。因此,为更好提取不同通道的相关性,本文设计新型CSA机制探索通道间交互。其可使模型自适应对不同通道特征图分配不同注意力,更好地表示                以实现最终RUL预测。CSA机制工作流程如图1所示。CSA机制首先将输入        重塑为        ,计算        与其转置的点积(除以        缩放)。随后沿通道方向应用softmax函数得到不同通道的权重信息,公式如下:

           

其中          表示不同通道间的权重。最后,通过CSA加权的不同通道信息计算为          与          的乘积,公式如下:

           

其中         。不同颜色的通道表示带不同权重的多传感器序列空间关系。将        重塑为        ,并通过Conv2d输出最终提取的空间关系表示,公式如下:

           

其中        ,将被重塑为          作为CSA的输出。通过该方式,将          与          输入CSA得到                ,公式如下:

           

其中                包含发动机退化的局部变化特征及不同传感器间的空间相关特征,有效提升模型的特征表示能力。随后,对        矩阵中的每个元素,通过                的点积计算当前位置与其他局部区域的注意力分数,确定与局部区域的相关性。沿时序维度应用softmax函数得到不同局部区域相对于当前位置的权重,公式如下:

           

其中          表示学习到的当前位置与局部区域的注意力权重。最后,LECSA的输出计算为          与          的乘积,公式如下:

           

其中        是LECSA的输出,与输入        维度相同。此外,LECformer融合多头机制,可更全面地分析数据,大幅提升特征提取能力。多头LECSA过程如下:

           

其中        是多头LECSA的输出,        表示线性投影矩阵参数,        是头数,        

3.4 LECformer的输出层

LECformer中,编码层可统一堆叠        层,使模型获取深度特征。提取的这些特征将作为输出层的输入,用于预测RUL。输出层结构包含展平层与两个全连接层(Fully Connected Network, FCN)。这些层内的计算过程如下:

           

其中        是RUL预测结果,ReLU是激活函数,                是可学习参数矩阵。随后,将进行实验分析,以评估LECformer的核心组件及其整体性能。

3.5 相较传统Transformer自注意力的优势

(1)增强局部特征提取:Transformer中的传统自注意力机制主要通过计算序列中所有位置对的注意力分数捕获全局依赖,但可能忽略对精准建模RUL预测中细粒度退化模式至关重要的局部上下文信息。通过融入卷积操作,LECSA显式捕获局部模式与变化,增强模型学习细节局部特征的能力。

(2)建模多通道空间相关性:RUL预测通常涉及来自多个传感器的数据,每个传感器捕获系统状态的不同方面。传统Transformer独立处理每个特征维度,可能忽略不同传感器通道间复杂的空间相关性。LECSA中的CSA机制通过计算跨通道注意力权重有效建模这些空间关系,使模型能动态强调更具信息性的通道,提升特征融合效果。

(3)高效捕获长期依赖:尽管Transformer通过自注意力机制天生具备建模长期依赖的能力,结合卷积操作可确保高效捕获全局与局部依赖。该双重能力使LECformer优于传统Transformer,尤其在RUL预测这类需理解整体趋势与局部异常的任务中。

4 案例研究1:基于C-MAPSS与N-CMAPSS数据集的实验

4.1 数据集描述

4.1.1 C-MAPSS数据集

商用模块化航空推进系统仿真(Commercial Modular Aero-Propulsion System Simulation, C-MAPSS)(Saxena等,2008)数据集是RUL预测方法性能验证中最常用的数据集之一,根据不同运行条件与故障模式分为FD001–FD004四个子数据集。C-MAPSS数据集的相关细节见Saxena等(2008)。相较于FD001与FD003数据集,FD002与FD004数据集的运行环境更复杂,使RUL预测更具挑战性。每个子数据集均包含训练集与测试集,目标是在训练集上训练模型,预测测试集中每个发动机的RUL。在监测的21个传感器中,7个传感器(编号 1、5、6、10、16、18、19)数值恒定,对预测结果无影响,因此从序列分析中剔除这些传感器的数据。RUL定义为发动机发生故障前的剩余运行周期数。值得注意的是,发动机在出现故障前通常经历稳定运行阶段。为与其他方法标准化对比(Song等,2020;Li等,2018),本研究将最大RUL值设为 125,超过该值则认为发动机进入退化阶段。

4.1.2 N-CMAPSS数据集

N-CMAPSS(Arias Chao等,2021)数据集更详细精准地描述运行条件,贴近涡扇发动机的实际退化过程。因此,N-CMAPSS对RUL预测任务提出更大挑战,是评估RUL预测方法泛化性与鲁棒性的理想基准。本文选取N-CMAPSS数据集中的DS02子数据集评估所提LECformer的性能。DS02子数据集包含来自不同涡扇发动机的数百万条退化轨迹,每个发动机具有独特初始条件,详情见表1。实验中,按照Ren等(2023)的建议,以0.001Hz的速率对DS02进行下采样。DS02数据集中采集的多传感器数据包括14个实测传感器信号、2个虚拟传感器信号与4个场景描述符,具体细节见Arias Chao等(2021)。

表1 N-CMAPSS中DS02数据集的描述

 

重要的是,C-MAPSS与N-CMAPSS数据集包含各类噪声与异常值,模拟实际运行条件。这些干扰可能来自传感器误差、环境因素与意外运行异常,在实际场景中频繁发生。此类噪声与异常值的存在是对所提模型的关键测试,考验RUL预测的鲁棒性与可靠性。通过在该数据集上训练与评估模型,可有效评估模型过滤无关数据、在干扰因素下保持精准预测的能力。这使C-MAPSS与N-CMAPSS数据集在展示模型处理非理想实际数据的适应性与鲁棒性方面极具价值。

4.2 实验设置

4.2.1 数据预处理

输入数据为多传感器时序数据,每个数据具有不同单位与尺度,可能增加模型训练难度。为解决该问题,本文采用最小-最大归一化(min–max normalization)(Ding等,2022)预处理采集的数据    。第    个传感器的时序数据记为    ,归一化公式如下:

     

其中        分别表示    中的最大值与最小值。该归一化过程确保采集数据的数值缩放至0到1区间。随后,本文采用滑动时间窗(Zhang等,2022)方法处理归一化后的多传感器数据,该方法常用于时序数据分割。滑动时间窗的操作如图4所示。滑动时间窗大小记为    ,滑动步长固定为1。当前时间窗内的最后一个时间步指定为RUL标签,其计算方式如下:

     

其中    表示发动机故障的周期数,    表示当前周期数。 

 

图4 滑动时间窗的操作过程

4.2.2 评估指标

本研究采用三个关键评估指标确定所提方法的有效性。第一个是广泛使用的均方根误差(Root Mean Square Error, RMSE)函数,另外两个是评分(Score)与修正评分(Score    )函数(Saxena与Goebel,2008)。与RMSE不同,Score函数对预测RUL超过实际RUL的情况施加更严重的惩罚,这符合实际中延迟预测可能导致更严重后果的情况,公式如下:

     

其中    表示样本总数,        分别是预测与实际RUL值。为抵消不同划分方式的差异(Ren等,2023;Tian等,2023),本文N-CMAPSS数据集定义    。实验中,RMSE、Score与    数值越低,表示预测精度与性能越好。

4.2.3 实验设置

训练阶段采用 Adam 优化器,总训练轮次(epoch)设为 150。为降低过拟合风险,采用早停策略,耐心值设为 20 个轮次。训练数据集按20%验证集、80%实际训练集划分。批大小设为256,损失函数采用均方误差(Mean Square Error, MSE)函数。FD001与FD003数据集的学习率设为0.001;FD002、FD004与DS02数据集的学习率设为0.0005。全连接层采用dropout技术,丢弃率为0.3。通过网格搜索确定LECformer结构的最优配置,如表2所示。为更好验证LECformer的泛化性能,本文在C-MAPSS数据集上确定LECformer的模型参数,并将相同结构参数应用于N-CMAPSS实验。为降低随机性影响,所有实验重复十次,计算平均性能作为最终实验结果。

LECformer实验参数设置

 

4.3 实验分析

本节全面分析LECformer的各方面性能,包括滑动时间窗大小的影响、核心组件分析、与其他方法的对比分析。此外,提供学习到的注意力权重可视化,深入理解模型的决策过程,突出预测RUL中 特定特征的重要性。通过详细分析,本文旨在凸显LECformer框架的优势与潜在改进方向,为预测性维护技术的未来发展奠定基础。

4.3.1 滑动时间窗大小的影响

选择合适的滑动时间窗大小对实验至关重要。时间窗过大可能包含无关信息,降低预测速度;时间窗过小可能导致模型缺乏多传感器时序数据的有用信息,降低预测性能。为验证该参数的影响,本文在四个数据集上采用不同窗大小开展实验,结果如图5所示。可观察到,FD001与FD003数据集在w=40时RMSE与Score值最小,FD002与FD004数据集在w=70时数值最小。该观察结果与C-MAPSS数据集的分析一致,即FD002与FD004发动机的RUL预测比FD001与FD003更困难。因此,更大的窗大小更有利,可包含更多退化信息。据此,DS02数据集的窗大小设为70,与FD002与FD004设置一致。后续实验将采用该选定窗大小。

 

不同滑动时间窗大小LECformer性能

4.3.2 LECformer的预测性能分析

为更全面分析所提LECformer的预测能力,从 FD001–FD004 数据集的测试集中随机选取一台发动机,预测其全生命周期运行至故障过程的 RUL。同时,为验证所提深度架构的有效性,将LECformer与三种代表性深度网络架构对比,包括基于深度 LSTM 的架构(双向LSTM(BiLSTM)(Wang等,2018))、基于深度CNNDeepCNN,DCNN的架构(Li等,2018)与基于深度Transformer的架构(双视角自注意力 Transformer(DAST)(Zhang等,2022))。如图6所示,实验结果表明,与其他方法相比,LECformer更贴近发动机实际RUL轨迹。此外,尽管复杂故障模式与运行条件使FD002与FD004发动机预测更具挑战性,LECformer仍保持良好的预测精度。此外DS02测试集上发动机单元11、14、15的预测结果如图7所示。可看出,尽管模型结构基于C-MAPSS数据集选定,LECformer在DS02数据集上仍展现出优异的预测结果,验证了其出色的泛化性能。实际应用中,维护人员可根据实时预测RUL制定更合理的维护计划。 

 

FD001-FD004上的预测结果

 

DS02上的发动机单元111415预测结果

4.3.3 与当前最优方法对比

为全面评估所提LECformer的性能,本文在相同案例研究中将其与多种当前最优 RUL 预测方法基准测试。对比方法包括纯基于RNN/CNN的方法(DCNN(Li等,2018)、BiLSTM(Wang等,2018)与混合CNN-W(Wen等,2023));此外,还考虑融合RNN/CNN与注意力机制的方法,包括分布式注意力时序卷积网络(DA-TCN)(Song等,2020)、注意力门控CNN(AGCNN)(Liu等,2020a)与双注意力 Transformer(DA-Transformer)(Liu等,2022);对比分析还包括纯基于 Transformer 自注意力机制的方法,即多尺度集成深度自注意力网络(MSIDSN)(Zhao等,2023)、距离自注意力网络(DSAN)(Xia等,2022)、DAST(Zhang 等人,2022)、动态长度 Transformer(DLformer)(Ren 等人,2023)、集成多头双稀疏自注意力网络(DSSN)(Zhang等,2023)与遗传算法优化Transformer(GA-Transformer)(Mo与Iacca,2023)。不同模型的选择可全面评估LECformer的相对性能,为其在 RUL 预测中的有效性提供有价值参考。表3与表4展示C-MAPSS数据集与DS02数据集的性能对比实验结果。显然,与其他方法相比,LECformer展现出最佳预测性能,尤其在具有挑战性的FD002与FD004数据集上。这表明LECformer能更好应对复杂环境下的预测任务。值得注意的是,LECformer在Score指标上提升更显著,体现其在实际应用中的优势。与基于RNN/CNN框架的预测方法相比,LECformer采用Transformer架构提升捕获序列单元间长期依赖信息的能力。与传统基于自注意力的方法相比,LECformer提出新型LECSA机制替代自注意力,可自适应融合局部上下文信息与全局依赖及多传感器空间相关特征,提升模型预测性能。综上,上述结果与讨论表明,所提LECformer具备出色的多传感器时序数据建模能力。

C-MAPSS数据集先进方法的对比结果

 

表4 DS02数据集上的对比结果

 

4.3.4 与Transformer变体对比

本节开展多项实验,将所提LECformer与三种时序领域代表性Transformer变体(Wu等,2020;Kitaev等,2020;Zhou等,2021)的性能对比。由于这些Transformer 变体最初为时序预测设计,而非直接应用于RUL预测,本文将其核心组件用于特征提取任务。提取的特征随后通过LECformer的统一输出层处理,得到最终RUL预测。该方式可在RUL预测特定场景下重点对比 Transformer变体的特征提取效率,凸显LECformer在提升预测精度方面的独特 贡献。深度Transformer(Deep Transformer)(Wu等,2020)采用传统自注意力架构;Reformer(Kitaev 等,2020)采用局部敏感哈希自注意力替代传统自注意力;Informer(Zhou等,2021)采用概率稀疏自注意力与蒸馏操作。实验设置与LECformer保持一致。C-MAPSS与N-CMAPSS数据集的实验结果如表5所示,表明LECformer具有更优的预测性能。不同基于Transformer 变体在DS02数据集上的预测结果如图7所示。从结果可观察到,LECformer的预测误差显著小于其他几种基于Transformer的方法。与其他自注意力变体相比,LECSA在同时从多传感器数据中提取长期依赖、局部上下文信息与空间相关特征方面表现更出色。因此,LECformer在RUL预测任务中表现更优。

Transformer变体对比结果

 

4.3.5 LECformer消融实验

为验证所提LECformer核心组件的有效性,本文开展消融实验,包括LECformer、无局部增强的LECformer(LECformer w/o Local)、无CSA的LECformer(LECformer w/o CSA)、采用自注意力机制的传统Transformer。无局部增强或CSA的LECformer分别表示LECformer中不使用局部增强或CSA。传统Transformer与LECformer的区别在于采用传统自注意力机制。消融实验结果如表6所示。显然,在对比模型架构中LECformer的RMSE与Score值最低,表明预测性能最优。可看出,移除局部增强或CSA后,预测性能显著下降,说明发动机的局部上下文特征与不同传感器间的空间相关特征对RUL预测同样具有重要价值。此外,LECformer的预测性能显著优于传统Transformer,表明所提LECSA机制相较于传统自注意力机制在RUL预测中更有效。传统Transformer架构采用点积注意力逐点计算每个时间步的相关性,更易受噪声与异常值影响。同时,LECformer中的LECSA机制可直接替代传统Transformer中的自注意力机制,展现出良好的实用性。

消融实验结果

 

4.3.6 模型复杂度与预测效率分析

为更好分析所提方法的效率,本文对比多种代表性深度预测方法,包括基于Transformer的架构(深度Transformer(Wu等,2020)、DA-Transformer(Liu 等,2022)与DSSN(Zhang等,2023))、基于RNN的架构与基于CNN的架构(DCNN(Li等,2018))。结果如表7所示。DCNN 的复杂度主要由卷积操作决定,复杂度为    ,其中n是序列长度(输入标记数量),    是特征向量维度,    是卷积核大小。BiLSTM的复杂度主要由时序处理单元决定,复杂度为    ,其中    是隐藏状态维度。深度Transformer(Wu等,2020)的复杂度为    ,主要来自自注意力机制,导致序列的二次复杂度。DSSN(Zhang等,2023)的复杂度为    ,采用稀疏特征向量生成方法降低复杂度。DA-Transformer(Liu等,2022)与LECformer的复杂度为    ,其中    是通道数。通常,最大复杂度为    。可看出,LECformer额外引入与序列长度线性相关的计算复杂度,不会导致模型过度复杂增长。同时,LECformer融入卷积操作与CSA机制,提升模型捕获局部与多通道信息的能力,使RUL预测性能更优。  

此外,本文还对比不同深度预测模型的预测时间。实验在相同实验条件下执行,以C-MAPSS的FD001数据集为例。预测时间结果如表7所示。从结果可看出,LECformer在GPU上对全部100台发动机的预测时间为0.057秒,即单台发动机预测时间为0.57毫秒。尽管LECformer单台发动机的预测时间相较传统Transformer有所增加,但可满足 RUL 预测的实时需求。

模型复杂度预测效率对比

 

4.3.7 学习到的LECSA权重可视

所提LECformer不仅能有效提取序列单元间的长期依赖,还能增强模型学习局部细粒度特征的能力。此外,其内部CSA机制可动态建模不同通道间的空间相关关系。为更好分析该特性,以FD001数据集的发动机单元34为例,可视化最后一个运行周期中LECSA与CSA组件学习到的注意力权重。学习到的注意力权重分布如图8所示,颜色越深表示权重值越高、相关性越强。LECSA中学习到的全局与局部注意力权重分布如图 8a所示,第i行第j列表示第i个时间步与第j个局部区域的相关程度。显著的是,可观察到LECSA机制使输入位置可与任意局部区域相关,无需考虑它们之间的距离。此外,某些颜色更深、有时位于远离当前位置的局部区域表明,LECformer具备有效识别长距离依赖信息的能力。图 8b中,不同颜色表示不同通道间的空间相关性。高维特征的每个通道映射可视为不同传感器间空间关联的表示。可看出,LECformer能动态提取空间相关特征,自适应关注通道信息,显著提升特征表示与模型预测性能。

 

学习到的注意力权重可视化

5 案例研究2:基于FEMTO轴承数据集的实验

5.1 FEMTO轴承数据集描述

为验证所提LECformer在实际设备中的有效性,采用FEMTO轴承数据集开展实验验证,该数据集源自加速退化PRONOSTIA平台(Nectoux等,2012),如图9所示。PRONOSTIA平台旨在真实反映轴承全生命周期的渐进退化过程。该数据集包含三种不同运行条件下17个轴承的运行至故障振动信号数据,详情见表 8。振动信号采样频率为25.6kHz,每10秒采集2560个数据点。本研究采用所有运行条件的训练数据训练LECformer,预测测试集中所有轴承的RUL。特别地,仅采用水平振动信号进行分析。这是因为水平振动信号比垂直振动信号包含更多与RUL预测相关的信息(Ren 等,2022)。

   

用于轴承加速退化PRONOSTIA平台

轴承数据集描述

   

5.实验设置

5.2.1 轴承振动信号处理

本节仅对原始振动信号采用快速傅里叶变换(Fast Fourier Transform, FFT)获取频谱特征信息,不采用复杂信号处理方法。随后,按频率范围求和能量得到一组频域特征。频率范围设为64,得到20个频域特征。经FFT变换后的振动信号数据采用与案例1相同的数据归一化与滑动时间窗处理。RUL标签归一化至0到1区间,作为轴承健康状态指标。该归一化方案中,0表示故障状态,1表示完全健康、无退化状态。该归一化过程更直观地反映轴承随时间的状态,便于直接应用预测模型评估健康退化与预测即将发生的故障。确定频谱特征与对应RUL标签后,可构建基于LECformer的深度 RUL 预测模型。

5.2.2 评估指标

采用三个广泛使用的指标评估性能。其中两个是知名的RMSE与平均绝对误差(Mean Absolute Error, MAE),另一个是修正评分      函数(Nectoux等,2012),已被众多研究者采用,定义如下:

               

其中      表示轴承总数,            分别表示每个轴承的实际与预测 RUL。      与C-MAPSS数据集中的      函数(Saxena与Goebel,2008)不同,数值越大表示预测性能越好。

5.2.3 超参数设置

训练阶段采用 MSE 损失函数与Adam优化器促进网络学习。最大轮次设为100,学习率配置为0.0005。数据按8:2划分为训练集与验证集,采用dropout率0.3降低过拟合风险。通过大量不同窗大小实验,确定滑动时间窗大小为10最优。LECformer的参数配置与C-MAPSS数据集实验一致,如表2所示。

5.3 LECformer预测结果分析

本节评估所提LECformer用于轴承退化RUL预测的性能。本文开展多项轴承预测实验以展示其有效性。选取三种运行条件下的所有测试轴承,预测其从健康到故障的RUL。采用三种代表性方法对比,包括基于RNN的架构(BiLSTM(Wang等,2018))、基于CNN的架构(DCNN(Li等,2018))与基于Transformer的架构(DAST(Zhang等,2022))。测试数据的RUL预测结果如图10所示。预测结果表明,所提 LECformer 能很好地预测轴承退化趋势。值得注意的是,尽管LECformer的预测值与实际RUL值非常接近,但在真实RUL值附近存在一定波动。这些结果凸显模型有效捕获与预测轴承随时间退化的能力,尽管精度因案例不同略有差异。与其他三种代表性深度预测方法相比,本文LECformer在不同运行条件下均具备良好预测性能,证明其有效捕获不同退化模式的能力。此外,LECformer提供的RUL预测值大多接近或小于真实RUL值。该特性具有优势,因为高估RUL可能比低估带来更严重的后果。实验结果表明,LECformer可很好地应用于从轴承振动信号中提取退化特征信息,执行实时 RUL 预测,在工程领域具有良好应用前景。

   

1不同方法在测试轴承上的预测结果比较

5.4 与当前最优方法对比

为进一步验证所提LECformer在轴承振动信号上的RUL预测性能,本文在该预测问题上实现不同当前最优方法进行对比。这些预测方法包括:基于RNN/CNN的方法(BiLSTM(Wang等,2018)与 DCNN(Li等,2018))、纯基于Transformer的方法(DAST(Zhang等,2022))与融合RNN/CNN与Transformer的方法(卷积Transformer(CoT)(Ding与Jia,2021)与注意力双向LSTM(A-BiLSTM)(Rathore与Harsha,2022))。预测结果如表9所示。LECformer在大多数轴承上显著优于对比方法,实现最高的平均预测性能。具体而言,LECformer的预测精度大幅提升,与现有当前最优模型相比,平均RMSE降低41.7%,平均MAE降低 33.4%,       指标提升22.2%。值得注意的是,作为预测性能实际衡量指标的       凸显了LECformer的优越性,证明其在该关键方面的显著优势。总体而言,LECformer展现出强大的复杂振动信号建模能力,凸显其在高精度、高可靠预测轴承RUL方面的有效性。

6 讨论

本研究展示的实验结果全面证实了所提LECformer模型在多个基准数据集(包括C-MAPSS、N-CMAPSS与FEMTO数据集)的RUL预测中具有优越性能。这些结果与本文初始研究目标高度契合,即开发一种新型基于Transformer的架构,能有效捕获全局依赖与局部上下文信息,同时建模多传感器通道间的空间相关性。

LECformer在所有评估数据集上始终优于现有当前最优方法。具体而言,在 C-MAPSS 数据集(FD001–FD004)中,与DCNN、BiLSTM 及各类基于Transformer的基线模型相比,LECformer实现最低的RMSE与Score指标。该提升凸显LECformer通过有效融合长期依赖与局部特征提取,精准预测RUL的能力增强。类似地,在N-CMAPSS(DS02)数据集上,LECformer的RMSE与Score指标大幅降低,凸显其在更复杂运行环境中的鲁棒性与泛化能力。消融实验进一步验证LECformer核心组件的有效性。移除LECSA或CSA机制均导致预测性能显著下降,表现为RMSE与Score值升高。此外,学习到的注意力权重可视化表明LECformer能动态优先关注相关时序与空间特征,进而提升预测精度。尽管LECformer因融入卷积操作与CSA机制引入额外计算复杂度,模型仍足够高效以满足实时应用需求。单台发动机约0.57毫秒的预测时间完全符合实时RUL预测的要求。最后,LECformer成功应用于FEMTO轴承数据集(涵盖不同运行条件下的实际轴承退化),证明模型的泛化能力。LECformer在不同轴承与运行设置下保持高预测精度,展现其在多样工业环境中的适应性与有效性。

尽管具备优势,LECformer存在一定局限性。因融入卷积操作与注意力机制导致计算复杂度增加,可能对资源受限环境或需实时处理的应用部署带来挑战。此外,模型性能高度依赖大量高质量多传感器数据的可用性,而实际场景中并非总能获取。LECformer在完全新型设备类型或训练数据中未出现的未知故障模式上的泛化能力也存在潜在局限性。未来工作将聚焦于优化模型计算效率,探索数据增强与迁移学习技术提升适应性,改进模型鲁棒性与可解释性,以促进在多样工业环境中的更广泛应用。

7 结论

深度学习方法因擅长处理多传感器工业时序数据,被广泛应用于RUL预测。但现有模型通常难以同时提取全局与局部特征,无法有效建模多传感器间的空间相关性。为解决上述问题,本文提出LECformer,一种专为工业RUL预测设计的新型基于Transformer的架构。与传统基于RNN/CNN的方法不同,LECformer利用Transformer捕获序列数据中长期依赖的能力。相较于原生Transformer,LECformer采用LECSA机制替代线性逐点点积自注意力,融合线性投影与卷积操作,更好地捕获长期依赖与更精细的局部特征。此外,LECformer中的CSA机制动态优先考虑不同通道的重要性,优化特征融合。本文通过一系列消融实验严格验证LECformer的有效性。在C-MAPSS、N-CMAPSS与FEMTO数据集上的大量实验表明,LECformer始终优于现有当前最优方法,在RUL预测中实现更优精度与可靠性。未来工作将探索将LECformer与迁移学习和数据增强技术融合,进一步提升其在多样RUL预测场景中的适应性与性能。 

编辑:陈宇航

校核:李正平、陈凯歌曹希铭、赵学功、白亮、任超、海洋、赵栓栓、Kira、Tina、王金、赵诚、肖鑫鑫、张优

该文资料搜集自网络,仅用作学术分享,不做商业用途,若侵权,后台联系小编进行删除


来源:故障诊断与python学习
ACTSystem振动非线性化学系统仿真航空ANSA海洋UM电机爆炸Fourier Transform人工智能
著作权归作者所有,欢迎分享,未经许可,不得转载
首次发布时间:2026-06-02
最近编辑:2月前
故障诊断与python学习
硕士 签名征集中
获赞 87粉丝 152文章 327课程 0
点赞
收藏
作者推荐

中科院一区Top论文学习|用于机械装备RUL预测的特征预测双空间域泛化框架

本期给大家推荐一区TOP期刊RESS的论文。为解决在未知工况下基于域适应的方法对旋转机械进行的剩余使用寿命预测需要在训练期间访问目标域数据的实际应用局限性。文章提出了一种面向机械可靠RUL预测的特征-预测双空间域泛化框架。该框架通过一种贝叶斯正则化随机特征分布扩展方法在潜在空间中产生受控的随机扰动,在保持退化一致性的同时扩展特征分布。此外,设计了一种结构一致性损失来正则化预测行为,以保持长期退化趋势、减轻预测偏差并抑制局部波动。并在齿轮和轴承全寿命数据集上对提出方法的有效性进行了验证。论文基本信息论文题目: Feature-prediction dual-space domain generalization framework for reliable RUL prediction of machinery 论文期刊:Reliability Engineering and System SafetyDOI:https://doi.org/10.1016/j.ress.2026.112510作者:Xuegang Li a,b, Yuanyue Pu a,b, Huajun Cao a,b, Xiaoxi Ding a,b, Wenbin Huang a,b,* 论文时间: 2026年 机构: a State Key Laboratory of Mechanical Trans mission, Chongqing University, Chongqing 400044, China b College of Mechanical and Vehicle Engineering, Chongqing University, Chongqing 400044, China作者简介:黄文彬,教授、博士生导师,重庆市杰青,重庆市英才计划青年拔尖人才,重庆市巴渝青年学者,重庆市海外高层次人才,机械工业智能轴承技术与系统实验室副主任。研究团队主要面向重大机械装备服役状态智能监测需求,从事智能感知与自供电、端边云协同智能嵌入式系统等领域的研究,承担了科技部重点研发青年科学家项目、国家自然科学基金重点、面上等10余项国家级科技项目,与华为、中船、兵器、航发、英特尔、天马等多家行业龙头骨干企业产学研合作,荣获国防科技进步一等奖、中国机械工业技术发明二等奖等。在Nature Materials/AFM/IEEE TII/MSSP/AEI/APL等国际顶级期刊发表学术论文100余篇,其中一作/通讯70篇,JCR Q1期刊60篇,自然指数期刊9篇,IEEE汇刊33篇,WOS被引3400余次;出版英文专著2部;授权发明专利20项。 通讯作者邮箱:whuang@cqu.edu.cn摘要在未知工况下对旋转机械进行可靠的剩余使用寿命(RUL)预测对于确保安全运行至关重要。然而,现有的基于域适应(DA)的方法需要在训练期间访问目标域数据,这限制了它们的实际应用性。为解决这一问题,本研究提出了一种面向机械可靠RUL预测的特征-预测双空间域泛化(FPDDG)框架。具体而言,一种贝叶斯正则化随机特征分布扩展(BFDE)方法在潜在空间中产生受控的随机扰动,在保持退化一致性的同时扩展特征分布。此外,设计了一种结构一致性损失(SCL)来正则化预测行为,以保持长期退化趋势、减轻预测偏差并抑制局部波动。在齿轮和轴承全寿命数据集上的实验结果表明,FPDDG框架优于现有最先进的方法,在齿轮数据集上RMSE和MAE分别至少降低15.3%和13.27%,在轴承数据集上分别降低6.33%和12.74%。关键词:旋转机械;域泛化;未知工况;剩余使用寿命预测目录1 引言2 方法2.1 问题定义2.2 总体方法2.3 贝叶斯正则化随机特征分布扩展2.4 结构一致性损失2.5 总体优化目标3 案例研究3.1 数据描述3.2 实施细节和比较方法3.3 数据集A的实验结果和比较分析3.4 数据集B的实验结果和比较分析3.5 讨论4 结论1 引言在智能和预测性维护需求的驱动下,对旋转机械(如齿轮和轴承)关键部件进行可靠的剩余使用寿命(RUL)预测对于确保系统安全和减少意外停机至关重要[1]。然而,这些部件经常在高度可变和复杂的工况下运行,这显著改变了它们的退化行为和剩余寿命[2]。因此,稳健的RUL预测对于向主动维护过渡并最大化工业系统的可靠性至关重要[3]。数据驱动方法,特别是深度学习(DL),由于其强大的非线性特征提取能力,近年来在RUL预测中取得了显著成效[4]。各种先进的深度学习架构已成功应用于该领域[5]。例如,Magadan等人[6]集成了时频分析、堆叠变分去噪自编码器和双向长短期记忆网络,以实现精确的轴承RUL预测。Cen等人[7]利用特征序列注意力模块和多源信息融合,通过利用传感器和时间步长之间的交互来增强RUL预测。Truong等人[8]提出了一种贝叶斯正则化人工神经网络模型,以精确预测铣削刀具的磨损。尽管取得了这些成功,但大多数现有的基于深度学习的模型依赖于一个严格的假设,即训练数据和测试数据具有相同或高度相似的分布[9]。在现实世界的工业应用中,历史训练数据与部署的可变环境之间不可避免的分布偏移构成了一个严峻的挑战,严重限制了传统深度学习模型的泛化能力和鲁棒性[10-11]。为了解决变工况带来的挑战,许多研究引入了域适应(DA)方法,这些方法促进了知识从标记良好的源域到未标记目标域的迁移[12]。目前,基于DA的跨域RUL预测策略已被广泛探索[13]。例如,Wang等人[14]提出了一种由图结构数据增强的元学习网络,以支持不同工况下的RUL预测。Neijar等人[15]开发了对抗性DA方法,分别对齐不同操作阶段的边缘分布,以提高RUL预测精度。Kim等人[16]利用Fisher信息和结构正则化来减轻灾难性遗忘,实现了高效的切削刀具RUL预测。尽管在目标域数据可访问时有效,但这些基于DA的模型在部署到完全未知的目标域(无法事先收集数据)时往往无法泛化[17]。 域泛化(DG)通过从多个源域学习不变知识而不需要任何目标域数据,为这一限制提供了一个有前景的解决方案[18]。DG中的一个关键策略是数据增强,它扩大了训练样本的多样性并减轻了对特定工况的过拟合[19]。例如,Luu等人[20]将基于ResNet的自编码器与软演员-评论家算法相结合,以动态预测机械RUL。Xia等人[21]构建了一个域条件不变性和特异性解耦网络以解决域不平衡问题。Niazi等人[22]集成了时间变换器、ConvLSTM和多头自注意力机制以捕获时空依赖性,实现了精确的轴承RUL预测。尽管取得了这些进展,现有的基于DG的机械RUL方法仍然面临两个主要挑战。首先,当前的增强策略通常依赖于固定规则(例如,添加高斯噪声),这无法捕捉机械退化的非线性特性,并且可能扭曲生成轨迹的物理合理性。其次,许多模型依赖于逐点损失函数,忽略了数据中的时间和结构依赖性,常常导致波动大且有系统性偏差的预测。因此,迫切需要更有效的方法,同时在特征空间和预测空间中增强泛化能力。为解决这些挑战,本研究提出了一种新颖的用于未知工况下机械RUL预测的特征-预测双空间域泛化(FPDDG)框架。首先,提出了一种贝叶斯正则化随机特征分布扩展(BFDE)方法,该方法扰动特征表示以生成多样化但退化一致的变体。此过程扩展了域不变特征的分布范围,增加了与潜在未知域分布的重叠,从而增强了特征空间泛化。通过这种方式,所提方法克服了固定规则增强的局限性,并更好地反映了真实的退化动态。其次,设计了结构一致性损失(SCL),通过保持长期退化趋势、控制预测偏差和抑制局部波动来增强预测空间泛化,从而确保可靠性一致的RUL轨迹。通过结合BFDE和SCL,提出了一个新颖的FPDDG框架,通过联合改进域不变特征空间的重叠和预测空间的稳定性来增强泛化能力,并实现在未知工况下的可靠机械RUL预测。本研究的主要贡献总结如下:(1) 提出了一种BFDE方法,以扩展退化特征的多样性和重叠范围,并增强特征空间泛化。(2) 设计了SCL以增强预测空间泛化,并提高RUL预测结果的稳定性和可靠性。(3) 构建了一个新颖的FPDDG框架,用于在未知工况下实现机械的可靠RUL预测。本文的其余部分结构如下。第2节详细介绍了所提出的FPDDG框架。第3节介绍了实验细节和结果。最后,第4节对全文进行了总结。2 提出方法 本节详细描述了用于未见工况下机械RUL预测的所提FPDDG框架。它首先形式化了基于DG的RUL预测问题,然后介绍了整体方法论、BFDE方法和SCL。最后,概述了总体优化目标以指导模型训练并增强泛化性能。2.1. 问题定义令 为 个源域的集 合,其中每个域 是从同一类型机器(例如,具有相同规格的轴承或齿轮)但在不同工况(如载荷和转速)下收集的,即不同域之间样本的边缘分布通常不一致。对于每个域 ,它包含全寿命数据,形式为样本-标签对 ,其中 表示第 个源域中的样本数。每个 表示长度为 的一维时间序列片段,对应的标签 是与该时间序列相关联的RUL值。基于DG的机械RUL预测的目标是仅使用来自 的样本-标签对学习一个映射函数 ,使其能够很好地泛化到未知的目标域 ,其中 且在训练期间没有来自 的样本可用。由于分布差异 ,本文的核心目标是通过随机特征扰动和改进的预测损失,扩展从源域学习的退化行为特征分布的覆盖范围,从而增强模型 对未见域的泛化能力。给定一个随机特征扰动函数 ,对于每个输入 ,模型在其特征扰动变体 上进行训练。训练目标是最小化特征扰动变体上的预测损失: 其中 表示改进的预测损失函数。这种形式化确保模型从丰富且多样的退化模式中学习,使其能够有效地泛化到未见工况,而无需访问任何目标域数据。2.2. 整体方法本节概述了所提出的FPDDG框架,而BFDE、SCL和优化过程的具体公式和实现分别在第2.3-2.5节中给出。所提框架用于在未见工况下实现机械鲁棒RUL预测的整体过程分为五个主要步骤,下面进行描述,并在本节末尾的图1中进行了可视化总结。步骤1:数据预处理。使用可用的传感器设备(例如编码器或加速度计)收集原始传感器数据,随后根据工况分割为源域和目标域。然后构建健康指标以表征机械退化。FPDDG框架具有高度的灵活性,可以适应各种健康指标,如统计特征(脉冲因子、峰峰值)、能量熵或基于深度学习的虚拟指标。接下来,应用3σ准则[24]来确定第一预测时间(FPT),标记退化的开始。使用健康指标,通过长度为 、步长为1的滑动窗口生成训练样本。对于标签,FPT之前的样本被分配一个恒定的 100% RUL。在FPT之后,剩余寿命线性下降到故障时的 0%,从而定义了一个单调的真实RUL曲线。步骤2:特征提取。一个特征提取器将健康指标序列转换为鲁棒且域不变的潜在表示。源域训练样本被输入该提取器,以学习退化一致且具有判别性的特征。在本研究中,采用残差网络(ResNet)[25]作为特征提取器,提供可靠的表示,为后续的BFDE和RUL预测奠定基础。步骤3:特征分布扩展。提取的特征通过所提出的BFDE方法进行处理,该方法扰动潜在表示以生成多样化但退化一致的变体,如第2.3节所述。此过程扩展了域不变特征的分布范围,增加了与潜在未见域分布的重叠,并增强了特征空间泛化。步骤4:RUL预测。由ResNet提取的原始特征和BFDE生成的扰动特征都被输入到一个多层感知器(MLP)预测器[26]中以获得预测结果。预测损失使用所提出的SCL计算,该SCL包含四个部分:均方误差 、偏差损失 、波动损失 和趋势损失 。这些部分被联合优化以确保预测准确性、保持退化趋势、控制偏差并抑制波动。最后,计算得到的损失被反向传播以更新模型参数。步骤5:未见条件下的推理。一旦训练完成,模型直接应用于未见工况下的目标域数据,以预测机械RUL,无需进一步的适应。如图1所概括,所提出的FPDDG框架分为训练和测试阶段。在源域和目标域模块中,上方的图表示原始传感器信号,而下方的图表示数据预处理后的健康指标。在测试阶段,在先前未见工况下收集的样本由训练好的模型处理。具体地,仅使用训练好的特征提取器 和预测器 来预测机械的RUL,其中 和 *表示它们各自的可训练参数。为了进一步促进实际应用和可复现性,所提FPDDG框架的整体训练和推理过程总结在算法1中。 图1 所提出的FPDDG框架的总体架构算法1 提出的FPDDG框架 2.3. 贝叶斯正则化随机特征分布扩展所提出的BFDE方法集成在特征提取器之后,其整体结构如图2所示。给定一个提取的特征 ,一个编码器将其映射到潜在表示 。从这个表示 中,生成一个由可学习的均值 和对数方差 参数化的随机高斯分布。通过从该分布中采样,产生一个潜在变量 以模拟对应潜在未见域的特征变化。然后一个解码器将潜在变量 重建为 。同时,通过将原始输入特征 与扰动的潜在表示 融合,得到分布扩展后的特征 。这种扩展促进了特征多样性并增加了与目标域分布的重叠。该过程使用结合重建损失和Kullback-Leibler(KL)散度[27]的联合损失函数进行优化,定义如下: 其中 表示编码器, 表示全连接层, 表示从标准正态分布采样的随机噪声, 表示解码器, 表示特征随机扰动策略, 表示dropout层,它可以控制扰动的幅度, 是一个二元随机函数,以概率 翻转输入特征 中元素的符号,这控制了扰动的方向, 表示逐元素相乘操作。 图2 BFDE方法的结构 KL散度用于量化潜在变量 的分布 与标准正态先验分布 之间的差异。最小化该散度可防止采样的潜在变量 过度偏离,确保生成的扩展特征既多样化又物理上合理。此过程增强了模型的泛化能力和训练鲁棒性。KL散度正式定义为: 为了防止关键退化信息的丢失并保持语义完整性,对解码器输出应用了重建损失。该约束鼓励生成的特征在保持原始分布核心特征的同时表现出合理的偏差。因此,它有效地扩展了源域特征的支持范围,以模拟未见的目标域特征。重建损失定义为: 最后,通过联合优化重建损失和KL散度项,得到BFDE方法的损失函数 : 2.4. 结构一致性损失虽然BFDE方法增强了特征空间泛化,但确保预测空间的一致性和稳定性同样至关重要。在RUL预测任务中,传统的损失函数如均方误差(MSE)仅关注逐点准确性。它们未能捕捉时间依赖性和结构特性,常常产生具有相似逐点误差但不一致趋势、过度波动和偏差的预测。这些问题在DG场景中尤其突出。为了克服这一缺点,设计了结构一致性损失(SCL)以强制实现结构一致且物理上有意义的RUL预测。通过约束全局趋势、抑制波动和减少预测偏差,SCL减轻了对源域数据的过拟合,并增强了对未见域偏移的鲁棒性。具体来说,SCL包含四个互补的部分:偏差损失、波动损失、趋势损失和MSE。令 和 分别表示一个批次大小为B的预测RUL值和真实RUL值。首先,偏差损失 约束预测序列以减轻系统性高估或低估。它包括预测序列和真实序列均值的绝对差以及Sinkhorn距离[28],后者量化了全局分布差异。偏差损失 的公式为: 其中 和 分别表示预测序列和目标序列的均值。其次,引入基于方差的波动损失 以鼓励预测更平滑,与真实RUL曲线紧密对齐。该项惩罚每个批次内预测值与真实值之间的相对方差差异。应用对数变换以减轻方差尺度对优化的影响、缓解梯度消失并确保数值稳定性。波动损失 的数学表达式为: 其中 是用于计算稳定性的极小值。第三,设计趋势损失 以保持方向一致性。通过结合皮尔逊相关系数和余弦相似度,该损失同时捕获线性依赖和角度对齐,为退化趋势提供了全面的约束。趋势损失 定义如下: 最后,标准的MSE作为衡量逐点偏差的基线指标。其定义为: 整体SCL表示为上述各部分的加权组合: 为了平衡不同结构约束的贡献,使用单个权衡系数 联合调节辅助项。由于这些部分相互补充以强制结构一致性,统一的系数有效地保持了平衡,同时避免了多个独立超参数带来的不必要的调参复杂性。2.5. 总体优化目标所提框架的优化过程涉及三个主要部分:特征提取器 、BFDE模块 和预测器 的参数 、 和 。这些部分通过最小化框架内定义的总体目标函数进行联合训练。通过整合式(12)和式(17)中的损失函数,总体网络优化目标 可以表示为: 参数优化和模型训练使用自适应矩估计优化器[29]通过梯度反向传播进行。每个模块参数的具体更新规则如下: 其中 是自适应矩估计优化器中的学习率。3 案例研究 本节通过在两个全寿命数据集上的综合实验证明了所提框架的有效性。实验过程严格遵循第2节和算法1中详述的训练和测试协议。具体地,模型仅在源域数据上训练,并直接对未见的目标域进行评估,无需任何进一步适应,确保严格且可复现的评估。3.1. 数据集描述本节介绍了两项实验研究中所采用的数据集:一个包含齿轮全寿命周期数据,另一个包含轴承全寿命数据。通过使用代表不同机械部件的两个不同数据集,所提框架的有效性和泛化能力得到了更全面和综合的评估。下面提供两个数据集的详细描述。数据集A:该数据集来源于自制的齿轮全寿命试验台。它主要用于评估所提框架在未见载荷条件下的可行性、可靠性和泛化能力。图3中试验台的核心部件包括驱动电机、扭矩计、主试验齿轮箱、联轴器、陪试齿轮箱、负载电机、稀油站和控制柜。在恒定转速1200 rpm和不同载荷水平(25 Nm、30 Nm和35 Nm)下对齿轮进行全寿命实验,以模拟不同的工况。在这些测试期间,从编码器获得的转速信号在整个退化过程中连续采集,直到齿轮失效。每种工况下的采样频率设为5000 Hz。 图3 自制齿轮全寿命试验台由于脉冲因子对早期退化特征高度敏感[23],它被选为健康指标来构建样本。脉冲因子的数学表达式为: 其中 表示长度为 的一维时间序列样本, 表示序列中的第 个点, 是样本内的最大绝对值, 是该片段的算术平均值。提取的脉冲因子按顺序排列以表征健康退化过程。真实的RUL标签按照退化假设定义。具体地,应用 准则来确定第一预测时间(FPT),在此之前认为机械在稳定状态下运行,RUL设为100%。在FPT之后,假设RUL线性下降至故障时的0%。该标记策略被一致地用于生成实验结果中显示的真实RUL曲线。最后,使用滑动窗口策略(窗口长度512,步长1)构建训练和测试样本。利用该数据集,设计了三个RUL预测任务以评估所提方法的有效性。这些任务的训练和测试条件在表1中概述。表1 为数据集A设计DG任务 数据集B:为了进一步证明所提框架的鲁棒性,使用了公开的XJTU-SY轴承数据集[30]。数据集A侧重于变载荷条件,而数据集B评估模型在转速和径向载荷同时变化下的性能。该数据集包含全寿命轴承测试,以25.6 kHz采样频率(1.28秒持续时间,1分钟间隔)采集振动信号。符号Bearing i_j表示在第 种工况(由电机转速和径向载荷定义)下测试的第 个轴承。本研究选择了三个代表性轴承:Bearing 1_1(2100 rpm,12 KN载荷)、Bearing 2_5(2250 rpm,11 KN载荷)和Bearing 3_2(2400 rpm,10 KN载荷)。遵循与数据集A相同的预处理协议,提取脉冲因子作为健康指标。使用滑动窗口(长度16,步长1)生成数据样本。真实的RUL标签再次基于FPT和线性退化假设确定,以确保一致性。基于该数据集构建了三个RUL预测任务,以评估所提框架的性能和有效性。关于这些任务的详细信息在表2中给出。 表2 为数据集B设计DG任务 3.2. 实现细节与对比方法为了严格评估所提框架在DG RUL预测中的有效性,进行了两组实验:(1) 与广泛采用的RUL预测方法的比较,以及 (2) 对框架各组件的消融研究。所有方法均使用Adam优化器进行训练,学习率 ,训练100个epoch,批次大小 。实验使用PyTorch实现,并由NVIDIA GeForce RTX 3060 GPU加速。为了确保公平客观的比较,所有基线方法均使用其原始网络架构(例如ResNet)按照各自文献中的描述实现。此外,所有与训练相关的超参数,如优化器、学习率、批次大小、输入长度和评估指标,在所有模型中都保持严格一致[3,25,31-33]。对比方法和消融方法的具体细节总结在表3中。 表3 比较和消融方法的细节 为了定量评估预测性能,采用了三个广泛使用的评估指标:均方根误差(RMSE)、平均绝对误差(MAE)、决定系数( )[34]。这些指标共同反映了模型的预测精度、鲁棒性和拟合优度,其数学公式如下: 其中 和 分别表示第 个预测样本的真实RUL和预测RUL, 是样本总数, 是真实RUL值的均值。3.3. 数据集A上的实验结果与对比分析3.3.1. 与现有方法的比较为了评估所提方法在未见工况下的泛化能力,在数据集A(任务A1-A3,详见表1)上进行了全面的实验研究。图4-6展示了所有方法的预测性能。Base方法在任务A1和A3中具有较大的RMSE和MAE以及较低的R。很明显,仅在源域数据上训练的传统基于深度学习的RUL预测方法难以泛化到目标域。 图4 通过RMSE评估不同方法在不同预测任务下的预测性能 图5 通过MAE评估不同方法在不同预测任务下的预测性能 图6 不同预测任务的不同方法的R2值基于DA的RUL预测方法,如DANN和MMD,通过利用未标记的目标域数据来减少分布差异,取得了中等性能。例如,DANN在A1中达到了10.084的较低RMSE,MMD在A3中达到了17.545,优于Base方法。然而,这些方法依赖于对目标域数据的访问,限制了它们在未见工况场景中的适用性。相比之下,仅依靠标记源域数据训练的基于DG的RUL预测方法对域偏移表现出更强的鲁棒性。Mixup和RSC在A1和A2中取得了良好的结果,而RSC在所有任务中表现出比Mixup更好的预测稳定性。特别是,RSC在A1中达到了4.320的RMSE和0.980的 。尽管如此,所提出的FPDDG框架在所有任务和指标上始终优于所有竞争者,产生了最低的误差和最高的 得分。这些结果清楚地证明了其在捕获鲁棒退化模式并将知识迁移到未见目标条件方面的有效性。为了进一步说明预测质量和不确定性,图7可视化了RUL预测曲线以及95%置信区间(CI)。真实RUL(粗黑色虚线)在第一预测时间之前保持恒定的 100%,随后线性下降。CI使用预测误差的标准差乘以1.96的z分数计算得到。CI反映了预测不确定性,这些区域的宽度表明了模型随时间推移的置信度。在绘制的可视化结果中,Base和DA方法显示出较大的偏差和更宽的置信带,特别是在早期和晚期退化阶段。而基于DG的RUL预测方法如RSC和Mixup产生了更平滑的曲线,但它们阴影化的不确定区域仍然明显比所提方法更宽。相比之下,所提出的FPDDG框架不仅产生了紧密跟踪真实RUL的预测曲线,而且呈现出最窄的CI,意味着高预测确定性和稳定性。这些结果证明了所提FPDDG框架在未见工况下RUL预测中的可靠性和优越性。 图7 RUL预测比较结果的可视化3.3.2. 消融研究为了研究所提框架内每个组件的贡献,本节进行了全面的消融研究。数据集A上的预测结果总结在图8-10中。如结果所示,引入SCL(Base+S)一致地提高了相对于Base模型的预测精度。例如,在任务A1中,RMSE从19.562降低到15.586,在任务A3中从30.270降低到17.931,而在A1中 得分从0.595增加到0.743。这表明SCL有效地引导模型学习域不变和可泛化的退化特征。 图8 通过RMSE评估不同消融方法在不同预测任务下的预测性能 图9 通过MAE评估了不同消融方法在不同预测任务下的预测性能 图10 不同消融方法对不同预测任务的R2值此外,应用特征分布扩展,如高斯(Base+G)、VAE(Base+V)和所提出的BFDE(Base+B),增强了在未见工况下的泛化能力。值得注意的是,Base+B产生了最显著的收益,在任务A1-A3中分别达到了6.696、6.860和8.662的RMSE值。这证实了所提出的BFDE提供了比高斯和VAE方法更强的泛化能力。最后,组合策略(Base+GS和Base+VS)进一步减少了预测误差,突显了特征空间和预测空间泛化的互补作用。例如,Base+GS在任务A3中将RMSE降低到11.175,而Base+VS在任务A1中达到了9.340,两者都明显优于它们各自的单独对应项。通过联合集成SCL和BFDE,所提出的FPDDG框架在所有任务中一致地实现了最佳性能,产生了最低的RMSE值和最高的 得分。如图11中RUL预测曲线和95% CI的可视化所证实,这些组件的联合集成显著增强了模型的整体有效性和鲁棒性。 图11 不同预测任务的不同消融方法的可视化3.4. 数据集B上的实验结果与对比分析3.4.1. 与现有方法的比较为了进一步评估所提方法在未见工况下的鲁棒性和泛化能力,在数据集B(任务B1-B3)上进行了实验。RMSE、MAE和 的结果总结在图12-14中。为确保公平比较,所有方法均在与数据集A一致的设置下进行评估。如图所示,基线(Base)方法表现出不令人满意的泛化能力,在大多数任务中产生最差的性能(例如,在B1中 低至0.246)。 图12 通过RMSE评估不同方法在不同预测任务下的预测性能 图13 通过MAE评估不同方法在不同预测任务下的预测性能 图14 不同预测任务的不同方法的R2值基于DA的RUL预测方法(DANN和MMD)显示出部分改进。虽然DANN在B2中表现良好(RMSE = 10.983, ),但其性能在B3中严重下降(RMSE = 26.512, 2=0.179)。这表明当目标域表现出显著分布偏移时,对抗性对齐策略难以应对。类似地,MMD未能提供一致的迁移能力,表明仅依赖统计距离对齐的局限性。在基于DG的RUL预测方法中,Mixup表现出中等的鲁棒性,但在B1和B3中保持了较高的误差幅度,表明样本级插值不足以实现全面的泛化。RSC尽管在数据集A上表现强劲,但在数据集B上性能显著下降(例如,在B3中获得30.760的RMSE和仅0.105的 )。这揭示了特征抑制策略在高度可变未见域中可能会过度约束模型。相比之下,所提出的FPDDG框架在所有指标上始终优于所有基线和最先进的方法,实现了最低的误差和最高的 得分。这些结果清楚地证明了所提模型的有效性和优越的泛化能力。这些定量优势通过图15中的预测曲线和95% CI得到了直观的证实。所提方法的预测RUL轨迹紧密跟踪真实值,并具有一贯窄的置信带,反映了高精度和低不确定性。相反,竞争方法在未见工况下表现出更宽的CI和显著的预测偏差,反映了较差的预测和不稳定性。 图15 RUL预测比较结果的可视化3.4.2. 消融研究为了进一步研究所提框架中每个单独组件的贡献,在数据集B上进行了全面的消融研究。预测结果总结在图16-18中。如结果所示,与Base方法相比,引入SCL(Base+S)显著提高了性能。例如,在任务B1中,RMSE从32.339下降到16.843, 从0.246增加到0.669。这证实了SCL在未见工况下引导模型的鲁棒性。 图16 通过RMSE评估不同消融方法在不同预测任务下的预测性能 图17 通过MAE评估了不同消融方法在不同预测任务下的预测性能 图18 不同消融方法对不同预测任务的R2值此外,应用特征分布扩展相比Base模型带来了显著的改进。虽然Base+G在B2中达到了0.849的 ,Base+V在B1中将RMSE改善到17.461,但所提出的BFDE(Base+B)在不同条件下始终提供更优的泛化能力。通过在B3中达到0.743的 ,Base+B明显优于高斯和VAE扩展,证明了BFDE策略的优越性。最后,完整的所提框架在所有指标和任务上取得了最佳结果(例如,在B2中RMSE为8.336,在B3中 为0.895)。与单独的Base+B相比,添加SCL进一步提高了准确性和稳定性,突显了其在完整框架中的关键作用。总体而言,数据集B上的消融研究证实了数据集A的发现:每个模块都有积极贡献,并且SCL和BFDE的联合集成提供了最显著的性能提升。这些改进通过图19所示的RUL预测曲线和95% CI得到了直观的证实。 图19 不同预测任务的不同消融方法的可视化3.5. 讨论所提出的FPDDG框架严格独立于特定的机械、传感器或健康指标。因为它仅需要序列化的退化表示作为输入,并利用与模型无关的BFDE和SCL模块,该框架可以轻松应用于不同的机械部件和工况,而无需结构修改。为了进一步研究模型复杂度、超参数敏感性和特征可解释性,使用数据集A中的任务A1进行了附加实验。3.5.1. 模型复杂度表4总结了不同机械RUL预测方法在参数量(Params)、浮点运算次数(FLOPs)和推理延迟方面的模型复杂度和推理效率比较。与基线模型以及代表性的DA和DG方法相比,所提出的FPDDG框架由于额外的BFDE(涉及特征分布扩展和重建)而显示出略高的参数量(196.5 K)和FLOPs(7.12 M)。尽管如此,所提模型保持了极具竞争力的推理延迟(1.42 ms),表明没有显著的计算负担。此外,所提模型实现了最低的RMSE(3.659),展示了表达能力与计算效率之间的出色权衡。表4 不同机械RUL预测模型复杂度的比较方法。 3.5.2. 超参数敏感性为了评估所提FPDDG框架对总损失函数中权衡系数 的鲁棒性,将 从1变化到10,相应的RMSE、MAE和 显示在表5中。结果表明,模型性能在较宽的 值范围内保持稳定,RMSE、MAE和 仅有微小波动。这些结果表明,所提FPDDG方法对 不高度敏感,对超参数变化表现出良好的鲁棒性,并确保训练过程中的稳定收敛。表5 FPDDG框架的超参数敏感性 3.5.3. 特征可解释性为了研究所学退化表示的可解释性,图20展示了潜在特征的t-SNE可视化。源域特征用蓝色圆圈标记,而目标域特征用红色三角形表示。颜色强度(从浅到深)反映了退化严重程度的增加。如图20所示,Base模型表现出分散的分布,源样本和目标样本混合在一起,没有清晰的退化进程,表明泛化能力差。DA方法(DANN、MMD)实现了部分域对齐,表明对抗性和统计对齐策略可以减少分布差异。然而,这些退化特征仍然是碎片化的,不够连续。DG方法(Mixup、RSC)显示出改进的域内紧凑性和更平滑的轨迹,但域之间的聚类边界仍然明显。 图20 不同方法提取的潜在特征的t-SNE可视化相比之下,所提方法实现了物理上最一致和域不变的特征嵌入。源和目标样本沿着退化路径形成一个连续且有序的轨迹,颜色从浅到逐渐过渡,生动地反映了机械疲劳的渐进性质。这种可解释的分布表明,学习到的潜在空间有效地捕获了域不变和退化一致的特征。这反映了BFDE和SCL的双重贡献,其中BFDE扩展了特征分布以增强表示多样性,而SCL强制了预测RUL序列的结构一致性。因此,所提出的FPDDG框架不仅提高了预测精度,而且在潜在空间中提供了可解释的退化演化。4 结论本文提出了一个新颖的FPDDG框架,用于在未见工况下实现机械的可靠RUL预测。本研究的主要结论可总结如下:(1) 所提出的BFDE通过模拟随机的但退化一致的变体,扩展了退化特征的多样性和覆盖范围。该机制有效地增强了在未见工况下的特征空间泛化能力。(2) 设计的SCL联合强制了退化趋势保持、预测偏差控制和波动抑制。通过在预测空间中约束RUL预测,SCL提高了预测退化轨迹的稳定性。(3) 在齿轮和轴承数据集上的广泛实验评估表明,所提出的FPDDG框架始终优于DL、DA和DG方法。它实现了最低的预测误差,在齿轮数据集上RMSE和MAE分别至少降低15.3%和13.27%,在轴承数据集上分别降低6.33%和12.74%。此外,复杂度分析表明,所提FPDDG框架在计算效率和预测精度之间实现了平衡的权衡,而超参数敏感性实验验证了其鲁棒性。 本研究仍存在一些局限性。首先,当前框架依赖于离线训练和固定的损失权重,这可能限制其在高度动态或实时工业场景中的适应性。其次,尽管所提方法在齿轮和轴承数据集上表现出强大的泛化性能,但其对其他机械部件和更复杂退化机制的有效性需要进一步研究。因此,未来的工作将集中在将FPDDG框架扩展到实时和边缘部署,以及开发训练期间自动损失平衡的自适应加权策略。此外,未来的研究将探索更广泛的工业应用和更多样化的退化模式,以进一步验证所提框架的普适性。 编辑:Tina校核:李正平、陈凯歌、曹希铭、赵学功、白亮、任超、海洋、赵栓栓、Kira、陈宇航、王金、赵诚、肖鑫鑫、张优该文资料搜集自网络,仅用作学术分享,不做商业用途,若侵权,后台联系小编进行删除来源:故障诊断与python学习

未登录
还没有评论
课程
培训
服务
行家
VIP会员 学习计划 福利任务
下载APP
联系我们
帮助与反馈