摘要
1. 引言
2. 方法
2.1. 信号世界模型架构
2.2. 循环平稳信号与转移规律建模
2.3. 信号世界模型学习
2.3.1. 具有状态空间表征的教师—学生范式
2.3.2. 定义掩码并收集隐藏状态
2.3.3. 收集预测器的部分状态
2.3.4. 预测器模型
2.3.5. 训练目标
2.4. 面向故障诊断的信号世界模型微调
3. 实验设置
3.1. 离心泵案例研究
3.1.1. 信号采集
3.1.2. 训练配置
3.1.3. 数据集准备
3.2. CWRU轴承案例研究
3.2.1. 信号采集
3.2.2. 训练配置
3.2.3. 数据集准备
3.3. 硬件与实现细节
3.4. 架构与训练参数
3.5. 预训练流程
3.6. 微调流程
3.7. 与其他自监督学习方法的比较
4. 结果
4.1. 原始表征与所学表征的循环平稳结构
4.2. 故障诊断性能
4.3. 与其他自监督学习方法的比较
4.4. 消融研究
5. 结论
小编能力有限,如有翻译不恰之处,请多多指正~
循环平稳信号反映了旋转机械的运行动态,然而,其周期性与随机性相结合的结构以及故障标签的稀缺,阻碍了面向实际状态监测的稳健表征学习。本文提出信号世界模型(Signal-World-Model),这是一个自监督框架,通过将振动分析表述为潜在状态转移问题,为其提供切实可行的解决方案。该架构将卷积编码器、非重叠感受野策略和预测Transformer相结合,在不显式重建信号的情况下推断底层系统动力学。通过教师—学生—预测器范式进行预训练后,模型利用轻量级分类器,仅需极少量标注数据即可适配故障诊断任务。在多级离心泵以及凯斯西储大学轴承案例上的实验验证表明,与具有代表性的对比学习方法、重建方法以及标准联合嵌入预测架构方法相比,该方法取得了一致的性能提升,为严重数据受限条件下的机械监测提供了一条有效途径。
关键词: 振动测量;循环平稳信号;故障诊断;自监督学习;状态监测;有限标注数据。
循环平稳性(Cyclostationarity)是许多物理系统,尤其是工业机械的一项基本特性。在这些系统中,重复冲击、调制激励以及结构周期性会产生统计特性随时间周期性变化的信号[1,2]。这些过程并不具有经典意义上的平稳性,而是在统计矩上表现出周期性;由于运行波动,其周期长度往往未知或随时间变化[3]。这种随机性使常规信号分析显得不足,凸显了对能够捕捉潜在动力学及其时间演化的模型的需求。
在旋转机械中,循环平稳信号源于机械运行的周期性,例如轴旋转、齿轮啮合周期以及轴承元件通过过程。这些过程会产生以与转速相关的基本周期重复出现的幅值和频率调制。与统计特性保持不变的平稳信号不同,循环平稳信号的一阶和二阶统计量呈现周期性变化,因此,对假定统计行为固定不变的常规分析方法而言,它们尤其具有挑战性。
在实践中,这一特性在多级离心泵以及基于齿轮和轴承的传动系统等机械中尤为明显,其振动行为可能受到机械磨损、负载变化和非线性耦合的影响[4–6]。开发能够准确表征这些底层过程的模型,对于获得稳健的信号表征至关重要,尤其是在数据稀缺时,从而使故障诊断框架更贴近实际。
长期以来,人们采用了多种方法分析机械信号,包括傅里叶分析和经验模态分解等经典技术[7]、支持向量机和随机森林等传统机器学习算法[7],以及卷积神经网络和自编码器等现代深度学习方法[8,9]。此外,为应对数据稀缺和域偏移相关挑战,迁移学习策略也得到了广泛研究。近期研究提出了处理含噪样本的通用域适应方法[10]、用于变工况小样本故障诊断的元迁移学习方法[11]、用于新生故障检测的对抗框架[12],以及在测试样本有限条件下用于齿轮箱和轴承故障诊断的增强迁移学习技术[13,14]。尽管这些方法显著改善了模型适应性,但仍存在一些局限,例如依赖源域与目标域之间的相似性,以及在域差异较大时可能出现性能下降。这些局限凸显了对能够直接从工业信号时间结构中学习预测性表征的自监督框架的需求。
近期自监督学习(SSL)研究利用基于重建的方法[15–18]、对比学习[19,20]以及融合领域信息的方法[8,21],在数据受限场景中展现了巨大潜力。然而,这些方法隐含地假设平稳性,未能充分利用真实工业信号固有的循环平稳特征[9,22,23]。此外,将SSL有效应用于振动数据仍存在尚未解决的重大挑战。由于信号固有的随机性和不确定性,精确重建具有挑战性,基于重建的方法往往因此失效。相比之下,对比方法则因表征空间的高维性而难以构造有意义的负样本[24]。为全面应对这些局限,本文应用SSL,重点通过预测性表征任务对循环平稳信号进行建模。
近期,证据深度学习和开放集半监督框架等创新方法[25,26],通过显式建模不确定性,并在不依赖传统置信度度量的情况下区分已知与未知故障状态,应对了第一个问题,但仍采用基于对比的方法。与此同时,联合嵌入预测架构(Joint-Embedding Predictive Architectures,JEPA)[27,28]已发展为直接重建或对比比较的可行替代方案。这种方法有效应对了传统SSL技术的局限;然而,正如我们的实验所示,将其直接应用于循环平稳信号会得到较差结果。
受上述认识启发,我们提出信号世界模型(SWM),专门用于从原始循环平稳信号中提取潜在状态空间表征。与隐含地假定信号结构固定的常规SSL方法不同,我们的方法建立在以下观察之上:机械振动信号表现出由底层物理周期性支配的结构化变异[5]。在多级离心泵等复杂机械中,由于转速波动、负载变化,或阀门引起的水力瞬变及流固相互作用,这些周期性往往会变得不规则或发生畸变[4,6,21]。我们的模型不依赖手工特征或固定周期分段,而是直接从数据中学习这些潜在模式,利用预测机制推断系统内部状态如何演化。这一视角将信号建模本身视为核心挑战,而不是通向分类的一个中间步骤:即学习复杂、含噪且时变的过程如何在多个时间尺度上编码结构[15,22]。
SWM这一术语采用对世界模型的广义解释,即对一个部分可观测动力系统进行建模,该系统的状态自主演化,或随外部动作及运行工况而演化。这里的世界就是物理机械本身:旋转部件、水力或轴承相互作用、负载工况和健康状态共同定义了一个无法通过单次测量直接观测到的潜在机械状态。因此,循环平稳振动过程是这一状态通过传感器信号表现出的可观测形式。由于机械的演化产生了信号的周期性—随机性结构,因此可以利用该结构推断潜在状态及其时间演化。从这一角度看,学习状态转移规律有利于故障诊断,因为它估计的是机械状态随时间变化的轨迹,而不是仅偏向健康标签的单个特征向量。该状态轨迹捕捉运行动态、周期调制和退化效应如何共同演化,为后续诊断分类器提供更丰富的表征,并减少微调所需的标注数据量。
本工作的主要贡献概括如下:
信号世界模型(SWM)是一种自监督学习框架,旨在从循环平稳时间序列数据中提取与健康相关的动态表征,直接连接原始振动信号特征与准确故障诊断的要求。其核心原则是学习支配机械演化的内部状态转移映射,从而即使在标注数据有限时也能实现稳健分类。模型由两个主要阶段构成:采用教师—学生架构进行表征学习的预训练阶段,以及将学习到的特征适配于故障诊断任务的微调阶段。
将自监督学习方法应用于工业信号分析,以应对数据稀缺问题,存在固有局限。这些局限源于其偏向在受限带宽内提取特征,以及信号表征本身固有的不确定性。例如,基于Transformer的自然语言处理模型依赖词元化过程,将词语映射到表征空间中,再通过位置编码对其语义关系进行编码。这一特性无法直接迁移到信号领域。此外,大语言模型(LLM)的训练假定存在有限的词元字典,其概率在有界表征空间中进行估计。
相比之下,机械振动信号处于一个本质上随机且无限的表征空间。机械部件的每一种健康状态都会引起具有特征性的变化,这些变化跨越短、中或长持续时间,以近似规则的间隔重复出现,但幅值不同。
由多级离心泵或滚动轴承等旋转机械产生的随机过程 ,若其低阶统计矩随时间周期性变化,则被归类为广义循环平稳过程。
这种周期变化在物理上由机械事件的重复引起,例如叶轮叶片通过和轴承滚子通过,其基本周期 与转速相关。
形式上,若 的均值满足 ,则该过程具有一阶循环平稳性。此外,若其时变自相关函数 关于 以相同基本周期 变化,则该过程具有二阶循环平稳性,其中 表示时滞。这种周期性使 可展开为:
其中, 表示依赖于时滞 的循环自相关函数, 表示循环频率( 的谐波)。这一表达准确捕捉了信号二阶统计量中的周期结构,这一特征被广泛用于分析旋转机械中的振荡过程和近似循环平稳过程[3]。
尽管振动信号具有循环平稳性,但使参数和自相关趋于稳定的统计周期持续时间仍然未知。因此,标准的基于Transformer的词元化方法不足以处理这类输入,而且由于存在显著不确定性,直接在原始信号表征空间中进行自监督学习也并不合适。
为应对这些挑战,我们提出了一个专门捕捉低频和高频特征的表征模型(第2.1节)、在不同于原始输入信号的变换表征空间中学习该模型的方法(第2.3节),以及仅需极少样本即可用于诊断任务的微调方法(第2.4节)。
图1. SWM架构。
如图1所示,SWM架构包含三个主要模块:编码器( )、预测器( )以及微调时使用的轻量级诊断器。该架构专门通过聚焦循环状态转移建模,处理工业信号的时变统计特性。编码器 是一种专门设计的卷积神经网络(CNN),结合了非重叠感受野(Non-Overlapping Receptive Field,NORF)策略。NORF机制将连续信号 划分为一系列非冗余潜在状态 。这种非冗余状态序列对故障诊断至关重要,因为它简化了后续Transformer层的任务。模型必须捕捉定义机械动态健康状态的长程依赖,而不是对高度相关的局部特征进行建模。
如第1节所述,旋转机械会产生广义循环平稳信号。这种非平稳性给诊断带来了重大挑战,因为常规特征提取方法往往无法分离与健康相关的调制成分。SWM通过学习系统的动态状态转移规律 来解决这一问题,该规律描述潜在状态 如何演化。故障会直接改变这一转移规律,例如在信号的二阶统计量中引入新的周期性或混沌变化。因此,准确预测这一转移规律,可作为异常检测、故障诊断及其他预测与健康管理(PHM)任务的有效代理任务。SWM利用联合嵌入预测架构(JEPA)的原理,通过根据过去的潜在状态预测未来的潜在状态,学习这一动力学。
前 层采用小卷积核的一维卷积,且步长严格小于卷积核长度。这一选择确保了充分的重叠,避免系统遗漏可能在输入信号 中发生位置偏移的短时模式。通过堆叠多个层,逐步增大感受野,以捕捉中等持续时间的模式。
令 ,并令 为第 个卷积层的输出,其长度为 、特征维度为 :
其中,
截至第
其中,
经过
两个连续的最终潜在状态在原始输入坐标中相隔
从理论角度看,采用非重叠感受野与本文使用的预测状态空间框架相一致。如第2.3节所述,模型假定未来状态
除这种冗余外,重叠感受野还会在掩码预测目标中引入信息泄漏。当某个片段被遮挡时,其部分原始信号仍可能出现在相邻未遮挡片段的感受野内,使模型能够轻易重建目标,而非学习转移规律
从物理角度看,NORF将每个最终潜在状态定义为对机械响应的一次独立时间观测。前部相互重叠的卷积层能够捕捉冲击、叶片通过响应或轴承相关脉冲等短时事件,而不受其在输入窗口中相位的影响。随后,NORF层将这些编码后的局部模式组织为信号支撑范围彼此不同的潜在状态。
因此,采用NORF策略后的CNN输出为
其中,
为保留位置信息,将正弦—余弦位置编码
其中
式中,
如果需要在训练时省略特定片段,可以将掩码
随后,将得到的序列
其中,每个Transformer模块均包含自注意力层和前馈层。
SWM生成的潜在状态序列
SWM的预训练目标是学习一种表征
SWM定义了一个函数:
其中,
利用这三个组成部分,系统同时学习:(1)循环平稳信号的紧凑状态空间表征序列;(2)如何根据可用状态预测缺失状态,从而有效捕捉底层过程的时间转移。以下各节说明该框架的组成要素及其相互作用。
在潜在状态空间中工作,而非直接处理原始振动信号,有助于减轻循环平稳过程固有的高变异性。具体而言,定义潜在状态序列
转移关系
遵循联合嵌入预测架构(JEPA)的原理,目标是建模潜在时间演化中的可预测成分。因此,将近似符号形式化为期望意义下的关系:
其中,
在该框架下,教师模型提供完整潜在状态序列
需要指出,教师—学生范式提供了一种内在机制,用于验证所学习表征的质量。由于教师接收完整、未遮挡的输入,而学生处理被遮挡的信号,因此学生只有成功推断出支配教师状态序列的潜在转移,才能最小化预测损失
教师与学生模型的差别在于对
其中,
令
即长度为
学生模型不得看到隐藏状态的任何直接证据。因此,取反掩码
这里,维度
其定义为
与教师和学生不同,其内部在
令
其中,
随后,应用预测器Transformer:
只有
回顾前文,
该损失函数记为
训练期间,该损失产生的梯度通过
尽管无法直接可视化潜在维度的状态序列,但其一致性通过掩码预测目标得到隐式验证。根据周围上下文成功重建隐藏状态,表明SWM已经内化底层循环平稳过程的时间演化,为所学习表征捕捉的是系统动力学而非片段级伪特征提供了证据。
为明确说明教师—学生—预测器流程,算法1总结了SWM的一次预训练迭代。
算法1. SWM的一次预训练迭代
这一最终阶段将学习到的状态空间表征与最终分类决策显式联系起来,完成与故障诊断任务的整合。微调期间,冻结预训练SWM编码器(
我们将微调过程表述为直接在SWM生成的状态序列上执行的分类任务。给定一个仅含有限数量标注训练样本的循环平稳信号标注数据集,该任务需要诊断每个输入信号所对应的底层健康状态。每个标注信号通过
其中,全一掩码确保为整个输入提取状态。
鉴于标注信号稀缺,分类器必须尽可能少地使用参数,以防止过拟合。因此,我们采用复杂度受限的轻量级卷积分类头。具体而言,该分类器记为
其中,
为训练这一耦合系统(
每个训练轮次之后,使用一个小规模标注验证集评估分类性能。保留最佳模型,即获得最高验证准确率的模型,用于后续诊断评估。图2总结了预训练、微调和诊断阶段。
图2. 工业机械在数据稀缺条件下的故障诊断方法流程。
开展两个互补案例研究,一个基于离心泵,另一个基于公开可用的CWRU轴承数据集,以评估所提出SWM表征在有限标注数据条件下的稳健性。
在第一个场景中,使用图3所示实验平台采集的数据评估所提出模型,其主要部件是一台Gulf®品牌、型号为3SV10GE4F20的十级立轴离心轴流泵。
使用安装在泵壳上的IMI Sensors 603C01加速度计采集振动信号,并通过美国国家仪器公司(NI)的NI9234 CompactDAQ采集卡,以50 kHz采样率进行数字化。测试的健康状态包括一种正常模式C0和六种故障模式C1–C6,代表多级离心泵系统中四种与叶轮相关的故障:叶片前缘(入口)点蚀、叶片后缘(出口)点蚀、叶轮流道堵塞和叶轮不平衡。泵共有10级,在选定叶轮上引入了不同严重程度的故障。
严重程度索引S是一种简洁记号,但其物理含义取决于故障机理。对于叶轮叶片点蚀,1S–8S表示逐渐增大的点蚀严重程度,其量化结果见表1。对于叶轮流道堵塞,1S–6S表示被堵塞流道的数量。对于叶轮不平衡,1S–6S分别表示0.3、1.2、2.5、2.8、3.8和5.1的不平衡百分比,这些不平衡通过表面切削获得。
表1. 叶轮叶片点蚀的严重程度等级编码。对于8S,孔径、总孔数以及每片叶片上的孔数取决于点蚀位置:入口/出口。
各级故障配置汇总于表2。C0对应正常状态。C1和C3包括第10–6级的点蚀,其严重程度依次为5S–1S;C2和C4包括第10–5级的点蚀,其严重程度依次为8S–3S。C1–C2对应入口点蚀,C3–C4对应出口点蚀。C5包括第10–5级的流道堵塞,严重程度依次为6S–1S;C6包括第10–5级的叶轮不平衡,严重程度依次为6S–1S。未列为故障的所有级均保持健康状态。
表2. 泵健康状态的逐级定义。
所有信号均在电机旋转频率恒定为60 Hz的条件下采集,通过排出压力工况改变水力负载:5.5 bar、6.5 bar、7.5 bar、8.5 bar和9.5 bar分别记为O1–O5。在每种工况下,对每种健康状态进行10次重复测量,记为R1–R10。每次测量持续10 s,产生包含500000个采样点的振动信号。
图3. 实验平台以及在泵叶轮上引入的机械故障。
在工业机械中,即使健康状态和受控工况相同,设备升温、环境温度变化以及部件磨合稳定等变化也会使不同重复测量之间产生信号变异,从而影响故障诊断性能。减轻这种影响的典型做法,是使用所有可用重复测量中的样本训练模型。然而,这会高估模型的稳健性,因为在真实场景中,无法获得涵盖所有可能变化的重复测量。因此,我们提出按照重复测量索引,将数据集划分为互不重叠的训练集、验证集和测试集,以评估模型对这些变化的稳健性。为此,实施了8折交叉验证方案。如表3所示,将互不重叠的重复测量分配给不同子集:5次用于训练、2次用于验证、3次用于测试。
表3. 各次重复测量在交叉验证中的折分配。
将长振动信号切分为长度固定为8192个采样点的样本。预训练采用500个采样点的步长,在一个训练折内,为每种健康状态与工况组合生成4920个无标签样本。微调时,通过改变训练步长,控制同一工况下同一健康状态的标注样本数量:500000、250000、100000和50000个采样点的步长分别产生5、10、25和50个标注样本。这些数量分别对应相应预训练样本数的0.10%、0.20%、0.51%和1.02%。验证采用100000个采样点的步长,测试采用互不重叠的8192个采样点步长。
第二个评估场景基于公开可用的凯斯西储大学(CWRU)轴承数据集[29]。该数据集采集自一套电机驱动试验台,配备2 HP电机、转矩传感器、测功机以及通过电火花加工引入人工故障的滚珠轴承。本研究采用四种工况,记为O1–O4,分别对应0 HP、1 HP、2 HP和3 HP的电机负载,以及1797 rpm、1772 rpm、1750 rpm和1730 rpm的标称轴转速。
利用安装在不同位置的加速度计测量振动信号:驱动端(DE)、风扇端(FE)和底座(BA)。本研究仅使用以48 kHz采样的DE信号,因为这些信号直接反映轴承健康状态,并且在所选故障案例中均可获得。
数据集包含10种健康状态:正常运行(C0)以及按故障位置和缺陷直径定义的九种故障状态(C1–C9)。故障分为外圈(C1–C3)、内圈(C4–C6)和滚动体(C7–C9)故障,每组均按缺陷直径从大到小排序,依次为0.533 mm、0.356 mm和0.178 mm。这些标签与O1–O4工况组合,定义了健康状态/运行工况对,记为C-O对,并贯穿微调和评估协议使用。
将与给定C-O对关联的每条CWRU记录划分为三个等长、互不重叠的时间分区,记为R1、R2和R3。这些分区是从同一记录中提取的互不重叠时间片段。
在时间分区R1–R3上采用3折评估方案。在每一折中,一个分区用于训练,一个用于验证,一个用于测试,并在各折之间轮换分配,遵循与泵案例中按重复测量互斥划分协议相同的思路。该协议保持每个C-O对内部的训练、验证和测试子集在时间上互不重叠,同时评估中仍包含所有O1–O4工况。
遵循与离心泵案例相同的预处理流程,将每个时间分区切分为8192个采样点的固定长度样本。预训练采用100个采样点的步长,为一个折的训练分区中的每个C-O对最多生成1557个无标签样本。微调时,32768、16384、8192和4096个采样点的步长,分别为每个C-O对最多生成5、10、19和38个标注样本。对于最长的C-O记录,这些预算分别约为相应预训练样本数的0.32%、0.64%、1.22%和2.44%。验证采用互不重叠的8192个采样点步长,测试采用200个采样点步长进行密集评估。
为确保可复现性以及所有模型之间的公平比较,全部计算评估均在一台Linux工作站上完成,该工作站配备具有32 GB显存的NVIDIA GeForce RTX 5090 GPU,以及128 GB DDR5内存。我们在CUDA 13.0环境下使用Python 3.13.8实现SWM并评估各基线,确保所有耗时和复杂度分析的软件与硬件条件相同。
所提出的SWM包括两个主要阶段:采用NORF策略提取局部特征的卷积前端,以及捕捉长程依赖的Transformer模块。
卷积阶段由六层组成,详见表4。所有卷积层均采用ReLU激活,以及不含仿射变换的独立通道归一化。
表4. SWM架构。
前五层采用统一步长(
该配置使最终层之前的累积感受野达到
因此,如表4所示,NORF层步长设为
Transformer模块被视为SWM的第七层,处理加入固定正弦和余弦位置编码后的序列。它包含一个注意力头、一个编码器层、128的嵌入维度,以及具有2048个单元的前馈网络。该模块采用ReLU激活和注意力后层归一化,使模型能够在保持计算效率的同时捕捉信号中的全局依赖。
预测器与SWM Transformer采用相同的结构配置。然而,它使用降至16的嵌入维度,以有意限制其表征容量。由于预测器无法独自承担预测任务,这一设计促使SWM学习信息更丰富、泛化性更强的表征。
预训练使用AdamW优化器及余弦衰减学习率调度,学习率从
权重衰减从0.04线性增加至0.4。训练进行100轮,批大小为512。教师网络采用动量为0.9996的EMA更新。
块长度基于
微调阶段使用轻量级卷积分类器,评估自监督预训练所学表征的质量,同时避免在有限标注数据下过拟合。
分类器由具有两个卷积层的浅层一维卷积探针组成,输出通道数为
该分类器有意采用较低参数量,约为
训练分两个阶段进行:前50轮仅训练分类器,冻结SWM,实际作为预热阶段。随后,解冻SWM和分类器,再联合训练50轮。所有模型均训练100轮。由于标注样本稀缺,每个阶段的轮数限制为50轮。超过这一轮数后,模型开始过拟合。
与具有代表性的SSL基线和控制模型进行比较,涵盖基于重建的学习、联合嵌入预测学习、孪生学习、信号对比学习以及无预训练的监督学习。重建组包括卷积重建模型(R-Conv)[31]、高斯去噪模型(R-Denoise)[32]、信号掩码重建模型(R-Mask)[15]以及基于NORF的完整重建模型(NORF-Recon)。联合嵌入预测组包括源自视觉的JEPA变体(JEPA-B、JEPA-L和JEPA-H)[27]。孪生组包括SimSiam[30]和朴素孪生(Naive Siamese)基线。信号对比组包括DA-VICReg[33]和CPLI[34]。无预训练监督模型SWM-NoPre采用相同的SWM骨干,但不进行自监督预训练。
为确保公平比较,所有模型均采用前文所述的相同数据划分和配置进行训练。所实现基线的主要特征概括如下。
为验证诊断实验所用信号的循环平稳结构,我们按照文献[1]的框架,分析原始振动信号包络的循环功率。根据各数据集的频率成分和采样条件选择带通范围:泵信号采用100–10000 Hz,以保留宽带机械调制并去除极低频趋势成分;CWRU采用500–12000 Hz,以突出轴承包络分析中常用的共振频带。这些带通范围定义了用于包络提取的载波频带,而循环频率轴量化所提取包络的周期调制。因此,在5至2000 Hz范围内计算原始循环功率曲线。对于泵,采用65536个采样点的片段长度,因为原始记录较长,可以获得更精细的循环频率分辨率;对于CWRU,采用8192个采样点,以便在每条较短的重复信号内保持足够片段。利用100条随机相位替代曲线和第95百分位阈值评估显著性。图4针对每种受评估状态组合,给出在所展示的5至300 Hz循环频率范围内,循环功率统计量除以相应替代阈值后超过1的信号百分比;该范围包含具有物理意义的调制频带。对预训练编码器提取的SWM潜在轨迹应用相同的超阈判据。
原始信号分析证实,两套数据集均包含一致的循环平稳成分:86.3%的泵信号和85.0%的CWRU信号超过替代阈值。在泵原始图中,45–56 Hz和88 Hz附近出现明显超阈频带,204 Hz和269 Hz附近还存在其他分量。在CWRU数据中,主要超阈频带位于23–35 Hz、58.6 Hz、105.5 Hz和158.2 Hz附近,与轴转速相关分量及轴承调制分量一致。潜在表征图并未复现原始信号中的每一个窄带峰值,但仍保留随状态组织的结构,表明在没有显式注入循环频率特征的情况下,SWM表征将循环信息保留并重新组织为循环平稳潜在状态轨迹。特别是,泵潜在表征图突出了57 Hz附近的频带,接近预期的旋转基频分量,说明SWM能够对原始超阈图中不占主导地位的机械周期调制重新赋权。
图4. 原始包络信号与SWM潜在状态轨迹的循环平稳结构。
图5通过展示SWM学习过程的稳定性,补充了循环平稳性分析。图5(a)表明,预测损失
图5. SWM训练动态。(a) 预测误差的收敛表明转移规律得到有效学习。(b) 持续保持较低的潜在状态相似度表明潜在状态之间的冗余较低。
对于离心泵案例,表5给出了SWM在最大标注样本设置下的汇总混淆矩阵及各状态指标。矩阵呈现显著的对角分布,各状态F1分数介于0.957至0.999之间,宏平均精确率、召回率和F1分数均接近0.980。这证实所学状态表征能够在各折之间高度一致地区分七种泵健康状态,同时保留足够的状态级细节,以识别仍然存在的故障模式重叠。
主要歧义是将轻度入口点蚀(C1)预测为正常(C0),这与5S–1S点蚀配置的微弱振动特征一致。第二处歧义出现在健康与不平衡的边界,C0和C6存在部分混淆,表明在某些水力负载下,不平衡会产生与健康运行相重叠的幅值调制响应。较少的C4–C6错误进一步表明,出口点蚀与不平衡相关的调制模式存在部分重叠。
对于CWRU数据集,表6汇总了SWM在最大标注样本设置下的混淆矩阵及各状态指标。大多数轴承状态均取得较高性能:C0、C4、C6、C7和C9的F1分数至少为0.987,而C2、C3和C5保持在0.93以上。主要性能下降出现在C1和C8,F1分数分别为0.814和0.795。C1为缺陷直径0.533 mm的外圈故障,而C8为缺陷直径0.356 mm的滚动体故障,因此,这种混淆并非发生在同一故障类别的相邻严重程度之间。然而,两种缺陷均可通过相同的轴承—轴承座传递路径激发强烈的冲击响应,因此,相比与故障位置相关的更精细循环结构,潜在分类器可能更重视共有的冲击和共振模式。这一解释与错误的局部集中模式一致,因为C4、C6、C7和C9仍然具有很高的可分性。
表5. 泵案例中预训练SWM在最大标注样本设置下的汇总混淆矩阵及各状态指标。所有行的支持样本数相同,均为7320个测试样本。
表6. CWRU数据集中预训练SWM在最大标注样本设置下的汇总混淆矩阵及各状态指标。由于测试信号长度不同,各类别的支持样本数不同。
图6比较了随着每个C-O对的标注微调样本数量增加,各受评估方法在两个案例中的宏平均F1。SWM在两个数据集及所有标签预算下均保持为最优方案,表明其稳健性并不局限于单一机械类型。
在泵案例中,各方法之间的差异最为显著。SWM在5个样本时即达到
其余泵基线的表现进一步阐明了自监督任务的作用。R-Conv仅在标签更多时才具有竞争力,在最大预算下达到
在CWRU中,由于轴承试验台信号呈现更标准化的冲击响应,性能格局有所不同。SWM从5个样本时的
表7从复杂度角度比较了泵案例中的各方法。JEPA系列比其他方法大数个数量级,但在两个数据集上均发生坍塌,说明当架构与一维振动动力学不匹配时,仅靠容量并不足够。相反,轻量级重建探针成本较低,但更依赖标注微调才能形成判别能力。SWM的参数预算紧凑,推理成本与其他卷积或孪生式方法相当,而其预测性潜在状态目标在低标签和跨数据集情况下提供了更强的稳定性。
图6. 自监督表征学习方法的标签效率比较。
表7. 模型复杂度、推理效率和预训练时间比较。推理时间根据批大小为128时稳定后的测试吞吐量估计。训练时间对应具有代表性的100轮预训练预算。
我们开展消融研究,以确定各个架构和训练组成部分对SWM表征学习的贡献。所有变体均采用与原始SWM相同的数据划分、输入长度、优化器设置、预训练预算、微调预算和诊断器。所评估的修改包括:
图7给出了在不同微调预算下,SWM宏平均F1对这些架构和训练选择的敏感性。当预测任务失去稳定的时间参照时,性能下降最为明显。在每个C-O对5个样本时,这一效应最为清楚:SWM在泵和CWRU上分别达到
掩码比例结果表明,预测任务必须在难度与可见上下文之间取得平衡。Prop. 20%在整个预算范围内均接近SWM,在泵上从
SWM w/ Overlap和Patch Emb.表明,在标签稀缺时编码器设计尤其重要。在泵上,5个样本时二者分别从
与注意力相关的消融表明,少量序列建模是有用的,但额外深度并非性能的主要驱动因素。在5个样本时,No-attention在泵上达到
Norm-first从最低预算起就接近SWM,在5个样本时,泵上分别为
图7. SWM主要设计组成部分的消融分析。
本工作提出了信号世界模型(SWM),这是一种通过预测性潜在状态转移对循环平稳信号建模的自监督学习框架。该方法应对三个主要挑战:(i)表征工业信号中的多尺度模式;(ii)开发克服基于重建和对比方法局限的预训练策略;(iii)在标注数据极度稀缺时实现故障诊断。
所提出模型架构将卷积编码器、非重叠感受野策略和轻量级Transformer模块相结合。这使模型能够同时捕捉局部信号特征和长程时间依赖。在不依赖人工分段或先验周期知识的情况下,模型在受评估工况和互不重叠的数据划分中表现出稳健性能。
SWM在CWRU轴承基准以及更复杂的离心泵试验台上,均在标签严重稀缺的条件下表现出较强性能。在后一个案例中,信号受到局部故障、不同叶轮间严重程度变化以及水力负载变动的影响,SWM仍在故障诊断任务中保持较强性能。这表明模型能够从含噪循环平稳信号中学习底层过程动力学。
SWM优于其他自监督方法,包括基于重建的模型、基于JEPA的变体、现代孪生式和对比基线,表明预测性状态转移学习为循环平稳振动信号提供了更可靠的归纳偏置。这一优势来自SWM应对输入信号不确定性的能力,而其他方法的表征质量则出现明显下降。此外,极少标注数据的微调流程在诊断任务中有效发挥作用,进一步强化了该方法的实际适用性。
消融研究表明,Transformer深度、掩码比例、注意力结构、目标网络更新速率、非重叠感受野的使用,以及层次化卷积编码均对性能产生显著影响,其中最稳定的配置是采用后归一化和适中掩码比例的浅层Transformer。
本研究也存在一些局限,为未来研究提供了方向。实验在两个机械案例的受评估工况设置下开展,不应将其解读为对未见工况的全面验证。特别是,变转速运行、留一工况评估协议以及更广泛的跨机械迁移仍是开放问题。未来工作应将SWM扩展至变转速和强非平稳情形,可考虑采用阶次跟踪、时间扭曲或变转速循环平稳分析。其他方向包括融合振动与声学、电气、热学或控制器信号的多模态扩展,以及面向长期工业监测的在线适应、不确定性估计和开放集故障识别。