首页/文章/ 详情

故障诊断大模型 | 可靠性感知的动态图融合与基于大语言模型的轴承故障诊断助手 (下)

1天前浏览14

    接上篇故障诊断大模型 | 可靠性感知的动态图融合与基于大语言模型的轴承故障诊断助手 (上),论文提出了一种融合动态知识协作、分层证据融合与大语言模型的轴承故障诊断框架。研究通过 VAE 提取全局运行状态,利用图注意力网络(GAT)动态构建诊断智能体之间的协作关系,并引入类似学术同行评审的“回答者—评审者”机制;进一步结合离线可靠性校准与双层 Dempster–Shafer 证据融合,提高噪声干扰、传感器失效及工况变化下的诊断鲁棒性。最后,借助 LLM 与检索增强生成(RAG),将诊断结果及中间证据转化为可追溯、可核查的自然语言报告。下篇主要介绍实验和讨论。

    论文基本信息

    论文题目:

    Reliability-aware dynamic graph fusion and LLM-based diagnostic assistant for bearing faults

    论文日期:2026(online)

    发表期刊:

    Advanced Engineering Informatics 74 (2026), 104720

    论文链接:

    https://doi.org/10.1016/j.aei.2026.104720

    作者:

    Tantao Linᵇ,Zhijun Renᵃ˒ᵇ˒*,Kai Huangᵇ,Xinzhuo Zhangᵇ,Hamid Reza Karimiᶜ,Yongsheng Zhuᵇ,Jun Hongᵇ

    作者单位:

    ᵃ Frontier Institute of Science and Technology, Xi'an Jiaotong University, Xi'an 710049, China.

    ᵇ Key Laboratory of Education Ministry for Modern Design and Rotor-Bearing System, Xi'an Jiaotong University, Xi'an 710049, China.

    ᶜ Department of Mechanical Engineering, Politecnico di Milano, Milano 20156, Italy.

    作者简介:

    任智军,机械工程博士,西安交通大学前沿科学技术研究院助理教授、硕士生导师。(来源:https://faculty.xjtu.edu.cn/renzhijun/)

    目录

    摘要

    1. 引言

    2. 预备知识

    3. 方法

    4. 实验

      4.1. 实验 1

        4.1.1. 数据集与预处理

        4.1.2. 实现细节

        4.1.3. 基线与比较方法

        4.1.4. 性能评价

      4.2. 实验 2

        4.2.1. IB 数据集描述与预处理

        4.2.2. 实现细节

        4.2.3. 性能评价

      4.3. 消融实验

        4.3.1. 关键组件消融实验

        4.3.2. 外层类别加权消融实验

      4.4. 可视化与可解释性分析

      4.5. 参数敏感性

        4.5.1. 最大回答者数量与评审者数量的敏感性

        4.5.2. 图演化步数的敏感性分析

    5. 结论

    4. 实验

    为了验证所提出的多智能体协作诊断方法在多源融合故障诊断任务中的有效性和优越性,本文开展两组实验:(1)在公开轴承数据集上进行多源融合诊断,评价所提出方法的性能和鲁棒性;(2)在使用自行采集的私有数据集的智能轴承(IB)系统上部署基于 LLM 的多智能体诊断助手,验证其诊断性能、实际适用性和用户体验。

    4.1. 实验 1

    4.1.1. 数据集与预处理

    首先,在公开数据集上评价所提出方法进行多源融合故障诊断的有效性。数据来自 Paderborn Bearing Dataset [50],如图 4 所示。该数据集包含多种工况下的轴承运行数据,涵盖健康状态及多种故障类型。利用六个传感器采集信号,包括振动、电流、转速、力和扭矩传感器。振动和电流通道的采样频率为 64 kHz,其余传感器为 4 kHz。健康状态包括正常、内圈故障、外圈故障和复合故障。故障通过人工加工缺陷或加速寿命试验引入。

     

    图 4. Paderborn 轴承数据集概览 [50]。

    将原始文件分割为互不重叠的样本,每个样本包含 1 s 的多源数据。对于振动信号,使用快速傅里叶变换(FFT)提取频域功率谱特征。对于电流信号,考虑到供电基频      及其谐波的污染,首先在      处进行陷波滤波,然后提取功率谱。对于采样率较低的传感器(转速、力、扭矩),直接使用时域信号作为输入特征。因此,每个样本包含来自六个传感器、对应不同传感器类型的特征向量。为了统一输入维度并方便实验评价,将所有信号特征截断为固定长度 1024。采用逐通道     -score 标准化,训练集、验证集和测试集的划分见表 1。通过数据增强缓解类别不平衡问题,即向少数类样本注入弱噪声,以获得更均衡的数据分布。

    表 1. Paderborn 轴承数据集。

     

    4.1.2. 实现细节

    (1)诊断智能体模型池与 VAE 构建

    在实际应用中,用于融合的模型池可能包括:(1)每个通道使用一个诊断模型;(2)单个通道使用多个诊断模型(例如不同架构的深度模型);(3)使用一个接受多通道输入的诊断模型;(4)上述三种配置的组合。

    本实验重点考虑“一个传感器对应一个模型”的配置,从而能够客观评价决策级融合方法整合异构证据的能力。对于每个传感器,采用表 2 所示的轻量级一维深度可分离卷积神经网络(1D-DSCNN)作为基础诊断模型。各模型独立训练,以确保它们在对应传感器数据上具有竞争力的诊断性能。

    表 2. 用于每个传感器的 1D-DSCNN 架构。

     

    DSConv:深度可分离卷积;    :卷积核大小;    :步长;    :填充;    :输出通道数;BN:批归一化;ReLU:修正线性单元;MaxPool:最大池化;    :池化核大小;    :池化步长;GAP:全局平均池化;FC:全连接层。

    除了六个诊断智能体外,还使用一个一维 CNN-VAE 提取用于图条件化的全局运行状态表示。其架构汇总于表 3。VAE 在图学习之前预训练,并在 GAT 训练期间冻结其编码器。

    表 3. 用于全局状态提取的 1D CNN-VAE 架构。

     

    Conv:卷积;ConvT:转置卷积;    :卷积核大小;    :步长;    :填充;    :输出通道数;ReLU:修正线性单元;FC:全连接层。

    (2)超参数设置

    诊断智能体模型池包含      个智能体,对应六个传感器。GAT 注意力机制的隐藏维度设为 128。基于随机游走的评审者采样的邻域大小为     ,回答者智能体数量为     。初始邻接矩阵      定义为不包含自环的均匀先验图:所有非对角元素初始化为 0.5,对角元素固定为 0。训练期间,回答者—评审者融合权重设为     。图演化步数      设为 4。离线校准的锐化因子取      和     。GAT 结构头和置信度头的损失权重分别为      和     。正确强化和错误衰减的步长分别为      和     ,剪枝阈值为     。采用 Adam 优化器训练,初始学习率为 0.001,批大小为 64,训练 100 个 epoch。所有实验均使用不同的随机种子重复五次,并报告性能指标的均值与标准差。

    4.1.3. 基线与比较方法

    为了评价所提出方法的有效性,选择以下多源融合故障诊断方法作为基线。为公平比较,所有方法均采用相同的预处理流程,以及每个传感器相同的基础诊断模型(1D-DSCNN),唯一的区别是融合策略。

    数据级融合方法: 数据级融合直接组合来自多个传感器的原始信号,形成联合表示,然后将其送入诊断模型。一种常见策略是按通道拼接信号,记为信号拼接(Signal Concatenation,Sig-Con)。

    特征级融合方法: 特征级融合组合从不同传感器提取的特征表示,得到联合特征向量,再将其输入诊断模型。典型方法是特征拼接(Feature Concatenation,Feat-Con)。

    决策级融合方法: 决策级融合聚合多个传感器专属模型的诊断输出,获得综合决策。广泛使用的方法是软投票(Soft-Voting),即对类别概率输出进行平均或加权。

    近期决策级融合方法: 还纳入近期发表的几种故障诊断决策级融合方法进行比较,分别为 Enhanced-Voting [51]、UQ-Fusion [19]、DS-Confidence [20] 和 Weighted-DS [21]。UQ-Fusion 的实现是一种受 Xu 等人 [19] 启发、经过适配的不确定性感知决策级融合基线。与原始思想一致,融合权重依据各子模型预测的不确定性确定,即不确定性越低,权重越高。不同之处在于,原始框架依赖多尺度概率神经网络并包含多个考虑不确定性的融合分支;本文的实现则适配为包含六个独立模型的多传感器轴承诊断配置,仅保留软决策融合分支。通过蒙特卡洛 Dropout 估计不确定性,并将其分解为预测不确定性、偶然不确定性和认知不确定性,用于融合。

    4.1.4. 性能评价

    (1)整体性能

    为了量化两种方法之间的性能差异,定义效应量     :

     
     

    其中,     分别为方法 1 的均值和标准差,     分别为方法 2 的均值和标准差。效应量      衡量性能差距的大小;通常, 被视为较大的效应量,表示方法 1 显著优于方法 2。

    表 4 报告了整体性能指标。与最好的决策级融合基线 Enhanced-Voting 相比,所提出方法的准确率绝对提高 1.61 个百分点(97.66% 对 96.05%),估计效应量为 2.02,表明取得 了显著且稳健的增益。与 Soft-Voting 相比,绝对提升达到 4.34 个百分点。这说明在多源冲突场景下,简单 平均已接近其性能上限,而本文框架通过冲突感知与可靠性校准的融合,能够进一步利用模型之间的互补性。Precision、Recall 和 F1 分数持续优于其他方法(均值最高且方差处于最低水平之列),说明该方法在检测完整性和精确性之间取得了均衡。

    表 4. 不同方法在 Paderborn 轴承数据集上的整体准确率(均值 ± 标准差,%)。

     

    混淆矩阵如图 5 所示。当类别边界模糊时,传统拼接方法(图 5(a)–(b))往往受到“最强”通道支配,导致 C2 与 C3(内圈故障与外圈故障)之间出现系统性混淆。决策级平均(图 5(c))在一定程度上降低了过拟合风险,但在证据冲突时,会产生反映概率折中结果的模糊决策。Enhanced-/Weighted-DS(图 5(d)–(g))通过启发式或学习得到的加权方式,提高了主对角线的占比;不过,在少数高度冲突的样本中,C2 与 C3 之间仍然存在非对称误分类。所提出方法(图 5(h))在全部四个类别上表现出明显更加集中的主对角线模式,并有效抑制 C2–C3 之间的混淆,说明对内圈故障和外圈故障具有更强的区分能力。DS-Confidence(图 5(f))的性能异常低下,这与表 5 的冲突统计结果一致。其样本级平均冲突系数      远高于所提出方法,而 Dempster 规则中的样本级分母      显著减小。此外,60.77% 的样本满足     ,96.28% 的样本表现出     ,说明冲突严重累积,使 Dempster 规则的归一化接近奇异状态。相比之下,所提出方法保持数值稳定性,突出了显式冲突管理的必要性。

     

    图 5. 所提出方法在 Paderborn 轴承数据集上的混淆矩阵。(a)Sig-Con;(b)Feat-Con;(c)Soft-Voting;(d)Enhanced-Voting;(e)UQ-Fusion;(f)DS-Confidence;(g)Weighted-DS;(h)Proposed。

    表 5. Paderborn 轴承数据集上 DS-Confidence 与所提出方法的冲突统计对比。

     

    (2)抗噪声分析

    通过比较不同噪声水平下的诊断性能,进一步评价方法的鲁棒性。考虑四种噪声:(a)加性高斯白噪声(AWGN),用于模拟基本的传感器热噪声/电子噪声;(b)粉红噪声(PINK),用于模拟机械系统中的低频背景噪声;(c)带限噪声(BAND),通过使白噪声经过带通滤波器获得,以模拟结构/设备共振频带或窄带干扰(1–5 kHz);(d)脉冲噪声(IMPULSE),用于模拟间歇性大幅值尖峰(例如电磁干扰、开关操作、电接触不良)。对于每种噪声,将信噪比(SNR)设置为 30 dB、20 dB、15 dB、10 dB、5 dB 和 0 dB。

    结果如图 6 所示。随着 SNR 增大,所有方法的性能均呈单调上升趋势,而所提出方法在所有 SNR 水平下均排名第一,在低 SNR 区间(0–10 dB)的优势最为明显,表明其对强噪声干扰的抑制能力更好。AWGN(a)注入宽带加性噪声,性能退化相对平缓。PINK 噪声(b)的能量集中在低频,容易掩盖转动特征(基频、谐波和调制边带),导致大多数方法出现更加明显的性能下降。所提出方法对后三种结构性噪声表现出特别强的抵抗能力,说明其融合策略并非简单能量平均,而是通过显式降低不可靠证据的权重、放大稳定证据来发挥作用。UQ-Fusion 在中高 SNR 区间表现尚可,但在极低 SNR 下失去优势,意味着仅依赖单模型不确定性不足以解决跨源冲突;而 Weighted-DS 的鲁棒性增益主要体现在中高 SNR 区间。

     

    图 6. Paderborn 轴承数据集上的噪声鲁棒性分析。(a)AWGN;(b)PINK;(c)BAND;(d)IMPULSE。阴影区域表示五次运行的标准差。

    (3)传感器缺失分析

    进一步模拟传感器缺失情形,以评价感知信息不完整条件下的诊断性能。对每个样本、每个通道独立应用伯努利丢弃,缺失概率分别为 0.1、0.3、0.5 和 0.7。结果如图 7 所示。随着随机缺失概率      从 0.1 增加到 0.7,所提出方法在中等缺失程度(    )下仍保持较高的 Accuracy 和 F1,其小提琴图的中位数始终处于最高位置,说明该方法能够在样本和通道两个层面动态降低缺失信息源或低置信度信息源的权重。在严重缺失条件下(    ),所有方法的性能均出现不同程度的下降,但所提出方法的离散程度更小、长尾案例更少,体现出更强的鲁棒性。随着      增大,Soft-Voting 的性能明显恶化,凸显等权重策略对可用证据源数量减少的敏感性。UQ-Fusion 能够部分调整单源可靠性,但无法应对具有结构性的多源缺失模式;DS-Confidence 则在整个      取值区间均表现失效。这些观察结果与工程实 践一致:在传感器掉线、连接器松动或个别通道饱和等实际场景下,以冲突管理为核心的融合机制比简单 平均或静态加权更具实用性。

     

    图 7. Paderborn 轴承数据集上的传感器缺失分析。(a)准确率;(b)F1 分数。

    4.2. 实验 2

    4.2.1. IB 数据集描述与预处理

    为了验证完整系统的有效性,在实验室环境中构建了一个 IB 测试平台,如图 8 所示。该平台由电动机单元驱动,动力依次传递至测试轴承座。将 IB 单元安装在 7014AC 轴承的端面,集成      轴、     轴振动传感器以及一个声学传感器,以实现轴承运行状态的多维监测。采集到的信号经过数字化转换后,通过无线方式传输至上位机系统,并在其中部署基于 LLM 的智能诊断助手,执行实时轴承故障诊断及报告生成。

     

    图 8. IB 测试平台。

    通过激光切割引入轴承故障,健康状态包括正常、内圈故障、外圈故障和滚动体故障,缺陷尺寸分别为 0.4 mm、0.6 mm 和 0.8 mm。通过调整图 8 中的部件 7 和部件 9,使轴承在不同转速(900 rpm、1500 rpm、2100 rpm)和载荷(1 kN、2 kN、3 kN)下运行。振动传感器采样频率为 32 kHz,声学传感器为 48 kHz。原始信号被分割成不重叠的样本,每个样本包含 0.1 s 的多源数据。IB 数据集的情况汇总于表 6。

    表 6. IB 数据集。

     

    4.2.2. 实现细节

    (1)诊断智能体模型池构建和超参数设置

    在许多实际场景中,单个信号通道可能关联多个诊断模型。为反映这一情况,构建了三通道配置,为每个通道配备两个使用不同输入形式的轻量级 1D-DSCNN 基础模型(表 2),输入形式分别为时域波形和频域谱。每个模型独立训练,以确保在对应传感器数据上具有竞争力的诊断性能。这种设计同样得到总共六个诊断模型,构成多源模型池。

    所有超参数均与实验 1 完全一致。

    (2)知识库构建

    知识库(KB)的构建是诊断助手系统的一个关键组成部分。知识库中存储的知识涵盖以下类别:(1)IB 系统的基本配置和工作原理;(2)常见故障类型及其特征描述;(3)所提出的诊断方法与融合策略,包括整体工作流;(4)解释与报告生成的示例模板。

    (3)LLM-Agent 提示词设计

    在诊断助手系统中,需要 LLM 参与的组件主要包括意图路由器(Intent Router)、解释(Explanation)和聊天(Chat)功能。针对这些组件设计专门的提示词,引导 LLM 执行对应任务,具体汇总于表 7。

    表 7. IB 诊断系统的 LLM-Agent 提示词设计。

     

    4.2.3. 性能评价

    (1)整体性能

    如表 8 所示,所提出方法在四项指标上均取得最高分,同时具有最小的方差(99.97% ± 0.04%)。与最强基线 Feat-Con(99.61% ± 0.25%)相比,Accuracy 绝对提高 0.36 个百分点,估计效应量为 1.42,对应幅度适中但具有统计意义的改进。其他指标表现出类似趋势,说明所提出方法在该实验平台上同样具有较强的融合有效性和鲁棒性。与 Weighted-DS 的性能差距更大(提高 0.50 个百分点,效应量     ),相对于 Soft-Voting 的改进为 0.52 个百分点(    )。这些结果表明,对于单源模型性能已接近上限的 IB 数据集,简单拼接或等权重策略很难进一步提升性能,而冲突感知、可靠性校准的决策级融合方案仍然能够提取稳定且不容忽视的增益。

    表 8. IB 数据集上不同方法的整体性能比较。

     

    值得注意的是,DS-Confidence 在该数据集上仍然失效,其平均性能和方差均明显恶化。推测其根本原因与实验 1 中观察到的现象一致。由于 IB 数据集具有较高的可分性,许多方法在高 SNR、无传感器缺失的理想条件下,都能接近“近乎完美”的性能区域。在这种接近饱和的状态下,方差差异及长尾样本上的表现就具有更强的区分性。所提出方法的标准差最小,表明其在极端样本上具有更高的稳定性,后续鲁棒性实验进一步证实了这一点。

    (2)抗噪声分析

    噪声鲁棒性结果如图 9 所示。除 PINK 噪声在低 SNR 区间(0–10 dB)的情况外,所提出方法在 0–30 dB 的整个 SNR 范围内均位居第一。在 10 dB 时,该方法的性能已接近 100%,而大多数基线需要更高的 SNR 才能收敛到性能上限(参见各子图右上角的放大视图)。与此同时,所提出方法始终保持更优的性能和更小的波动,体现出其能够自动降低不可靠或受污染证据的权重,并突出稳定证据。这种行为与仅对预测进行平均的 Soft-Voting 形成鲜明对比,其表现也优于 UQ-Fusion。

     

    图 9. IB 数据集上的噪声鲁棒性分析。(a)AWGN;(b)PINK;(c)BAND;(d)IMPULSE。阴影区域表示五次运行的标准差。

    (3)传感器缺失分析

    传感器缺失实验结果如图 10 所示。随着缺失概率      从 0.1 增大到 0.7,所提出方法在      时仍将 Accuracy 和 F1 维持在“接近完美”的区间。不同方法的散点分布显示,所提出方法具有更高的中位数和更小的离散程度。当      时,所有方法均开始明显退化;然而,所提出方法的下须线更短、离群点更少,说明其对于极端缺失情形具有更强的抵御能力。随着      增大,Soft-Voting 的性能下降更快,而 UQ-Fusion 在高缺失率条件下的鲁棒性有限。DS-Confidence 再次表现出较大的波动和显著的性能退化;有趣的是,当缺失率变得非常高时,其性能略有改善,这可能是因为模型间冲突减少,从而在一定程度上缓解了其固有的不稳定性。这些观察 结果与工程实践一致:在样本级和通道级独立缺失的场景中,显式冲突管理结合可靠性校准的效果优于简单 平均和静态加权。这一结论与案例 1 一致,并且在高性能(接近上限)的数据集上得到了进一步验证。

     

    图 10. IB 数据集上的传感器缺失分析。(a)准确率;(b)F1 分数。

    (4)跨工况分析

    为了进一步评价所提出框架在未见工况下的泛化能力,开展了跨工况验证实验。具体而言,将 IB 数据集中转速为 1500 rpm、载荷为 2 kN 和转速为 1500 rpm、载荷为 3 kN 的工况样本用于测试,分别记为 UC1 和 UC2;其余工况的样本用于训练。参与比较的方法限定为其他决策级融合方法。实验结果汇总于表 9。

    表 9. 不同方法在未见工况下的准确率比较(均值 ± 标准差,%)。

     

    如表 9 所示,所提出方法在两个未见工况下均取得最高的平均准确率,UC1 达到 98.95%,UC2 达到 94.99%。与最强基线 Weighted-DS 相比,所提出方法在 UC1 上将平均准确率提高了 0.27 个百分点,在 UC2 上提高了 1.21 个百分点。与 UQ-Fusion 相比,对应增益分别为 0.27 和 1.46 个百分点。这些结果表明,随着测试工况变得更具挑战性,所提出框架能够维持更加明显的性能优势;尤其是在所有方法的整体准确率均有所下降的 UC2 工况下,这一优势更加突出。

    (5)基于 LLM 的助手性能分析

    在完整的智能诊断助手系统中,LLM 与多源融合模块协作执行故障诊断,并对轴承状态生成解释。工作流包括:(1)用户通过自然语言界面发起诊断请求;(2)系统根据请求进行数据采集;(3)多源融合模块诊断采集的数据,并输出故障类别及其置信度;(4)LLM 根据诊断结果及知识库生成详细解释和报告。IB 数据集中的一个示例如图 11 所示。

     

    图 11. IB 数据集上 LLM 驱动的可解释融合示例。(a)采样;(b)诊断与解释;(c)报告生成。

    表 10 展示了一个具有代表性的模型解释示例。对于样本 test_000001,诊断系统融合多通道振动信号,最终将故障类型识别为轻微滚动体缺陷(ball04,标签 0),置信度高达 0.99996,表明预测具有高度一致性和可靠性。

    表 10. IB 数据集上 LLM 驱动的可解释融合示例。

     

    在解释任务中,将中间诊断轨迹与知识库检索结果(包括设备、传感器、模型和融合流程的信息)相结合,生成更加准确的解释与报告。底层通用 LLM 的实用性和成本效益是重要考量因素。因此,选取五种主流 LLM 的轻量化变体,对比它们在该任务上的表现。在 LLM 的实现中,模型并未部署于本地,而是通过第三方 API 服务调用。采用两个量化指标:融合对齐度(Fusion Alignment),用于衡量 LLM 生成的解释与知识库中融合流程描述之间的语义相似性;样本相似度(Sample Similarity),用于衡量同一 LLM 多次生成的解释之间的语义一致性。此外,采用 LLM-as-judge 方案评估生成解释的质量,使用表 11 中汇总的准则及关键要点。每条准则的分值为 0.125,得分越高表示解释质量越好。

    表 11. LLM 生成解释的质量评价指标。

     

    结果汇总于表 12。总体来看,所有模型的样本相似度均超过 0.917,说明所提出的基于 LLM 的多智能体诊断框架能够有效约束生成随机性,并对相似样本保持较高一致性。在此基础上,各模型在融合对齐度指标上仍存在可区分的差异,其中 gpt-5-nano 的得分最高(0.7036),说明其与所定义的多源融合流程、关键源选择策略和证据聚合过程具有更好的语义对齐程度。

    在质量得分方面,除 gemini-2.5-flash(0.8750)之外,所有模型均达到 1.0000 的满分,说明这些轻量级 LLM 能够为该任务生成高质量的解释文本。综合来看,gpt-5-nano 在所有指标上取得最佳总体表现,可视为该应用的首选模型。

    表 12. IB 数据集上不同 LLM 的融合对齐度和样本相似度指标比较。

     

    (6)计算效率与部署可行性

    为了评价不同决策级融合方法的计算效率及实际可部署性,在 IB 测试集上进行了效率比较。全部实验均在配备 NVIDIA RTX 4070 Ti GPU 的设备上通过 CUDA 加速运行。为保证公平比较,所有模型都预先加载到 GPU 显存中,仅测量批大小为 1 时纯诊断推理的时间。模型加载时间、离线校准时间以及可选的基于 LLM 的解释模块均不计入计时统计。

    如表 13 所示,五种基线方法具有相同的参数量。这是因为它们都基于由六个诊断子模型构成的同一个基础模型池,而其融合阶段几乎没有或完全没有引入额外可学习参数。相比之下,由于引入了基于 VAE 和 GAT 的协作融合模块,所提出方法的总参数量增加至 2.082M。尽管这一数值高于纯投票或 DS 融合基线,但从绝对数值来看,整个模型的规模仍然适中。

    在推理效率方面,所提出方法每个样本需要 12.99 ms。尽管慢于 Soft-Voting、Enhanced-Voting、DS-Confidence 和 Weighted-DS,但仍显著快于 UQ-Fusion。由于本文的 UQ-Fusion 实现采用了蒙特卡洛采样,因此会产生高得多的计算开销。同时,所提出方法和大多数比较方法的单样本推理时间均处于毫秒级,在实际诊断场景中的差距并不大。

    表 13. IB 测试集上不同方法的参数量与单样本推理时间比较。

     

    所提出框架进一步支持基于 LLM 的解释生成。为了描述启用解释模块后的实际开销,分析了五个代表性案例的平均时间统计结果。

    如表 14 所示,诊断主流程本身每个案例仅需 0.028 s,而解释模块的额外时间成本主要由检索和 LLM 生成决定。在这些阶段中,LLM 生成在解释开销中占比最大,其次是检索;诊断阶段在总延迟中只占很小一部分。这说明所提出框架在决策诊断层面仍能保持快速响应,额外时间成本主要来自可选的高层解释服务,而不是诊断主干模型本身。

    表 14. 五个代表性案例上基于 LLM 的解释流程的平均耗时统计。

     

    所有模型及离线校准量均在计时前预加载。解释总耗时包括检索、LLM 生成,以及提示词构建、结果封装和缓存写入等其他开销。

    从部署角度来看,所提出方法的诊断延迟仍明显低于当前 0.1 s 的采样时间窗,表明其核心诊断模块在当前设定下能够满足实时在线应用要求。相比之下,解释模块的运行时间处于秒级,因此更适合按需提供面向人的解释、事后报告生成或专家辅助决策支持。

    因此,该框架在实践中仍具有可部署性:前端监测环路能够维持实时诊断,而当需要可解释性或自动生成报告时,可以异步触发信息更加丰富的 LLM 解释功能。

    4.3. 消融实验

    4.3.1. 关键组件消融实验

    在融合诊断框架中,构建四类消融基线,以量化每个组件的边际贡献:

    基线 1: 不进行融合的单源诊断。在实验 1 中,变体分别为 B1-1(电流 1)、B1-2(电流 2)、B1-3(振动 1)、B1-4(力)、B1-5(转速)和 B1-6(扭矩)。在实验 2 中,变体分别为 B1-1(     轴振动时域)、B1-2(     轴振动频域)、B1-3(     轴振动时域)、B1-4(     轴振动频域)、B1-5(声学信号时域)和 B1-6(声学信号频域)。

    基线 2: 不包含关系图评审机制的 DS 证据理论融合,记为 B2。

    基线 3: 不使用 DS 融合的可靠性加权平均,记为 B3。

    基线 4: 使用固定邻接矩阵(基于 softmax 归一化的概率相似度),不使用动态图注意力,记为 B4。

    Paderborn 数据集上的结果报告于表 15。B1 揭示了不同信息源在可分性方面存在明显差异,并具有互补性:性能最好的单一信息源(振动,B1-3)的准确率达到 95.18%,而电流和转速等信息源仅达到约 35%–44%,说明单一信息源无法稳定覆盖所有故障场景。进行多源融合后,纯 DS 组合(B2)受到冲突系数      的严重影响,准确率仅为 93.54%。将 DS 替换为可靠性加权平均(B3),准确率显著提高到 96.47%。在此基础上,引入采用固定邻接关系的关系图评审机制(B4),进一步将准确率提高到 97.62%,说明关于“谁更可靠”和“谁与谁更相似”的结构化信息能够有效缓解多源冲突,并放大稳定证据。

    表 15. Paderborn 轴承数据集上的消融实验(均值 ± 标准差,%)。

     

    完整方法的准确率达到 97.66%。尽管与 B4 的均值差异较小,但相对于 B3 和 B2 的差距分别对应效应量      和     ,代表从中等到非常大的效应;Precision、Recall 和 F1 表现出一致的趋势。与 B4 相比,Proposed 的精确率略低,但召回率明显更高,因此在检测完整性和精确性之间取得了更好的平衡,表现出更强的适应性。总体而言,关系图评审机制和基于 DS 的冲突管理是性能增益的主要来源,动态图注意力门控则为非理想样本提供额外的鲁棒性收益,相关证据如上所述。

    IB 数据集上的结果汇总于表 16。由于整体可分性较高,观察到一种“近饱和”的上限效应,多个融合方案的四项指标均接近 100%。即使在这种情况下,各组件的逐步贡献仍然清晰可见:B2、B3 和 B4 的准确率分别为 99.58%、99.76% 和 99.95%,而完整方法进一步提高到 99.97%。从统计角度来看,所提出方法相对于 B4 的增益对应一个较小的效应量(    ),但相对于 B3 和 B2 的改进分别达到      和     ,表明具有明显的效应。此外,完整方法在所有四项指标上均具有最小(或并列最小)的标准差,反映出其对长尾样本具有更强的抑制能力。结合前述噪声和传感器缺失分析,可以将这些发现概括如下:当数据集接近饱和时,动态图门控的主要优势在于降低方差和收紧尾部风险;当存在明显冲突、噪声或数据缺失时,其优势则表现为平均性能更加明显的提升。

    表 16. IB 数据集上的消融实验(均值 ± 标准差,%)。

     

    总之,两组消融实验从两个角度提供了相互一致的证据。一方面,单源模型之间的巨大性能差距证实了不同模态之间真实存在的互补性,而简单拼接或等权重融合无法充分利用这种互补性。另一方面,从 B2 → B3 → B4 → Proposed 的逐步提升清楚地表明,稳健融合增益沿着一条关键路径实现:首先通过可学习的可靠性加权抑制不可靠信息源,随后通过关系图执行结构化同行评审,最后在 DS 框架内进行冲突管理与校准。

    4.3.2. 外层类别加权消融实验

    为了论证第 3.2.3 节所采用的外层统一类别权重      的合理性,开展了消融实验:固定内层 DS 融合,仅改变外层类别权重。具体考察三种设置:MU,在外层采用统一类别权重;MA,在每个委员会中使用回答者的类别权重;MG,使用委员会全部成员的平均类别权重。

    表 17. 外层类别加权的消融结果(准确率,均值 ± 标准差,%)。

     

    表 17 显示,三种设置在两个数据集上产生几乎完全相同的结果。这说明所提出方法对外层类别权重的具体选择并不敏感。因此,统一类别加权是一种合理的简化选择,因为类别级可靠性已在内层完成建模。

    4.4. 可视化与可解释性分析

    为了刻画多回答者—评审者机制的运行模式及其对不确定性的影响,本文提供评审图的统计可视化,以及评审前后概率分布的比较。图 12 和图 13 分别对应 Paderborn 数据集和 IB 数据集。

    在 Paderborn 数据集上(图 12),图 12(a) 显示智能体之间存在明确的角色分工:智能体 6 在评审者一侧最为活跃,而智能体 3 和 4 更经常作为回答者出现,呈现功能专门化。图 12(b) 中,仅有少数回答者—评审者配对表现出较高的共同出现概率,反映出稀疏但稳定的评审偏好,这有利于有针对性地纠正容易混淆的类别。图 12(c) 中的平均邻接关系呈现“核心—边缘”结构,高权重集中于少量关键边,说明在高度冲突的条件下,门控机制倾向于关注少数高可靠性专家,以抑制不稳定证据的影响。

     

    图 12. Paderborn 轴承数据集上的评审图可视化。(a)回答者和评审者出现频率;(b)回答者—评审者共同出现情况;(c)平均邻接矩阵。

    相比之下,IB 数据集上的结构(图 13)更加均衡。在图 13(a) 中,回答者和评审者角色在智能体之间分布得更加均匀;图 13(b) 的共同出现矩阵更接近均匀的浅色模式,没有极亮的块;图 13(c) 的平均邻接矩阵更加稠密,分布也更加分散。这说明在类别高度可分、冲突较低的条件下,系统无需严重依赖少量核心评审者,就能维持稳定的高性能;这一点与消融及鲁棒性实验中观察到的“近饱和、低方差”现象一致。

     

    图 13. IB 数据集上的评审图可视化。(a)回答者和评审者出现频率;(b)回答者—评审者共同出现情况;(c)平均邻接矩阵。

    为了量化评审过程对置信度和不确定性的影响,图 14 比较了 Paderborn 数据集上评审前后的 softmax 分布。设类别集 合      上的预测概率向量为     ,最大类别概率为     ,真实类别概率为     ,归一化熵为:

     
     

    并定义真实类别概率增量     。如图 14(a)–(b) 所示,评审后,     和      的密度分布均向右移动,且峰值更加集中,说明输出置信度显著提高,增益主要集中在真实类别上。图 14(c) 显示,     主要集中于正值区间,证实评审机制系统性地增强了真实类别概率。图 14(d) 中,     的分布明显向左移动,尾部也更加收紧,意味着预测不确定性受到有效抑制。结合关系图中观察到的“核心—边缘”模式,可以将这些现象归因于评审过程中的冲突识别与可靠性校准:不可靠信息源被降低权重,稳定证据被放大,因此在提高最终决策可解释性和鲁棒性的同时,也改善了准确率与校准表现。

     

    图 14. Paderborn 轴承数据集上评审前后 softmax 分布的比较。(a)最大类别概率;(b)真实类别概率;(c)真实类别概率变化;(d)不确定性(熵)变化。

    4.5. 参数敏感性

    4.5.1. 最大回答者数量与评审者数量的敏感性

    图 15 和图 16 展示了每个样本的最大回答者智能体数量      对整体性能的影响。在 Paderborn 数据集上,平均准确率随      增大而缓慢提升,随后趋于饱和,在      附近达到最优。与此同时,当      时,小提琴图明显更加紧凑,长尾样本减少,说明允许更多候选回答者有助于抑制少数弱专家造成的偶然波动。

     

    图 15. Paderborn 轴承数据集上最大回答者数量      的敏感性分析。

    在 IB 数据集上,由于其可分性更高、基线性能接近饱和,     对均值的影响较小,但      仍然产生最稳定的性能(方差最小或接近最小)。从机制上看,     充当上限:门控机制针对每个样本自适应地选择数量不超过      的回答者子集。当      过小时(例如     ),互补信息不足,决策容易受到单个专家偏差的影响;当      过大时(例如     ),冗余和冲突增多,边际增益可以忽略,甚至略微变为负值。综合考虑平均准确率和离散程度,两个数据集均表明      能够实现有利的折中。

     

    图 16. IB 数据集上最大回答者数量      的敏感性分析。

    固定      后,图 17 和图 18 展示了评审者数量对性能的影响。在 Paderborn 数据集上,将评审者数量从 1 增加到 3,能够同时改善平均准确率及其置信区间;随后,在评审者数量为 3–5 的范围内,性能基本保持稳定;当评审者数量增加到 6 时,不再观察到进一步增益。这体现了“适度评审”原则:少量高质量评审者足以有效缓解回答之间的冲突,而过多评审者会引入噪声和额外计算开销。在 IB 数据集上,仅有一名评审者时获得最高的准确率和最小的方差;随着评审者数量增加,平均准确率略有下降,方差增大,表明在高度可分的条件下,过度评审可能引入不必要的复杂性和不稳定性。

     

    图 17. Paderborn 轴承数据集上,最大回答者数量      时的评审者数量分布。

     

    图 18. IB 数据集上,最大回答者数量      时的评审者数量分布。

    总而言之,参数敏感性分析得出明确的实践指导原则:将最大回答者数量设置为     ,并采用 3–5 名评审者,能够在两个数据集上实现准确率与稳定性之间的良好平衡,同时保持较好的计算效率和可部署性。

    4.5.2. 图演化步数的敏感性分析

    为了研究动态图更新机制的收敛行为,以及对图演化步数      的敏感性,在 Paderborn 轴承数据集上进一步开展实验,取     。

     

    图 19. 不同      下图更新过程的收敛情况。阴影区域表示五次运行的标准差。

    表 18. Paderborn 轴承数据集上      的敏感性分析(均值 ± 标准差,%)。

     

    如图 19 所示,图演化步数较小的设置(     和     )表现出相对较差的收敛行为,损失停留在更高的平台,说明动态图更新执行得不够充分,无法充分细化协作拓扑并优化图一致性目标。相比之下,     和      的收敛行为更好,损失轨迹更低、更稳定,而且      时损失在训练初期下降得更快。然而,如表 18 所示,超过      后,这种优化行为的改善并未转化为更好的诊断性能,同时还导致计算成本显著增加。虽然更大的      会使图一致性目标更容易拟合,但这并不必然带来更高的分类准确率。这说明过度增加图演化步数,主要是在付出更多训练时间的代价下改善辅助图优化过程的拟合效果,而非进一步提高最终诊断任务的性能。

    5. 结论

    本文提出一种图驱动的多源证据融合框架,将基于 VAE 的全局状态建模、基于 GAT 的自适应智能体编排以及双层 DS 决策融合方案有机结合,形成面向多源轴承信号的动态诊断机制。在此结构之上,进一步构建基于检索增强 LLM 的多智能体诊断助手,使融合结果能够转化为可验证的自然语言报告。这一设计改善了传统模型在实际现场部署中的可解释性和可审计性。

    在 Paderborn 轴承数据集和 IB 实验平台上,所提出方法在准确率、召回率和 F1 分数方面均取得领先表现,同时显著降低输出方差和熵。消融实验及敏感性分析表明,基于图的评审机制能够有效抑制来自低置信度智能体的噪声,并维持稳定可靠的诊断性能。噪声和传感器缺失实验验证了该方法在非理想条件下的鲁棒性,而对 LLM 生成解释的评价则证明了所构建智能诊断助手的实际效用。

    未来工作将沿三个方向展开:(1)面向更加多样化的传感器和跨设备场景开发迁移学习策略,以提升框架的泛化能力;(2)探索与工业数字孪生和实时调度系统更紧密的集成,形成诊断、预测与维护之间的闭环;(3)引入 LLM-Agent 安全审计,并系统性评价人机协作界面,以进一步确保可解释诊断的可信性

    编辑:Kira
    校核:李正平、陈凯歌、Leo、曹希铭、赵学功、白亮、任超、海洋、陈宇航、Tina、王金、赵诚、肖鑫鑫、张优
    该文资料搜集自网络,仅用作学术分享,不做商业用途,若侵权,后台联系小编进行删除
    来源:故障诊断与python学习
    MechanicalSystem振动通用航空电子python海洋声学理论电机多尺度数字孪生试验
    著作权归作者所有,欢迎分享,未经许可,不得转载
    首次发布时间:2026-10-26
    最近编辑:1天前
    故障诊断与python学习
    硕士 签名征集中
    获赞 87粉丝 153文章 342课程 0
    点赞
    收藏
    作者推荐

    初学者入门教程|| 手把手带你入门各种深度学习网络(上)

    在上一篇推文中【点击即达】,我们介绍了多个常用故障诊断数据集的文件结构、信号读取方式、样本切割方法以及训练集、验证集和测试集的划分流程,并以LSTM为例,展示了处理后的振动数据如何输入神经网络。完成数据处理后,接下来的关键问题就是:面对同一组故障数据,应该选择什么网络模型?论文和代码中,我们经常看到MLP、CNN、VGG、ResNet、RNN、LSTM、GRU、GNN、Transformer、自编码器和GAN等名称。对于初学者而言,真正困难的往往不是记住这些缩写,而是弄清楚它们之间的关系。例如,VGG和ResNet本质上属于CNN,LSTM和GRU属于RNN的改进结构,而注意力机制既可以嵌入CNN和RNN,也可以作为Transformer的核心模块。因此,本期将从故障诊断应用角度,对常见深度学习网络进行系统梳理,重点介绍每类网络的基本概念、组成结构、数据处理流程、适用数据以及优点与局限。由于涉及的网络类型较多,全文将分为上下两篇:本篇为上篇,主要介绍全连接神经网络MLP、卷积神经网络CNN、循环神经网络RNN和图神经网络GNN;下篇将继续介绍注意力网络、编码与重构网络以及生成模型。本期内容不仅罗列各模型定义,而且结合具体故障分类任务,说明不同网络在模型中究竟承担什么作用。文章内容较为基础且完整,适合刚接触深度学习故障诊断、对不同网络关系还不清楚,或者在阅读论文和代码时经常分不清特征提取器、时序模块和分类头的初学者。每节最后附上参考博文链接,可供读者进一步学习。目录0 引言1 全连接神经网络MLP 1.1 MLP是什么? 1.2 MLP由哪些部分组成? 1.3 数据在MLP中是怎样处理的? 1.4 MLP在故障诊断中怎么使用? 1.5 MLP有什么优点和局限? 1.6 总结2 卷积神经网络CNN 2.1 CNN是什么? 2.2 CNN由哪些部分组成? 2.3 数据在CNN中是怎样处理的? 2.4 CNN在故障诊断中怎么使用? 2.5 CNN有什么优点和局限? 2.6 总结3 循环神经网络RNN 3.1 RNN是什么? 3.2 RNN由哪些部分组成? 3.3 数据在RNN中是怎样处理的? 3.4 RNN在故障诊断中怎么使用? 3.5 RNN有什么优点和局限? 3.6 总结4 图神经网络GNN 4.1 GNN是什么? 4.2 GNN由哪些部分组成? 4.3 数据在GNN中是怎样处理的? 4.4 GNN在故障诊断中怎么使用? 4.5 GNN有什么优点和局限? 4.6 总结5 注意力网络Transformer6 编码与重构网络7 生成模型注:小编能力有限,如有不恰之处,请多多指正~0.引言随着传感器技术、工业互联网和计算能力的发展,机械设备运行过程中产生了大量振动、电流、声音、温度和压力等监测数据。如何从这些数据中准确提取设备状态特征,并及时识别潜在故障,已经成为智能故障诊断领域的重要研究内容。传统故障诊断方法通常依赖人工提取时域、频域或时频域特征,再结合支持向量机、决策树等机器学习方法进行分类。这类方法具有较好的可解释性,但诊断效果往往依赖研究人员的经验和特征设计能力。当数据规模增大、运行工况复杂或故障特征不明显时,人工设计特征可能难以充分描述设备状态。深度学习通过构建多层神经网络,可以直接从原始数据或低层特征中学习更加复杂的特征表示,实现从数据输入、特征提取到故障分类的端到端建模。目前,深度学习已经广泛应用于轴承、齿轮箱、电机、风力发电机和船舶综合电力系统等设备的故障诊断。需要注意的是,深度学习并不是某一种固定网络,而是包含多种网络结构和学习方式。不同网络具有不同的信息处理特点:MLP通过全连接层学习特征之间的非线性关系;CNN通过卷积提取局部特征;RNN通过隐藏状态建模时间依赖;GNN通过节点与边描述设备或传感器之间的关系;注意力机制能够突出重要特征并建立不同位置之间的联系;编码与重构网络通过压缩和恢复数据学习潜在特征;生成模型通过学习数据分布生成新的样本。本系列将按照“基本概念—网络结构—数据处理流程—故障诊断应用—优点与局限”的逻辑,依次介绍全连接神经网络MLP、卷积神经网络CNN、循环神经网络RNN、图神经网络GNN、注意力网络、编码与重构网络以及生成模型。需要特别说明的是,这些网络并不是相互独立或彼此替代的。在实际故障诊断中,CNN、RNN、注意力机制和GNN等经常组合使用。例如,CNN可以提取局部振动特征,LSTM可以进一步建模时序关系,注意力机制可以突出关键时间步,MLP则负责完成最终分类。因此,理解不同网络的关键,不只是记住网络名称,而是弄清楚三个问题:输入数据是什么形式?网络通过什么方式提取信息?这种结构适合解决什么故障诊断问题?掌握这些基本逻辑后,面对CNN-LSTM、CNN-BiLSTM-Attention、时空图神经网络等复杂模型时,就能够看清各个模块在网络中的实际作用。1 全连接神经网络MLP1.1 MLP是什么?这一部分主要解决:MLP到底是什么?它在深度学习中处于什么位置?MLP的英文名称是Multi-Layer Perceptron,中文名称是多层感知机。它是一种由多个全连接层组成的前馈神经网络。所谓前馈,是指数据按照固定方向,从输入端逐层传递到输出端:输入数据→ 输入层→ 隐藏层→ 输出层→ 预测结果 MLP不会像RNN一样保存前一时刻的信息,也不会像CNN一样使用卷积核提取局部特征。它主要通过多个全连接层,对输入特征进行逐层变换和组合,最终完成分类或回归任务。可以用一句话概括: MLP通过多层全连接运算,学习输入特征之间的非线性关系,并完成分类或预测。虽然MLP结构相对简单,但它是理解其他深度学习网络的重要基础。CNN、RNN和Transformer等网络中,也经常使用全连接层或MLP作为最终的分类模块。1.2 MLP由哪些部分组成?这一部分主要解决:MLP内部的网络结构是什么样的?如图1所示,一个典型的MLP通常包含三个部分:输入层;一个或多个隐藏层;输出层。 图1 MLP结构示意图其基本结构为:输入层→ 隐藏层1→ 隐藏层2→ 输出层 例如,在一个四分类故障诊断任务中,输入样本包含10个特征,可以设计如下网络:10维输入特征→ 64个隐藏神经元→ 32个隐藏神经元→ 4个输出神经元 可以简写为: 其中:10表示输入特征的数量;64和32表示隐藏层的神经元数量;4表示需要识别的故障类别数量。例如四种状态分别为:正常状态;内圈故障;外圈故障;滚动体故障。那么输出层就可以设置为4个神经元。1.2.1 输入层输入层负责接收数据。MLP的输入通常是固定长度的特征向量,例如: 在故障诊断中,输入可以是:均值;标准差;均方根;峭度;偏度;峰值因子;频谱能量。1.2.2 隐藏层隐藏层位于输入层和输出层之间。它的主要作用是:对输入特征进行组合、变换和提取,形成更适合分类的中间特征。需要注意的是,隐藏层描述的是网络中的位置,并不是一种固定的运算。在MLP中,隐藏层通常是全连接层。在CNN中,卷积层也可以是隐藏层。在RNN中,LSTM层也可以是隐藏层。1.2.3 输出层输出层负责给出最终预测结果。如果是四分类任务,输出层通常包含4个神经元,每个神经元对应一个类别。1.3 数据在MLP中是怎样处理的?这一部分主要解决:输入数据进入MLP以后,具体发生了什么? MLP中的数据处理可以分为以下几个步骤。1.3.1 加权求和假设一个神经元接收到多个输入: 每个输入都有对应的权重: 神经元首先进行加权求和: 其中, 表示偏置。也可以写成矩阵形式: 1.3.2 激活函数加权求和后的结果会送入激活函数: 常见的激活函数包括:ReLU;Sigmoid;Tanh;Leaky ReLU;GELU。MLP隐藏层中最常用的是ReLU: 激活函数的主要作用是引入非线性。如果MLP中的每一层都只进行线性变换,那么无论堆叠多少层,最终仍然可以等价为一次线性变换。因此,激活函数使MLP具备学习复杂非线性关系的能力。1.3.3 逐层传播假设MLP结构为: 第一层隐藏特征可以表示为: 第二层隐藏特征可以表示为: 输出层为: 输出结果: 这些输出值通常称为Logits,也就是网络对不同类别给出的原始分数。1.3.4 输出类别概率通过Softmax,可以将Logits转换为类别概率: 例如:正常状态:0.03内圈故障:0.85外圈故障:0.08滚动体故障:0.04 概率最大的类别就是模型的预测结果。1.3.5 训练网络MLP的训练过程可以表示为:输入训练样本→ 前向传播→ 得到预测结果→ 计算损失→ 反向传播→ 更新网络参数 在分类任务中,输入数据首先经过MLP进行前向传播,得到每个类别对应的原始分数,也就是Logits;随后,Softmax可以将这些分数转换为各类别的预测概率;接着,交叉熵损失函数会将预测结果与真实标签进行比较,计算模型当前的分类误差;最后,Adam或SGD等优化器根据反向传播得到的梯度更新MLP中的权重和偏置,使模型在不断训练后逐渐减小分类误差并提高识别准确率。1.4 MLP在故障诊断中怎么使用?这一部分主要解决:MLP在实际故障诊断任务中,输入什么数据?输出什么结果?MLP在故障诊断中的使用方式主要有两种。1.4.1 直接对人工特征进行分类首先从原始振动信号中提取特征,例如:均值;标准差;均方根;峭度;偏度;峰值因子;波形因子;频带能量。然后将这些特征组成一个固定长度的向量: 再输入MLP进行分类:原始振动信号→ 提取时域和频域特征→ MLP→ 故障类别 例如:10个故障特征→ Linear(10, 64)→ ReLU→ Linear(64, 32)→ ReLU→ Linear(32, 4)→ 四类故障结果 1.4.2 作为其他网络的分类头MLP不仅可以独立使用,也经常作为CNN、RNN和Transformer最后的分类器。例如:原始振动信号→ CNN提取局部特征→ MLP分类头→ 故障类别 或者:时间序列→ LSTM提取时序特征→ MLP分类头→ 故障类别 还可以是:振动信号→ Transformer提取全局特征→ MLP分类头→ 故障类别 因此,MLP在故障诊断中具有两种常见身份:一种是独立的故障分类网络,另一种是复杂网络最后的分类头。1.5 MLP有什么优点和局限?这一部分主要解决:什么情况下适合使用MLP?什么情况下不适合?1.5.1 MLP的优点MLP的主要优点包括:网络结构简单;容易理解和实现;训练过程相对直接;能够学习特征之间的非线性关系;适合固定长度的特征向量;适合人工提取特征和表格数据;经常作为其他深度学习网络的分类头。对于已经提取好时域、频域或统计特征的数据,MLP通常是一种简单有效的分类方法。1.5.2 MLP的局限MLP的主要局限包括:不会主动利用输入数据的局部结构;不擅长建模时间顺序;输入维度较大时,参数量会迅速增加;样本较少时容易过拟合;直接处理长振动信号时,效果不一定理想。例如,将长度为2048的振动信号直接输入一个包含512个神经元的全连接层,其参数量为: 仅一个全连接层就包含超过100万个参数。这是因为全连接层中的每个输入,都需要与下一层的每个神经元连接。相比之下,CNN通过局部连接和权重共享,可以使用更少的参数提取局部特征。因此:MLP更适合处理已经提取好的低维特征(人工提取特征),而原始长振动信号通常更适合使用CNN、RNN或Transformer。1.6 总结MLP是一种由多个全连接层组成的前馈神经网络。其基本流程为:输入特征→ 全连接层→ 激活函数→ 隐藏特征→ 输出层→ 分类结果 MLP的核心特点包括:通过全连接层处理输入特征;通过隐藏层逐步进行特征变换;通过激活函数学习非线性关系;可以单独用于故障分类;也可以作为CNN、RNN和Transformer的分类头。MLP将输入看作普通的特征向量,不能主动利用振动信号中的局部关系。 为了解决这一问题,CNN引入了局部连接和权重共享机制,这也是下一节将要介绍的内容。MLP学习参考链接:https://blog.csdn.net/m0_73798143/article/details/136636647https://zhuanlan.zhihu.com/p/19882044169149859132. 卷积神经网络CNN在上一节中,我们介绍了多层感知机MLP。MLP通过全连接层处理输入特征,但它会将输入数据看成一个普通向量,无法主动利用相邻数据点之间的局部关系。对于图像、振动信号、声音信号等数据,相邻位置往往具有较强联系。为了更有效地提取这些局部特征,卷积神经网络应运而生。卷积神经网络的英文名称是Convolutional Neural Network,通常简称为CNN。2.1 CNN是什么?CNN是一种以卷积运算为核心的深度神经网络。它通过卷积核在输入数据上滑动,自动提取局部特征,并将简单特征逐层组合为更加复杂的高级特征。CNN的基本流程可以表示为:输入数据→ 卷积层→ 激活函数→ 池化层→ 多层特征提取→ 分类器→ 输出结果 可以用一句话概括:CNN通过局部连接和权重共享,从原始数据中自动提取局部特征,并完成分类或预测任务。CNN最早广泛应用于图像识别,但现在也常用于:一维振动信号;声音信号;时间序列;频谱;时频图;医学图像;工业故障诊断。在故障诊断中,CNN可以直接从原始振动信号或时频图中学习故障特征,减少对人工特征提取的依赖。2.1.1 CNN与MLP有什么不同?MLP中的全连接层会让上一层的每个神经元都连接到下一层的所有神经元。CNN则主要采用局部连接。例如,对于长度为1024的振动信号,卷积核可能每次只观察其中连续的5个、7个或15个采样点。CNN不会一次处理整个信号,而是通过卷积核在信号上滑动,提取不同位置的局部模式。两者的核心区别可以概括为:对比项 MLP CNN 主要结构 全连接层 卷积层 连接方式 全连接 局部连接 参数共享 通常没有 有 擅长处理 特征向量 图像、信号、局部结构 特征提取 常依赖人工特征 可以自动提取特征 2.2 CNN由哪些部分组成?如图2所示,一个典型的CNN通常包含以下几个部分:输入层;卷积层;激活函数;池化层;分类头。 图2 CNN网络结构与计算示意图 其基本结构可以表示为:输入→ 卷积层→ 激活函数→ 池化层→ 卷积层→ 激活函数→ 池化层→ 全连接分类器→ 输出类别 2.2.1 输入层CNN可以处理不同形式的数据。对于一维振动信号,输入可以表示为: 其中: 表示输入通道数; 表示信号长度。例如,单个振动传感器采集长度为2048的信号: 对于二维时频图,输入可以表示为: 其中: 表示图像通道数; 表示图像高度; 表示图像宽度。2.2.2 卷积层卷积层是CNN最核心的部分。卷积核会在输入数据上滑动,并与局部区域进行加权计算,卷积计算过程和原理如图3所示。 图3 卷积计算过程和原理对于一维信号,卷积运算可以表示为: 其中: 表示输入信号; 表示卷积核参数; 表示卷积核大小; 表示偏置; 表示卷积输出。例如,一个长度为3的卷积核: 会依次处理: 同一个卷积核会在整个信号上重复使用。 这就是CNN中的权重共享。2.2.3 激活函数卷积层后通常会加入激活函数,例如ReLU: 激活函数可以为网络引入非线性,使CNN能够学习复杂的故障特征。常见结构为:卷积层→ 批归一化→ ReLU 也就是:Conv→ BatchNorm→ ReLU 2.2.4 池化层池化层用于压缩特征图,减少数据尺寸和计算量。常见的池化方式包括:最大池化;平均池化;全局平均池化。最大池化会保留局部区域中的最大值。例如: 使用大小为2的最大池化后,可以得到: 池化层的主要作用包括:减少特征尺寸;降低计算量;扩大感受野;保留重要特征;缓解过拟合。不过,现代CNN并不一定都使用传统池化,也可以通过步长卷积完成降采样。2.2.5 分类头经过多层卷积提取特征后,CNN通常需要通过分类头输出类别。常见分类头为:卷积特征→ 全局平均池化→ 全连接层→ 输出类别 其中,全连接层或MLP负责将CNN提取的高级特征映射为不同故障类别的Logits。因此,一个完整CNN通常由两部分组成:CNN特征提取器+MLP分类头 2.3 数据在CNN中是怎样处理的?这一部分主要回答:原始数据进入CNN后,是怎样逐层变成分类结果的?假设输入是一段长度为2048的一维振动信号: 一个简单的CNN可以设计为:输入信号→ Conv1D→ ReLU→ MaxPool→ Conv1D→ ReLU→ MaxPool→ 全局平均池化→ 全连接层→ 故障类别 2.3.1 卷积核提取局部特征第一层卷积核通常提取比较基础的特征,例如:局部波动;幅值变化;边缘;短时冲击;高频变化。对于轴承振动信号,第一层卷积核可能对局部冲击信号产生较强响应。不同卷积核会学习不同的特征模式。例如:卷积核1:关注尖峰冲击卷积核2:关注周期波动卷积核3:关注高频振动卷积核4:关注低频趋势 因此,卷积层的输出通常包含多个通道。假设输入通道数为1,卷积层输出通道数为16,则输出可以表示为: 这16个通道分别表示16种不同的卷积特征。2.3.2 深层卷积组合高级特征浅层卷积主要提取简单局部特征。随着网络层数增加,深层卷积会将简单特征逐渐组合成更复杂的模式。例如:浅层特征→ 局部冲击、幅值变化、频率成分中层特征→ 周期冲击、调制现象、频带能量深层特征→ 内圈故障、外圈故障、滚动体故障的类别特征 因此,CNN中的特征通常具有层次性:浅层学习基础特征,深层学习与具体任务相关的高级特征。2.3.3 池化和降采样压缩特征经过卷积后,特征长度通常仍然较大。池化或步长卷积可以逐渐缩短特征长度。例如:2048→ 1024→ 512→ 256→ 128 随着特征长度减小,卷积通道数通常会增加:1通道→ 16通道→ 32通道→ 64通道→ 128通道 CNN逐渐压缩空间或时间长度,同时增加特征通道数量。2.3.4 分类头输出结果经过多层卷积后,可以使用全局平均池化,将每个通道压缩为一个数。例如: 经过全局平均池化后: 然后输入全连接层: 如果需要识别4种状态,则输出为: 这些数是不同类别的Logits。再通过交叉熵损失训练网络。完整流程可以表示为:原始输入→ 局部卷积特征→ 多通道特征→ 深层高级特征→ 全局特征向量→ MLP分类头→ 故障类别 2.4 CNN在故障诊断中怎么使用?CNN在故障诊断中主要有两种常见使用方式:直接处理一维原始信号;处理二维图像或时频图。2.4.1 一维CNN处理原始振动信号一维CNN通常用于:振动信号;电流信号;声音信号;压力信号;转速时间序列。输入形式为: 例如:2048点振动信号→ 1D-CNN→ 全局平均池化→ MLP分类器→ 故障类别 具体结构可以是:Input(1, 2048)→ Conv1D(1, 16, kernel_size=7)→ ReLU→ MaxPool1D→ Conv1D(16, 32, kernel_size=5)→ ReLU→ MaxPool1D→ Conv1D(32, 64, kernel_size=3)→ ReLU→ Global Average Pooling→ Linear(64, 4) 其中:输入通道数为1;经过三层卷积后得到64通道特征;最后输出4种故障类别。一维CNN的优势是可以直接处理原始信号,不需要先转换为图像。2.4.2 二维CNN处理时频图振动信号也可以先经过信号处理方法转换为二维图像,例如:短时傅里叶变换;连续小波变换;小波包变换;希尔伯特频谱;Gramian角场;递归图。基本流程为:原始振动信号→ 时频变换→ 二维时频图→ 2D-CNN→ 故障类别 二维CNN输入通常表示为: 二维卷积核会在图像的高度和宽度方向滑动,提取:局部纹理;能量分布;时间变化;频率变化;时频联合特征。2.4.3 1D-CNN和2D-CNN有什么区别?对比项 1D-CNN 2D-CNN 输入 一维信号 二维图像或时频图 卷积方向 沿一个方向滑动 沿两个方向滑动 常见数据 振动、声音、电流 图像、频谱图、时频图 数据预处理 相对简单 通常需要时频转换 计算量 通常较小 通常较大 特征特点 保留原始时间结构 便于提取二维纹理 不能简单说1D-CNN和2D-CNN谁一定更好。选择取决于:输入数据形式;数据规模;计算资源;故障特征表现形式;是否需要时频分析。2.4.4 CNN与其他网络组合CNN还经常与其他网络组合使用。例如:原始振动信号→ CNN提取局部特征→ LSTM提取时序特征→ MLP分类头→ 故障类别 也可以加入注意力机制:原始振动信号→ CNN→ SE或CBAM注意力→ MLP分类头→ 故障类别 还可以用于迁移学习:源域数据和目标域数据→ CNN特征提取器→ 特征分布对齐→ 故障分类 因此,CNN既可以独立完成故障诊断,也可以作为复杂模型中的特征提取器。2.4.5 常见CNN网络CNN不是某一个固定网络,而是一大类以卷积为核心的网络。常见CNN架构包括:LeNet;AlexNet;VGG;GoogLeNet;ResNet;DenseNet;MobileNet;EfficientNet。(1)VGG如图4所示,给出常见VGG的模型结构。VGG的核心思想是使用多个小尺寸卷积核不断堆叠,加深网络层数。VGG中常用3×3的小卷积核。其结构比较规则:多个3×3卷积→ 池化→ 多个3×3卷积→ 池化→ 全连接分类器 图4 常见VGG模型与结构常见版本包括:VGG16;VGG19。VGG结构简单,但参数量较大,特别是传统VGG末端的全连接层包含大量参数(如图5以VGG16为例)。 图5 VGG16网络结构(2)ResNet随着网络变深,普通CNN可能出现梯度消失、梯度传播困难和性能退化问题。ResNet引入了残差连接: 其中: 是输入; 是卷积层学习的残差特征; 是输出。残差结构可以表示为:输入x├──────────────┐↓ │卷积层 │→ 卷积层 │↓ │F(x) │├──── 相加 ←────┘↓输出F(x)+x 图6 ResNet18 残差结构 残差连接让信息和梯度可以更直接地在网络中传播,因此可以训练更深的CNN。常见版本包括:ResNet18(如图7所示);ResNet34;ResNet50;ResNet101。图7 ResNet18网络结构在故障诊断中,一维ResNet通常将二维卷积替换为一维卷积,用于处理原始振动信号。2.5 CNN有什么优点和局限?这一部分主要回答: CNN适合解决什么问题?又有哪些不足?2.5.1 CNN的优点(1)自动提取特征CNN可以直接从原始信号或图像中学习特征,减少对人工特征设计的依赖。(2)擅长提取局部特征卷积核能够捕捉:局部冲击;波形变化;边缘;纹理;局部频率模式。这与机械故障信号中常见的局部冲击特征较为契合。(3)权重共享同一个卷积核会在整个输入上重复使用,因此参数量通常比同规模全连接网络更少。假设一维卷积层:输入通道为1;输出通道为64;卷积核大小为7。参数量为: 而将长度为2048的信号连接到64个神经元,参数量为: 因此,卷积层通常比全连接层更加节省参数。(4)具有一定平移适应能力相同故障冲击即使出现在信号中的不同位置,卷积核仍然可以检测到相似模式。(5)容易构建深层网络通过多层卷积,可以逐步学习从低级到高级的层次化特征。2.5.2 CNN的局限(1)更擅长局部关系普通CNN主要通过局部卷积提取特征。如果需要直接建模序列中相距很远的位置关系,往往需要:堆叠更多卷积层;使用更大的卷积核;使用空洞卷积;与LSTM或Transformer结合。(2)对网络结构比较敏感卷积核大小、步长、通道数、层数和池化方式都会影响模型性能。(3)可能丢失细节池化和步长卷积会压缩特征尺寸。 如果降采样过快,可能丢失弱故障或瞬态故障信息。(4)需要足够的训练数据CNN虽然可以自动提取特征,但当数据量过少时,仍然可能过拟合。(5)二维时频方法依赖预处理如果使用2D-CNN处理时频图,结果还会受到以下因素影响:时频变换方法;窗口大小;图像分辨率;颜色映射;信号预处理方式。因此,二维图像并不一定天然优于一维原始信号。2.6总结CNN是一种以卷积运算为核心的深度神经网络。其基本流程为:输入数据→ 卷积层提取局部特征→ 激活函数引入非线性→ 池化或步长卷积压缩特征→ 多层卷积提取高级特征→ MLP分类头→ 输出类别 CNN的核心特点包括:局部连接;权重共享;自动特征提取;层次化特征学习;适合处理图像、信号和具有局部结构的数据。在故障诊断中:1D-CNN可以直接处理原始振动信号;2D-CNN可以处理频谱图和时频图;VGG通过堆叠小卷积核加深网络;ResNet通过残差连接解决深层网络训练困难;CNN还可以与LSTM、注意力机制和迁移学习方法结合。可以用一句话概括:CNN通过卷积核在输入数据上滑动,利用局部连接和权重共享自动提取故障特征,是目前故障诊断中最常用的深度学习网络之一。不过,CNN主要擅长提取局部特征,对于时间序列中的长期依赖关系并不具备天然优势。为了进一步建模数据在不同时间步之间的关系,下一节将介绍循环神经网络RNN,以及LSTM和GRU。CNN学习参考链接:https://zhuanlan.zhihu.com/p/561991816https://zhuanlan.zhihu.com/p/27715976701https://blog.csdn.net/ai_aijiang/article/details/149255318https://blog.csdn.net/m0_64799972/article/details/132753608https://blog.csdn.net/m0_54487331/article/details/1127587953.循环神经网络RNN在上一节中,我们介绍了卷积神经网络CNN。CNN通过卷积核提取输入数据中的局部特征,特别适合识别振动信号中的局部冲击、波形变化和频率模式。但是,许多故障信号不仅具有局部特征,还具有明显的时间顺序。例如,当前时刻的振动状态可能与前一时刻有关,设备的退化过程也会随着时间逐渐发展。为了处理这种具有前后顺序的数据,可以使用循环神经网络。循环神经网络的英文名称是Recurrent Neural Network,通常简称为RNN。3.1 RNN是什么?RNN是一种专门用于处理序列数据的神经网络。 它与MLP和CNN最大的不同是:RNN在处理当前时刻的数据时,还会利用前面时刻保留下来的信息。图8 RNN与CNN网络结构对比3.1.1 RNN的核心思想RNN引入了循环结构。每一个时间步,如图10所示,RNN不仅接收当前输入,还会接收上一时刻的隐藏状态:当前时刻输入+上一时刻隐藏状态→ RNN单元→ 当前时刻隐藏状态 图10 RNN网络结构和计算过程假设输入序列为: RNN会按照时间顺序依次处理:x₁ → RNN → h₁ ↓x₂ → RNN → h₂ ↓x₃ → RNN → h₃ ↓ …… ↓xₜ → RNN → hₜ 其中: 表示第 个时间步的输入; 表示第 个时间步的隐藏状态;隐藏状态用于传递前面时间步的信息。因此,可以用一句话概括: RNN通过循环传递隐藏状态,学习序列中不同时间步之间的依赖关系。3.1.2 RNN适合处理什么数据?RNN主要适合具有先后顺序的数据,例如:振动时间序列;电流信号;声学信号;设备运行状态序列;设备退化过程;自然语言;语音信号。在故障诊断中,RNN不仅可以用于故障分类,还可以用于设备状态预测、退化阶段识别和剩余寿命预测。3.2 RNN由哪些部分组成?一个用于故障分类的RNN通常包含输入序列、循环层、隐藏状态、特征汇总模块和分类头。其基本结构为:输入序列→ RNN循环层→ 时序隐藏特征→ 特征汇总→ MLP分类头→ 故障类别 3.2.1 输入序列RNN的输入通常由多个时间步组成。单个样本可以表示为: 其中: 表示序列长度; 表示第 个时间步的输入特征。如果每个时间步只有一个振动采样值,则: 一段长度为2048的单通道振动信号可以表示为: 也可以将2048个采样点划分为64个时间片,每个时间片包含32个采样点: 此时:序列长度为64;每个时间步的输入维度为32。3.2.2 RNN循环层在第 个时间步,RNN同时接收当前输入 和上一时刻隐藏状态 : 其中: 表示输入到隐藏状态的权重; 表示隐藏状态之间的循环权重; 表示偏置; 表示激活函数。该公式说明:当前隐藏状态既包含当前输入的信息,也包含前面时间步传递过来的信息。3.2.3 隐藏状态隐藏状态是RNN最核心的组成部分之一。它可以理解为网络对当前时刻之前信息的压缩表示。h₁:主要包含第1个时间步的信息h₂:包含第1和第2个时间步的信息h₃:包含前3个时间步的综合信息……hₜ:包含当前时刻之前的序列信息 假设隐藏维度为128,则每个时间步的隐藏状态为: 隐藏维度越大,网络能够保存的信息通常越丰富,但模型参数量和计算量也会增加。3.2.4 特征汇总RNN处理完整个序列后,会得到所有时间步的隐藏状态: 为了进行分类,需要将这些时序特征汇总成一个固定长度的向量。(1)使用最后一个时间步 这种方法直接将最后时刻的隐藏状态作为整个序列的特征。(2)平均池化 这种方法对所有时间步的隐藏状态取平均。(3)最大池化 这种方法保留不同特征维度上的最大响应。(4)注意力加权 其中, 表示第 个时间步的注意力权重。3.2.5 分类头汇总后的时序特征通常输入全连接层或MLP分类头:RNN时序特征→ 全连接层→ 输出Logits→ 故障类别 如果需要识别4种设备状态,则输出层包含4个神经元: 训练时,通常使用交叉熵损失计算预测结果与真实标签之间的差异。3.3 数据在RNN中是怎样处理的?假设输入序列为: RNN会按照时间顺序依次处理每一个输入。3.3.1 初始化隐藏状态在处理第一个时间步前,需要初始化隐藏状态。通常将其设置为全零向量: 3.3.2 按照时间步循环计算(1)处理第一个时间步 由于 通常为0,因此 主要包含第一个时间步的信息。(2)处理第二个时间步 此时, 不仅包含 的信息,还间接包含 的信息。(3)继续处理后续时间步 RNN在所有时间步中使用同一组参数,因此它能够处理不同长度的序列。3.3.3 提取序列特征处理完所有时间步后,可以使用最后一个隐藏状态,也可以对所有隐藏状态进行平均池化、最大池化或注意力加权。3.3.4 输出分类结果最终时序特征输入全连接分类器: 如果是四分类任务,则输出: 完整数据处理流程为:输入时间序列→ 按时间步依次读取→ 隐藏状态循环传递→ 得到时序特征→ 汇总序列信息→ MLP分类头→ 输出故障类别 3.4 RNN在故障诊断中怎么使用?RNN适合处理具有明显时间顺序和状态变化的数据。3.4.1 直接处理原始振动信号可以将每个振动采样点作为一个时间步:原始振动信号→ RNN→ 时序特征→ MLP分类头→ 故障类别 例如,一段长度为2048的单通道振动信号可以表示为: 这种方式能够保留完整的时间顺序,但序列较长时,训练速度可能较慢。3.4.2 分段后输入RNN可以将连续信号划分成多个小片段。例如,将2048点信号划分为64段,每段包含32个采样点: 处理流程为:2048点振动信号→ 划分为64个时间片→ 每个时间片包含32个采样点→ RNN提取时间片之间的关系→ 故障分类 3.4.3 输入时序统计特征也可以先对连续信号分窗,再从每个窗口中提取统计特征:连续监测信号→ 滑动窗口→ 提取均方根、峭度等特征→ 构成时间序列→ RNN→ 状态识别或趋势预测 例如,每个时间步包含5个特征: 整个样本可以表示为: 这种方法常用于设备状态监测、退化阶段识别和剩余寿命预测。3.4.4 CNN与RNN组合CNN和RNN经常组合使用:原始振动信号→ CNN提取局部特征→ RNN提取时序关系→ MLP分类头→ 故障类别 其中:CNN负责提取局部冲击和波形特征;RNN负责建模特征随时间的变化;MLP负责完成最终分类。常见组合包括:CNN-RNN;CNN-LSTM;CNN-GRU;CNN-BiLSTM。需要注意的是:如果样本之间相互独立,不存在真实的连续时间关系,那么增加RNN不一定能够提高诊断效果。3.4.5 LSTM和GRU普通RNN、LSTM和GRU之间的关系为:循环神经网络├── 普通RNN├── LSTM└── GRU LSTM和GRU都属于RNN的改进结构,主要用于缓解普通RNN难以学习长期依赖的问题。(1)LSTMLSTM的英文名称是Long Short-Term Memory,中文名称是长短期记忆网络。 图11 RNN和LSTM网络结构对比它在普通RNN基础上增加了记忆单元和门控结构,主要包括:遗忘门:遗忘门决定以前的信息哪些不再重要;输入门:输入门决定当前的新信息哪些值得记住;输出门:输出门决定当前要从记忆中拿出哪些信息用于判断;细胞状态:细胞状态相当于长期记忆本。其基本过程为:当前输入+上一时刻隐藏状态+上一时刻细胞状态→ 遗忘旧信息→ 写入新信息→ 更新细胞状态→ 输出当前隐藏状态 LSTM通过门控结构控制信息的保留、遗忘和输出,因此比普通RNN更适合处理较长序列。(2)GRUGRU的英文名称是Gated Recurrent Unit,中文名称是门控循环单元。GRU主要包含:更新门:决定最终状态中,旧信息和新信息各占多少;重置门:决定计算当前新状态时,要参考过去多少信息。图13 GRU结构与LSTM相比,GRU没有单独的细胞状态,结构更加简单,参数通常更少,训练速度也可能更快。3.4.6 LSTM和GRU的区别对比项 LSTM GRU 门控结构 遗忘门、输入门、输出门 更新门、重置门 状态数量 隐藏状态和细胞状态 主要使用隐藏状态 参数量 通常较多 通常较少 结构复杂度 较高 较低 训练速度 通常较慢 通常较快 长期依赖能力 较强 较强 不能简单认为LSTM一定优于GRU,实际效果需要结合数据规模、序列长度和任务类型进行实验比较。3.4.7 双向RNN与BiLSTM普通RNN只按照一个方向处理序列:x₁ → x₂ → x₃ → …… → xₜ 双向RNN会同时从两个方向处理序列:正向:x₁ → x₂ → x₃ → …… → xₜ反向:xₜ → …… → x₃ → x₂ → x₁ 两个方向的特征通常进行拼接: 如果双向结构使用LSTM单元,就称为BiLSTM;如果使用GRU单元,就称为BiGRU。双向结构适合完整序列分类,但在实时在线诊断中,由于未来数据尚未产生,通常不能直接使用反向信息。3.4.8 RNN和残差连接有什么相似与不同?RNN和残差连接在“将前面的信息继续向后传递”这一点上有些相似,但二者并不是同一种结构。RNN主要沿时间方向传递隐藏状态: 残差连接主要沿网络深度方向传递输入特征: 二者的核心区别是:RNN用于建模不同时间步之间的依赖关系;残差连接用于改善深层网络中的信息与梯度传播;RNN不同时间步通常共享参数;不同残差块通常具有各自的网络参数;普通RNN会对上一隐藏状态进行变换,而残差连接通常将输入直接与变换结果相加。可以简单理解为:RNN是在时间维度上传递记忆,残差连接是在网络深度维度上传递特征。LSTM的细胞状态更新在形式上与残差连接更相似: 它同样包含“保留旧信息并加入新信息”的过程,但LSTM通过门控机制控制信息保留比例,而普通残差连接通常直接保留原输入。3.5 RNN有什么优点和局限?3.5.1 RNN的优点(1)能够处理序列数据RNN可以按照时间顺序读取输入,适合分析信号随时间的变化。(2)能够建模时间依赖隐藏状态能够传递历史信息,因此RNN可以学习前后时刻的联系、周期性变化和状态演化过程。(3)可以处理不同长度的序列由于不同时间步共享同一组参数,RNN能够在一定程度上处理长度不同的输入序列。(4)适合动态故障诊断RNN可以用于:故障分类;状态预测;退化阶段识别;故障趋势分析;剩余寿命预测。(5)容易与其他网络结合例如:CNN→ LSTM→ Attention→ MLP分类器 3.5.2 RNN的局限(1)容易出现梯度消失当序列较长时,梯度需要沿多个时间步传播,可能逐渐变小,导致网络难以学习早期时间步的信息。LSTM和GRU通过门控结构缓解了这一问题。(2)可能出现梯度爆炸梯度在时间方向传播时也可能变得非常大,导致训练不稳定。常见解决方法包括:梯度裁剪;调整学习率;合理初始化参数;使用LSTM或GRU。(3)难以完全并行计算RNN必须按照时间顺序计算: 只有得到 后,才能计算 ,因此长序列训练速度通常较慢。(4)长序列计算成本较高如果将每一个振动采样点作为一个时间步,一段长度为4096的信号就需要循环计算4096次。(5)并不适合所有故障分类任务如果故障特征主要表现为局部冲击或频率模式,而且样本之间没有真实的连续时间关系,那么CNN可能更加直接有效。3.6 总结RNN是一种专门处理序列数据的循环神经网络。其基本流程为:输入时间序列→ 按时间步依次处理→ 隐藏状态循环传递→ 提取时序特征→ MLP分类头→ 输出故障类别 RNN的核心特点包括:按照时间顺序处理数据;使用隐藏状态传递历史信息;能够建模不同时间步之间的依赖关系;适合时间序列分类、预测和设备状态监测;LSTM和GRU是普通RNN的改进结构;BiLSTM和BiGRU可以同时利用前后方向的信息。RNN通过循环传递隐藏状态,使网络在处理当前数据时能够参考之前的信息,从而学习时间序列中的动态变化和前后依赖关系。不过,RNN主要关注数据在时间维度上的顺序关系。当故障诊断对象由多个设备、机械部件或传感器组成时,除了时间变化之外,不同对象之间往往还存在物理连接、空间邻接、功能依赖或信号关联。统的MLP、CNN和RNN通常难以直接表示这种不规则的连接关系。为了同时描述对象本身的特征及其相互关系,下一节将介绍专门处理图结构数据的图神经网络GNN。 RNN学习参考链接: https://zhuanlan.zhihu.com/p/652712909https://blog.csdn.net/2401_85327249/article/details/142249393https://blog.csdn.net/bestrivern/article/details/90723524https://blog.csdn.net/mary19831/article/details/129570030https://blog.csdn.net/Michale_L/article/details/122778270https://blog.csdn.net/weixin_42111770/article/details/809005754.图神经网络GNN前面介绍的MLP、CNN和RNN,通常将输入数据表示为向量、规则网格或时间序列。例如:MLP处理固定长度的特征向量;CNN处理一维信号或二维图像;RNN处理具有前后顺序的时间序列。但是,现实中的很多工业系统并不是简单的向量、图像或序列,而是由多个相互连接的设备、部件或传感器组成。为了处理这种具有连接关系的数据,可以使用图神经网络。 图神经网络的英文名称是Graph Neural Network,通常简称为GNN。4.1 GNN是什么?GNN是一类专门处理图结构数据的神经网络。图结构数据不仅包含每个对象自身的信息,还包含对象之间的连接关系。一个图通常表示为: 其中: 表示节点集 合(下图A到E); 表示边集 合。s 图14 图结构示意图 例如,在设备系统中:节点可以表示传感器、零部件或设备;边可以表示物理连接、空间邻近、能量传递或功能关系。4.1.1 什么是图结构数据?传统数据通常具有规则结构。例如,一维振动信号可以表示为: 二维图像可以表示为规则像素矩阵: 但是,图结构数据中的每个节点连接数量可能不同,节点之间也不一定按照规则顺序排列。例如:传感器1 ─── 传感器2 │ │ │ ├── 传感器4 │ │传感器3 ─── 传感器5 这里的每个传感器可以作为一个节点,传感器之间的连接可以作为边。因此,图结构数据主要包含三类信息:节点;边;节点和边的特征。4.1.2 GNN的核心思想GNN的核心思想是: 每个节点通过聚合邻居节点的信息,更新自己的特征表示。例如,节点 不仅使用自身特征,还会接收邻居节点的信息:节点自身特征+邻居节点特征→ 信息聚合→ 节点新特征 可以写成: 其中: 表示第 层中节点 的特征; 表示节点 的邻居集 合; 表示邻居信息聚合; 表示节点特征更新。GNN通过在图中传播和聚合信息,学习节点及其连接关系所包含的特征。4.2 GNN由哪些部分组成?一个典型的图神经网络通常包含:图结构;节点特征;边或邻接关系;图消息传递层;特征汇总模块;分类器。 图15 图级分类任务GNN网络结构 其基本结构可以表示为:图结构与节点特征→ 图神经网络层→ 节点信息传播与聚合→ 节点或全图特征→ MLP分类头→ 预测结果 4.2.1 节点节点用于表示图中的基本对象。在故障诊断中,节点可以表示:不同传感器;不同机械部件;不同电气设备;不同测点;不同时间片;不同频率成分。每个节点可以包含一个特征向量: 其中, 表示节点特征维度。例如,一个传感器节点的特征可以包括: 如果一共有 个节点,则节点特征矩阵可以表示为: 其中: 表示节点数量; 表示每个节点的特征维度。4.2.2 边边用于描述节点之间的关系。在工业系统中,边可以根据以下关系构建:物理连接关系;空间距离;机械传动关系;电气拓扑关系;信号相关性;功能耦合关系;因果或知识关系。例如:电动机→ 联轴器→ 齿轮箱→ 轴承 可以将相邻部件之间建立边。边也可以带有特征,例如:节点之间的距离;信号相关系数;连接阻抗;能量传递强度;相似度。4.2.3 邻接矩阵图的连接关系通常可以使用邻接矩阵表示。假设图中有 个节点,则邻接矩阵为: 如果节点 和节点 之间存在连接,则: 如果不存在连接,则: 对于加权图, 也可以是连续数值,例如两个传感器信号之间的相关系数。4.2.4 图消息传递层图消息传递层是GNN的核心部分。每个节点会接收邻居发送的信息: 然后结合自身特征更新节点状态: 经过一层GNN后,每个节点可以获得一阶邻居的信息。经过两层GNN后,每个节点可以间接获得二阶邻居的信息。例如:第1层GNN:聚合直接相邻节点的信息第2层GNN:聚合邻居及邻居的邻居信息第3层GNN:获得更大范围的图结构信息 因此,增加GNN层数可以扩大节点在图中的感受范围。4.2.5 特征汇总模块GNN经过多层消息传递后,会得到每个节点的新特征: 如果任务是节点分类,可以直接使用每个节点的特征进行预测。如果任务是整个图的分类,则需要将所有节点特征汇总为一个图级特征。常见方法包括:(1)平均池化 (2)求和池化 (3)最大池化 (4)注意力池化 其中, 表示不同节点的重要程度。4.2.6 分类头汇总后的节点或图特征通常输入MLP分类头:图特征→ 全连接层→ 激活函数→ 输出层→ 故障类别 如果需要识别4种故障状态,则输出为: 训练时,可以使用交叉熵损失完成分类。4.3 数据在GNN中是怎样处理的?GNN的数据处理过程通常包括图构建、节点特征初始化、邻居信息聚合、节点特征更新和分类输出。4.3.1 构建图结构使用GNN之前,首先需要确定:什么对象作为节点;节点之间如何建立边;节点包含哪些特征;边是否需要权重。例如,一个多传感器故障诊断系统可以构建为:每个传感器→ 一个节点传感器之间的物理距离或相关性→ 节点之间的边传感器采集的时域和频域特征→ 节点特征 图的构建方式会直接影响GNN学习到的信息。因此:GNN的关键不仅是选择网络,还包括如何合理地构建图。4.3.2 初始化节点特征假设图中有 个传感器,每个传感器提取 个特征,则输入节点特征矩阵为: 例如,图中有8个传感器,每个传感器提取16个特征: 节点特征既可以是人工特征,也可以由CNN、RNN等网络提取。例如:各传感器原始振动信号→ 1D-CNN提取局部特征→ 得到节点特征→ GNN进行多传感器信息融合 4.3.3 聚合邻居信息对于节点 ,GNN首先收集邻居节点的信息: 也可以使用平均聚合: 然后将邻居信息与节点自身信息结合: 其中: 表示节点自身特征; 表示邻居聚合特征; 和 表示可学习参数; 表示激活函数。4.3.4 更新节点特征经过一层GNN后,每个节点的新特征不仅包含自身信息,还包含周围节点的信息。例如:轴承节点原始特征+相邻齿轮箱节点特征+相邻电动机节点特征→ 更新后的轴承节点特征 经过多层传播后,可以进一步获得整个设备系统中的关联信息。4.3.5 输出预测结果根据任务不同,GNN可以输出不同结果。(1)节点分类判断每个节点的状态,例如:传感器节点→ 正常或异常设备节点→ 故障类型 (2)图分类判断整个系统或整个样本的状态,例如:整个设备图→ 正常→ 内圈故障→ 外圈故障→ 滚动体故障 (3)边预测预测两个节点之间是否存在关系,或者关系是否发生异常。(4)图级回归预测整个设备系统的健康指数、退化程度或剩余寿命。完整流程可以表示为:原始多源数据→ 构建节点和边→ 提取节点特征→ GNN消息传递→ 获得节点或图特征→ MLP分类器→ 输出故障结果 4.4 常见GNN网络及其在故障诊断中的应用GNN不是某一个固定网络,而是一类图神经网络的统称。常见模型包括:GCN;GAT;GraphSAGE;图池化网络;时空图神经网络。4.4.1 GCNGCN的英文名称是Graph Convolutional Network,中文名称是图卷积网络。如图16所示,GCN可以理解为将卷积思想扩展到图结构数据中。 图16 GCN结构经典GCN的一层传播可以写成: 其中: 表示加入自连接后的邻接矩阵; 表示单位矩阵; 表示节点度矩阵; 表示第 层节点特征; 表示可学习参数; 表示激活函数。加入自连接是为了让节点在聚合邻居信息的同时,也保留自身信息。GCN的基本过程为:节点自身特征+相邻节点特征→ 归一化聚合→ 线性变换→ 激活函数→ 新节点特征 GCN通常默认相邻节点的信息都参与聚合,但不同邻居的重要程度主要由图结构和归一化系数决定。4.4.2 GATGAT的英文名称是Graph Attention Network,中文名称是图注意力网络。GAT在GNN中引入注意力机制,让网络自动学习不同邻居节点的重要程度。 图17 GAT原理示意图 节点 和节点 之间的注意力分数可以表示为: 经过Softmax归一化后: 然后对邻居特征进行加权聚合: 其中: 表示邻居节点 对节点 的重要程度; 表示特征拼接; 和 表示可学习参数。例如,在多传感器故障诊断中:传感器1对当前故障最敏感→ 较高注意力权重传感器2受到噪声干扰→ 较低注意力权重 因此,GAT可以自适应地选择重要邻居。需要注意的是:图注意力是一种注意力机制,而GAT是使用图注意力机制构建的图神经网络。。4.4.3 GraphSAGEGraphSAGE是一种基于邻居采样和信息聚合的图神经网络。它不会在每次训练时使用节点的全部邻居,而是从邻居中进行采样。 图18 GraphSAGE样本和增强方法示意图基本过程为:采样部分邻居节点→ 聚合邻居特征→ 与节点自身特征拼接→ 得到新节点表示 常见聚合方式包括:平均聚合;最大池化聚合;LSTM聚合。GraphSAGE适合处理节点数量较多的大规模图。4.4.4 时空图神经网络时空图神经网络同时建模:节点之间的空间关系;数据随时间变化的动态关系。其基本结构可以表示为:多传感器时间序列→ 时间特征提取→ 图结构空间聚合→ 时空特征融合→ 故障分类或预测 常见组合包括:GCN-RNN;GCN-LSTM;GCN-GRU;GAT-LSTM;时空图卷积网络。例如,在多传感器设备中:GNN负责建模不同传感器之间的关系;LSTM负责建模各传感器特征随时间的变化。4.4.5 GNN在故障诊断中的常见使用方式(1)多传感器融合多个传感器信号→ 每个传感器作为节点→ 传感器关系作为边→ GNN融合多节点信息→ 故障类别 (2)设备拓扑故障诊断发电机、母线、变压器、负载→ 构建设备拓扑图→ GNN传播设备状态→ 定位故障设备 (3)机械部件关系建模电机→ 轴→ 齿轮箱→ 轴承各部件作为节点→ 机械连接作为边→ GNN分析故障传播关系 (4)时频图转图结构可以将不同频带、时频区域或特征分量作为节点,再根据相似性建立边。(5)知识图谱故障诊断将设备、故障、现象、原因和维修措施表示为不同节点,构建设备故障知识图谱。然后使用GNN进行:故障原因推理;故障定位;维修决策;知识补全。4.5 GNN有什么优点和局限?4.5.1 GNN的优点(1)能够利用节点之间的关系传统神经网络通常只关注样本自身特征,而GNN可以同时使用节点特征和连接关系。(2)适合处理不规则数据图中的节点数量和连接方式不需要像图像像素一样规则排列。(3)能够融合多传感器信息GNN可以通过图消息传递,将多个传感器的信息进行关联和融合。(4)可以建模故障传播关系在复杂工业系统中,某个设备故障可能沿着机械连接、电气连接或功能关系传播。GNN可以通过图结构描述这种传播过程。(5)适用于多种任务GNN可以用于:节点故障分类;故障设备定位;整体系统状态识别;故障关系预测;剩余寿命预测;知识图谱推理。(6)容易与其他网络结合例如:CNN→ 提取每个传感器的局部特征→ GNN融合传感器关系→ MLP分类器 也可以是:GNN→ 建模空间关系→ LSTM建模时间变化→ 故障预测 4.5.2 GNN的局限(1)图构建比较困难GNN通常需要提前确定节点和边。如果图结构不合理,模型可能学习到错误或无意义的关系。例如,需要考虑:节点应该表示传感器还是部件;边应该根据物理连接还是信号相关性建立;是否保留弱连接;是否设置边权重。因此,图构建是GNN应用中的关键问题。(2)并不是所有数据都适合使用GNN如果输入只是单个传感器的一维振动信号,而且不存在明确的节点关系,那么直接使用CNN或RNN可能更加自然。不能仅仅为了使用GNN,就人为构造缺乏物理意义的图。(3)可能出现过平滑问题随着GNN层数增加,节点不断聚合邻居信息,不同节点的特征可能变得越来越相似。这种现象称为过平滑。最终可能导致不同节点难以区分。(4)深层GNN训练困难GNN层数过多时,可能出现:节点特征过平滑;信息过度压缩;梯度传播困难;计算量增加。因此,很多GNN并不会堆叠得特别深。(5)计算成本可能较高对于节点和边数量较多的大规模图,消息传递需要较大的存储和计算开销。(6)图结构可能随工况变化工业系统中的传感器相关性和设备状态可能随运行工况改变。如果使用固定图结构,可能无法准确描述动态关系。这时可以考虑:动态图神经网络;自适应邻接矩阵;图注意力网络;时空图神经网络。4.5.3 GCN和GAT如何选择?对比项 GCN GAT 邻居聚合 基于邻接关系和归一化 基于可学习注意力权重 邻居重要性 主要由图结构决定 网络自动学习 结构复杂度 相对简单 相对复杂 参数和计算量 通常较少 通常较多 可解释性 一般 可分析注意力权重 适用场景 图结构较可靠 不同邻居重要性差异明显 如果节点关系比较明确,并且邻居作用较为接近,可以优先考虑GCN。如果不同传感器或不同部件对故障诊断的贡献差异较大,可以考虑GAT。但最终仍需要通过实验比较。4.6 总结GNN是一类专门用于处理图结构数据的神经网络。其基本流程为:构建图结构→ 设置节点和边→ 初始化节点特征→ 聚合邻居信息→ 更新节点特征→ 获得节点或图级表示→ MLP分类头→ 输出故障结果 GNN的核心特点包括:同时利用节点特征和连接关系;通过消息传递聚合邻居信息;适合处理多传感器、设备拓扑和部件关联数据;GCN通过图卷积聚合邻居信息;GAT通过注意力机制学习不同邻居的重要程度;时空图神经网络可以同时建模空间关系和时间变化。在故障诊断中,GNN特别适合以下场景:多传感器信息融合;复杂设备系统故障定位;机械部件关系建模;电力系统拓扑诊断;故障传播分析;设备知识图谱推理。GNN通过在节点之间传递和聚合信息,使模型不仅能够分析单个设备或传感器的特征,还能够学习整个系统中的连接关系和故障传播规律。需要注意的是,GNN并不是CNN和RNN的简单替代。CNN擅长提取局部信号特征,RNN擅长学习时间依赖,而GNN擅长建模多个对象之间的连接关系。在实际故障诊断中,它们经常组合使用:CNN提取局部特征+RNN提取时间特征+GNN建模节点关系→ 完成复杂系统故障诊断 GNN主要负责学习数据之间的关联关系,而另一类网络则主要通过压缩和重构输入数据学习特征。为了让网络更加灵活地选择重要信息,并直接建立不同位置之间的联系,下一节将介绍注意力机制与Transformer网络。GNN学习参考链接:https://blog.csdn.net/qq_43787862/article/details/113830925https://zhuanlan.zhihu.com/p/660987867https://zhuanlan.zhihu.com/p/75307407https://blog.csdn.net/weixin_47332746/article/details/144554395https://cloud.tencent.com/developer/article/2284994注:本期下篇将介绍注意力网络、编码与重构网络以及生成模型的在故障诊断中的相关概念和知识点。编辑:Leo校核:李正平、陈凯歌、曹希铭、赵学功、白亮、王金、陈莹洁、陈宇航、任超、海洋、Tina、赵诚该文资料搜集自网络,仅用作学术分享,不做商业用途,若侵权,后台联系小编进行删除来源:故障诊断与python学习

    未登录
    还没有评论
    课程
    培训
    服务
    行家
    VIP会员 学习计划 福利任务
    下载APP
    联系我们
    帮助与反馈