论文学习||AgentOps：面向LLM智能体系统的运维框架综述（下）

本期给大家推荐传感器感知胶囊网络：面向可信的多传感器融合剩余使用寿命预测。在工业预测与健康管理领域，基于深度学习与多传感器数据融合的剩余使用寿命预测技术，因能更全面捕捉机械设备的退化过程而备受关注。然而，现有研究多聚焦于预测精度的提升，对模型可信性，尤其是含不确定性感知的预测合理性及可解释性的重视仍显不足。为解决这一问题，最新研究提出了一种名为传感器感知胶囊神经网络（Sensor-aware Capsule Neural Network, SACN）的新型框架，专门面向多传感器融合场景下的RUL预测任务。该框架不仅通过胶囊网络的动态路由机制增强特征表达能力，还研发了一种基于胶囊激活水平的蒙特卡洛丢弃法，用于实现预测结果的不确定性量化。此外，该方法具备多传感器融合解释能力，可将预测结果及其不确定性归因至各传感器的原始特征，揭示输入与输出之间的关联机制。论文基本信息论文题目：Sensor-aware CapsNet: Towards trustworthy multisensory fusion for remaining useful life prediction 论文期刊：Journal of Manufacturing SystemsDoi：https://doi.org/10.1016/j.jmsy.2023.11.009作者：Dongpeng Li (a,b), Jiaxian Chen (a,b), Ruyi Huang *(a,b), Zhuyun Chen (b,c), Weihua Li (b,c) 论文时间: 2024年 机构: a: Shien-Ming Wu School of Intelligent Engineering, South China University of Technology, Guangzhou 511442, China b: Pazhou Lab, Guangdong Artificial Intelligent and Digital Economy Laboratory, Guangzhou 510335, China c: School of Mechanical and Automotive Engineering, South China University of Technology, Guangzhou 510641, China作者简介：黄如意，香港城市大学博士后研究员，他的研究主要聚焦于人工智能方法在工业设备智能故障诊断与预测中的应用，尤其擅长利用深度学习和迁移学习技术处理复合故障诊断问题。（摘自Researchgate） 通讯作者邮箱：huangruyi@scut.edu.cn 摘要基于深度学习技术的多传感器数据驱动型剩余使用寿命（Remaining Useful Life, RUL）预测因能更全面捕捉机械设备的退化过程而愈发受到关注，其预测性能通常也更优。然而，现有研究对提升模型的可信性重视不足，尤其是在含不确定性感知的预测中，模型的合理性与可解释性方面的研究较为欠缺。为解决这一问题，本文提出一种名为传感器感知胶囊神经网络（Sensor-aware Capsule Neural Network, SACN）的新型框架，用于RUL预测中的多传感器融合任务。同时，研发了一种基于胶囊激活水平、结合蒙特卡洛方法的新型丢弃法，实现不确定性量化。此外，该方法还支持多传感器融合解释，能将预测结果和不确定性归因于各传感器的相关特征。在C-MAPSS数据集上的案例研究表明，所提方法的性能优于主流的深度学习方法。具体而言，通过传统精度指标和本文提出的不确定性覆盖分数评估发现，基于胶囊丢弃法的SACN在预测精度和合理性上均优于高斯丢弃法；同时，可通过多传感器融合解释揭示输入特征与最终预测结果之间的关联，量化每个传感器对给定输入的贡献度。关键词：剩余使用寿命预测；可信人工智能；多传感器融合；不确定性量化；胶囊神经网络 目录1 引言2 基础理论2.1 结合期望最大化路由的胶囊网络2.2 多头注意力机制3 方法3.1 问题定义3.2 传感器级注意力封装3.3 基于胶囊的预测3.4 基于胶囊丢弃法的不确定性估计3.5 多传感器融合解释4 实验研究4.1 数据集4.2 数据预处理与实验设置4.3 实验结果4.4 不确定性与解释性分析5 结论与未来展望1 引言故障预测与健康管理（Prognostics and Health Management, PHM）是一种预测性维护技术[1, 2]，旨在革新设备维护保障模式，提升机械运行的安全性。其中，剩余使用寿命预测（Remaining Useful Life, RUL）是预测技术中最具挑战性的核心环节[3]。该技术基于传感器监测数据、设备运行环境，亦可结合物理模型或其他信息，预测设备未来的故障发生时间。借助涡轮风扇发动机、齿轮箱等关键工业设备的RUL预测结果，可及时制定设备运行计划和维护方案，从而避免突发事故的发生。RUL预测的研究方法主要分为三类：基于物理模型的方法、数据驱动的方法以及二者的融合方法[4]。基于物理模型的方法需要大量先验知识，对于涡轮风扇发动机这类复杂结构，其模型构建难度大，实际应用可行性较低[5, 6]。而数据驱动的方法则利用监测数据，通过线性或非线性方式捕捉设备固有的退化规律并拟合模型，这类方法对先验知识的需求较少，还可进一步细分为基于随机过程的方法、基于传统机器学习的方法和基于深度学习的方法。基于随机过程的方法将传感器数据拟合成维纳过程、伽马过程、逆高斯过程等随机过程模型，以此估算机械设备的RUL；基于机器学习的方法无需将数据拟合至随机过程模型即可实现RUL估算，但需要进行特征提取与选择，以保证预测性能。过去数十年间，深度学习技术的出现为PHM领域中直接将监测数据映射至最终预测结果提供了可行方案[7, 8]，越来越多的研究开始融合压力、温度、振动等多传感器数据来评估设备健康状态。多传感器数据能从多个维度反映设备的退化特征，进而提升预测的准确性[9, 10]。Zhang等[11]通过感知从传感器数据中提取健康指标，并利用长短期记忆网络（Long Short Term Memory, LSTM）追踪设备历史退化规律，实现对未来健康状态的预测；Aydemir等[12]提出了一种异常触发的RUL预测方案，采用软多数投票法实现传感器融合。近年来，部分学者将胶囊网络应用于PHM领域[13, 14]。Andreas等[15]首次将胶囊网络用于RUL预测，取得了当前最优的性能；Li等[16]提出了一种基于胶囊网络的多模态数据融合框架，用于涡轮风扇发动机的RUL估算，该框架按模态提取监测数据特征，并在胶囊层直接实现特征融合，最终依据最后一层胶囊姿态矩阵的欧几里得范数得到模型预测结果。尽管基于深度学习的方法在RUL推断中被证实能实现较高的预测精度，但其 “黑箱” 特性导致的不可解释性，阻碍了该类方法在实际工业场景中的进一步应用。为此，众多学者开展了提升模型可信性的相关研究[17]。提升模型可信性的一种实用方法是实现含不确定性感知的预测，即量化模型对给定输入的不确定性程度[18]。目前已有多种方法可实现特定输入下的不确定性量化，包括蒙特卡洛丢弃法[19]、局部不确定性估计模型[20]、自助法[21]以及上下界估计法[22]等。She等[23]基于自助法提出了双向门控循环单元（Bidirectional Gated Recurrent Unit, BiGRU）方法，获取RUL的置信区间，该方法能有效利用机械设备的历史和未来退化状态。此外，也有研究聚焦于RUL预测的不确定性从部件级向系统级的传播，以及基于不同系统架构的系统可靠性评估[24]。同时，学者们还尝试将领域知识嵌入模型框架，或挖掘与最终预测结果相关的关键特征[25]。例如，Li等[26]将传感器间的关联关系表示为流程图，并转化为嵌入向量进行聚类，利用聚类结果指导传感器数据的排列，提升模型的透明性；Xiong等[27]提出了一种集成物理信息故障模式识别器的RUL预测框架，该框架便于融合与故障相关的特征，实验结果表明，该模型不仅能实现准确的故障模式识别，还具备一定的层级可解释性；Wang等[28]通过事后解释技术解析设备健康状态模型，并将得到的洞察用于指导模型训练。现有文献主要从不确定性量化、嵌入领域知识或挖掘推理依据以提升可解释性这两个独立方面开展研究，构建可信的RUL预测模型，但仍存在一些研究空白亟待填补：（1）现有方法仅能对输出结果进行不确定性量化，无法揭示输入数据中不确定性的来源，在多传感器融合场景中尤为明显，因此无法明确输入的具体部分对预测不确定性的贡献；（2）现有研究极少探讨估算置信区间的合理性，这可能导致得到不合理的含不确定性感知的预测结果。如图1所示，合理性指模型能感知自身对预测值的不确定程度。例如，图1中案例3和案例4的模型均对预测值表现出高置信度，但案例4的预测值与真实值存在显著偏差，该结果缺乏合理性，可能误导决策者制定不当的维护计划。 图1 RUL不确定性量化中的合理性为解决上述问题，本文研发了一种新型的统一框架——传感器感知胶囊网络（Sensor-aware Capsule Neural Network, SACN），用于实现可信的RUL估算，该框架可完成多传感器融合解释，并对预测结果的不确定性进行合理量化。具体而言，本文设计了传感器级注意力封装模块和基于胶囊的预测模块，融合多传感器监测数据以推断RUL值；在模型的训练和测试阶段，执行基于激活水平的胶囊丢弃法，结合先验知识得到更合理的置信区间，并通过提出的不确定性覆盖分数（Uncertainty Coverage Score, UCS）对置信区间的合理性进行对比评估；最后，基于胶囊网络[29]固有的可解释性，并受贝叶斯神经网络[30]解释思路的启发，提出多传感器融合解释方法，将含不确定性感知的预测结果转化为多传感器特征的贡献度和不确定性。本文的主要贡献总结如下： （1）提出SACN，以统一的方式实现可信的RUL推断，将多传感器融合解释与合理的不确定性估计有机结合，输出兼具可解释性和不确定性感知的预测结果。 （2）基于SACN的层级结构，设计了一种结合反向追溯的多传感器融合解释分析方法，揭示各传感器特征的贡献度和不确定性。 （3）考虑预测偏差和评估得到的不确定性，提出UCS这一指标，用于评估RUL值置信区间的合理性。 （4）提出基于胶囊激活值的胶囊丢弃法，实现不确定性估计，该方法在含不确定性感知的RUL预测中，在精度和合理性上均表现出优势。 本文的后续结构安排如下：第2节介绍本文所用的胶囊网络基础理论以及不确定性估计的合理性相关概念；第3节详细阐述所提方法；第4节以涡轮风扇发动机数据集为研究对象开展案例研究；最后，第5节给出研究结论与未来展望。2 基础理论2.1 结合期望最大化路由的胶囊网络胶囊网络最初被提出用于捕捉图像中的空间关联关系，在处理视角变化识别和目标解耦任务时表现出良好的鲁棒性[31]。胶囊网络的建模灵感源于人类的视觉认知机制：人类仅通过一次观察，就能不受视角变化影响识别目标的外观，这是因为人类能为观察到的目标建立坐标系，并将目标的高层特征解耦为底层组成部分。在胶囊网络中，这种部分-整体的关联关系通过多层胶囊进行建模，上层胶囊由下层胶囊通过所谓的“协议路由”过程生成，最后一层胶囊则用于编码观测数据的高级特征，即神经网络通过该层胶囊实现预测。 胶囊网络模型的实现主要分为两个基本步骤：封装和路由。在封装步骤中，先对输入数据进行预处理，生成初级胶囊层；随后，在每一层胶囊中执行路由过程，通过寻找下层胶囊投票结果之间的一致性，生成更高级的胶囊。在介绍具体的过程和算法前，先对胶囊网络的相关符号总结如下： 本文采用期望最大化（ExpectationMaximization, EM）路由作为高层胶囊的推理算法[32]。与上述基本步骤类似，在封装步骤中，分别通过传统卷积操作从先前的特征图中生成姿态矩阵和激活值。在期望最大化路由过程中，通过迭代执行期望最大化算法，将下层胶囊的投票值V聚类为高斯混合分布，以此构建部分-整体的关联关系，每个高斯分布对应一个特定的高层胶囊，下层胶囊的激活值则代表其特征强度。关于期望最大化路由的详细过程，可参考下文总结的算法1[32]。 2.2 多头注意力机制 多头注意力机制最早由文献[33]提出，该机制通过查询向量和一系列键-值向量对生成注意力向量，输出向量则由值向量的加权和得到。加权系数通过查询向量与键向量的缩放点积计算得到；当查询、键、值向量属于同一序列时，该机制被称为自注意力机制。 多头自注意力层首先通过不同的线性投影矩阵，将维度为 的输入矩阵映射为h组矩阵，每组矩阵包含查询矩阵Q、键矩阵K和值矩阵V三个不同矩阵，其中查询矩阵Q和键矩阵K的维度为 ，值矩阵V的维度为 。随后，对h组矩阵分别执行如公式（1）所示的自注意力操作。最后，将自注意力操作得到的h个输出矩阵拼接为维度为 的输出矩阵R，如公式（2）所示。 其中，线性映射矩阵 的维度为 。需要说明的是，注意力分数通过 函数计算得到，这意味着输入元素之间存在竞争关系，只有对模型性能贡献更大的元素会获得更高的注意力分数。3 方法本节首先明确研究问题的数学定义，随后详细阐述所提的SACN，该网络由传感器级注意力封装模块和基于胶囊的预测模块组成，最后进一步说明基于胶囊丢弃法的不确定性量化方法和多传感器融合解释方法。3.1 问题定义本文的研究核心为基于多传感器监测数据的RUL预测问题。具体而言，将数据集表示为D={x(t),y(t)∣t=w,(w+1),...,L}，其中x(t)为t时刻处的滑动窗口输入特征（窗口长度设为w），y(t)为t时刻的RUL值，L为设备全生命周期的长度。输入特征可进一步表示为s个传感器监测数据的拼接，即每个滑动窗口输入为一个二维矩阵，形式如下： 神经网络的训练目标为学习非线性映射关系 ，使得预测值 ，从而基于实时监测数据实现RUL的预测。3.2 传感器级注意力封装设计传感器级注意力封装模块，对多传感器输入进行按传感器的独立处理，增强提取到的特征，以实现多传感器监测数据的差异化区分。该封装模块的处理流程如图2底部所示。 图2 所提SACN概览 如图2所示，输入数据的维度为 ，分别代表输入通道数、窗口长度和传感器数量。首先，通过残差卷积块提取每个传感器的高维特征，本文中所有残差卷积核均设计为一维，并沿时间维度滑动。此外，为便于后续分组生成姿态矩阵和激活值，将卷积后特征的时间维度尺寸调整为 ，通道数扩展至 。随后，将传感器数量作为序列长度，将特征输入至多个多头注意力层，同时加入残差连接和层归一化操作，避免梯度消失问题[33]。 为生成初级胶囊，将得到的多源传感器特征分为两个输出分支：一个分支直接将特征分组，生成姿态矩阵；另一个分支通过核大小为 （与姿态矩阵维度一致）的卷积操作，将最后一个维度的尺寸缩小 倍，再分组生成激活值。最后，将生成的姿态矩阵和激活值拼接，得到初级胶囊层。 3.3 基于胶囊的预测本文采用胶囊网络捕捉多传感器间的关联关系，同时实现模型的可解释性分析[14]。在封装阶段得到多传感器初级胶囊后，通过期望最大化路由过程融合各传感器的独立特征，该过程如图2右上部分所示。 在胶囊层之间，下层胶囊通过多次路由迭代生成上层胶囊。首先，将通道数为 的下层胶囊转换为 组，作为生成不同通道上层胶囊的投票值；随后执行期望最大化路由过程，在M步计算分配责任系数，在E步计算姿态矩阵、方差和激活值。 将最后一层胶囊的数量设为1，即特征图的尺寸和通道数均为1。结合期望最大化路由的基本思想，每个上层胶囊可视为其下层胶囊的均值，其激活值反映了下层胶囊的聚类程度。将最后一层胶囊姿态矩阵的欧几里得范数作为模型输出，该范数代表聚类中心到原点的距离，其物理意义为设备的退化程度。3.4 基于胶囊丢弃法的不确定性估计蒙特卡洛丢弃法是一种简便且应用广泛的方法，用于量化大型或复杂神经网络模型预测结果的不确定性，其优化目标本质是最小化近似变分分布与深度高斯过程之间的KL散度[34]。换言之，在模型训练和测试阶段加入丢弃层，从数学角度等价于对网络参数进行变分推理[19]。 为便于阐释胶囊丢弃法，首先介绍如公式（4）所示的高斯丢弃法。高斯丢弃法并非以伯努利分布的方式丢弃神经元，而是从以变分参数 为均值的高斯分布中采样网络权重 ，具体可通过从均值为1、标准差为的高斯分布中采样乘法掩码 实现。其中， 、 、 和 分别代表第 行、第 列、第 行的所有元素和按元素相乘， 为神经元的丢弃概率。 本文中，每一层的胶囊均通过高斯混合建模生成，每个胶囊都带有由输入数据推导得到的固有不确定性，可为蒙特卡洛采样提供先验知识，本文将该方法命名为胶囊丢弃法。对于胶囊的每个姿态矩阵M，其采样过程如公式（5）所示，对姿态矩阵的每个维度从高斯分布中采样，等价于将姿态矩阵与服从 分布的掩码元素 按元素相乘，其中 通过算法1计算得到。实验部分将对比所提胶囊丢弃法与高斯丢弃法的有效性，并定义一个新指标，让评估结果更直观。 3.5 多传感器融合解释本节首先介绍基于胶囊网络固有特性的传感器贡献度解释方法，随后结合基于胶囊丢弃法的不确定性量化方法，详细阐述所提的多传感器融合解释方法。 胶囊网络本身具备通过反向追溯，揭示路由过程中上层胶囊贡献度的能力[14]，该过程需要将下层胶囊的贡献度与期望最大化路由中对应的耦合矩阵 相乘（见算法1）。如图3所示，反向追溯从最后一层胶囊开始，结合耦合矩阵和最后一层胶囊的贡献度（特值设为1），得到高层胶囊层对最后一层胶囊的贡献度；通过类似的追溯过程，可得到初级胶囊层的贡献度，将每个通道的贡献度取均值，即为对应传感器的贡献度。 图3 反向追溯以解释各传感器贡献为进一步实现多传感器融合解释，揭示与不确定性相关的传感器贡献度，本文受贝叶斯神经网络解释思路的启发开展研究[30]。在该研究中，Kirill等人提出，可通过聚合蒙特卡洛丢弃法模型所有采样实例的事后解释技术得到的特征归因热力图，实现贝叶斯神经网络的不确定性解释。类似地，本文通过聚合基于胶囊丢弃法的SACN得到的所有传感器贡献度模式，得到与不确定性相关的传感器贡献度，该解释方法即为多传感器融合解释。如图4所示，首先通过蒙特卡洛采样得到N个SACN模型实例，利用这些实例得到N个RUL预测值 ；随后对每个预测结果进行反向追溯，挖掘传感器特征的贡献度；综合所有贡献度模式，可明确多传感器特征中对预测结果贡献最大的部分，以及每个特征对特定预测结果的贡献度不确定性，实验部分将开展进一步分析。 图4 基于胶囊丢弃与多传感器融合解释的不确定性量化4 实验研究4.1 数据集本文选用美国国家航空航天局艾姆斯研究中心提供的商用模块化航空推进系统仿真（Commercial Modular Aero-Propulsion System Simulation, C-MAPSS）数据集开展实验[35]，该公共数据集被广泛应用于健康指标构建和RUL预测的相关研究，能实现不同方法性能的公平对比。图5展示了 C-MAPSS 数据集中涡轮风扇发动机的仿真模型结构，该模型包含发动机风扇、低压压缩机（LPC）、高压压缩机（HPC）、燃烧室、风扇轴（N1）、核心轴（N2）、低压涡轮（LPT）、高压涡轮（HPT）和喷管。 图5 发动机的仿真模型结构 C-MAPSS数据集包含4个子数据集，模拟了涡轮风扇发动机在不同运行工况和故障模式下的传感器数据，数据集的详细描述如表1所示。子数据集FD001和FD002模拟高压增压器性能退化故障，其余两个子数据集则模拟高压压气机性能退化和风扇退化两种故障模式；此外，子数据集FD001和FD003的设备运行工况为1种，其余子数据集的运行工况为6种，因此子数据集FD004的预测难度最大。每个子数据集均包含训练集和测试集：训练集记录了发动机从正常状态到完全故障的每个飞行循环的信息，包括运行工况和传感器数据；测试集仅记录了另一组发动机在特定时间的监测数据，并给出对应的RUL值。传感器数据包含21项传感器测量值，运行工况数据包含高度、马赫数和油门杆解算器角度三项发动机运行环境参数。 表1 数据集描述 4.2 数据预处理与实验设置 4.2.1 数据归一化与标签标注 由于各传感器的量纲不一致，会影响不同传感器数据之间的可比性和模型的收敛速度，因此需要将传感器数据归一化至[-1,1]区间，本文采用的最小-最大归一化法在该任务中比Z-score归一化法更有效。具体而言，训练数据的归一化计算如公式（6）所示： 其中， 和 分别为第j个传感器归一化前后的训练数据， 和 为训练数据中第j个传感器在设备全生命周期内的最小值和最大值。 在实际场景中，无法获取测试设备的全生命周期信息，因此测试数据的归一化以训练数据集的最小值和最大值为先验，计算如公式（7）所示： 其中， 和 分别为第j个传感器归一化前后的测试数据。在对输入样本进行标签标注时，采用分段函数：在设备初始故障发生前，RUL标签值保持恒定；进入退化阶段后，标签值呈线性下降。与输入数据的处理方式一致，为便于模型训练，对RUL值进行最小-最大归一化处理。 4.2.2 传感器选择 在选择网络架构超参数前，首先开展探索性数据分析，结果表明，21项传感器测量值中，部分数据始终保持恒定，直观来看不包含有效信息，即这些数据无法反映发动机的退化状态，应予以剔除。本文根据训练数据的方差进行传感器筛选，剔除方差小于 的传感器数据，仅将有价值的传感器数据作为模型输入。 4.2.3 实验设置 神经网络的结构配置如表2所示，列出了每个阶段各层的参数值及对应的输出尺寸；与网络训练相关的其他参数如表3所示。需要说明的是，为提升模型的鲁棒性并减少过拟合，在训练过程中采用添加高斯噪声、随机缩放和随机放大等数据增强手段。表2 网络结构 表3 网络训练的超参数设置 为验证模型预测结果的有效性和准确性，采用两个常用指标进行评估：均方根误差（RootMeanSquareError, RMSE）和评分函数（Score），两个指标的数值越小，代表预测性能越好。RMSE广泛应用于大多数回归任务，计算如公式（8）所示： 其中， 为预测误差。可见，RMSE对迟预测（预测值大于真实值）和早预测（预测值小于真实值）施加相同的惩罚。 与之不同，评分函数通过为迟预测和早预测分配不同的系数，对可能导致设备健康管理滞后的迟预测施加更严厉的惩罚，计算如公式（9）所示： 4.3 实验结果 4.3.1 RUL预测结果 本节展示4个子数据集的RUL预测结果，直观体现模型性能。图6为4个子数据集中，每个测试发动机最后一个记录时间步的RUL预测结果，横轴（发动机编号）按最后一个记录时间的标签值升序排列。可见，子数据集FD001和FD003的大部分预测值与真实值接近，尤其是记录时间周期较晚的发动机；而FD002和FD004的预测性能相对较差，原因是这两个数据集的运行工况数增至6种，增加了退化相关特征的提取难度。 图6 各子数据集最后记录时间步的RUL预测值 此外，图7展示了全生命周期的RUL预测结果，从每个数据集中选取2台生命周期记录相对完整的发动机作为示例。总体而言，所有测试发动机的预测曲线均能通过多源监测数据刻画设备的退化趋势。其中，FD001和FD003中发动机的RUL估计值在设备运行初期基本保持恒定，虽存在局部预测波动，但与分段式的RUL标签一致；尤其是在设备接近使用寿命末期时，模型能准确刻画其整体退化过程，这是因为设备的退化规律在该阶段通常会愈发明显。值得注意的是，模型输出的不确定性在预测值接近真实值时通常较小，而在预测值偏离真实值时较大，这为这类关键任务提供了合理且可靠的预测结果。 图7 各子数据集所选发动机的预测结果 4.3.2 对比分析 为验证所提方法的优越性，选取多种基于C-MAPSS数据集的相关预测方法进行对比，结果如表4所示。首先选取经典的深度学习算法，包括卷积神经网络（ConvolutionalNeuralNetwork,CNN）、BiGRU、LSTM等循环神经网络，以及深度置信网络（DeepBeliefNeuralNetwork,DBN）；同时选取融合了不确定性量化技术的预测方法进行对比，包括蒙特卡洛模拟法和自助法。需要说明的是，表中各类算法的量化结果均直接引自其原始文献，避免作者为优化所提方法而产生的偏差。表末列出了所提方法分别在加入和未加入胶囊丢弃法（丢弃概率为 0.5）时的实验结果，即基于胶囊丢弃法的SACN (CapsDrop)和SACN。表中每一列的最小指标值以粗体标出。 表4 在C-MAPSS数据集上与相关预测方法的比较 总体而言，未加入胶囊丢弃法的所提网络在几乎所有子数据集中，两个评估指标均取得最优性能。其中，FD001和FD003的RMSE相较于次优结果，分别提升了13.21%和7.42%；而FD002和FD004的推理性能略优于基于哈密顿蒙特卡洛的卷积神经网络[36]，提升幅度分别为2.69%和6.85%。此外，评分函数的结果也呈现出类似的规律。值得注意的是，在丢弃概率p=0.5时，加入胶囊丢弃法的SACN在几乎所有子数据集中的指标值略高，但其在整个训练轮数内的验证损失远低于未加入胶囊丢弃法的模型，稳定性更强。由此可见，所提的SACN在预测精度方面具有有效性。 4.4 不确定性与解释性分析 4.4.1 不同丢弃法的对比分析 本节从预测精度和置信区间合理性两个角度，对比胶囊丢弃法和高斯丢弃法的性能。如表5所示，选取两个子数据集，在不同丢弃概率下，训练并评估基于两种丢弃法的SACN模型。总体而言，基于胶囊丢弃法的不确定性估计性能优于高斯丢弃法，且随着丢弃概率的增大，性能提升的幅度也随之增加。具体在FD001中，即使丢弃概率p达到 0.9，模型的预测精度仍保持在较低的误差水平。 表5 不同丢弃法的精度对比 在合理性分析方面，由于目前尚无公认的不确定性估计评判标准，本文提出UCS这一新指标。首先，结合绝对误差和68%置信区间，按公式（10）计算不确定性覆盖误差θ： 随后，受评分函数思想的启发[37]，对处于置信区间内θ<0和置信区间外（θ≥0）的不确定性覆盖误差进行差异化处理，即对正的 施加更严厉的惩罚，对负的 施加较轻的惩罚。据此，按公式（11）定义UCS： 为对比在相同预测精度下，哪种丢弃法能得到更小的UCS（即更合理的预测结果），在每个训练轮数对测试数据集进行评估，得到UCS与RMSE的关系，如图8所示。可见，胶囊丢弃法的指数趋势线均低于高斯丢弃法，表明胶囊丢弃法能实现更合理的不确定性建模。 图8 在训练周期中的测试数据集上UCS和RMSE的表现对比4.4.2 多传感器融合的不确定性解释 根据第3节提出的反向追溯方法，可揭示传感器特征对预测值的贡献度及其相关的不确定性。因此，本节首先通过分析各传感器特征的影响，验证反向追溯方法的有效性，随后深入探究输入特征与预测结果之间的关联关系。 为量化特定传感器特征的影响，在模型推理过程中屏蔽该通道的胶囊，计算预测结果与原始RUL值的绝对偏差。图9和图10分别展示了FD001和FD003中传感器特征的影响，每个子图代表一个阶段（40 个时间周期）的平均影响。其中，横轴和纵轴分别为传感器贡献度和其对预测的影响，散点颜色代表传感器贡献度的不确定性，红线为线性回归拟合线。理想情况下，传感器贡献度与其对预测的影响应呈正相关，图中结果总体符合这一规律，验证了反向追溯方法的有效性。但部分散点虽贡献度较低，却对预测产生较大影响，原因是RUL值通过高维空间中的欧几里得范数计算得到，部分贡献度低的特征可能会导致范数发生显著变化。 图9 传感器特性对RUL预测的影响（FD001中的2台发动机） 图10 传感器特性对RUL预测的影响（FD003中的2台发动机） 为探究输入特征与预测不确定性σ之间的关联，将所有时间周期内最终预测结果的标准差与特定传感器特征的标准差绘制成散点图，如图11所示，同时通过高斯过程回归拟合曲线和置信区间。按贡献度从高到低选取3个传感器特征进行分析，每个子图中的三种颜色分别对应这三个特征（蓝色、橙色、绿色）。每个子图的左侧部分显示，RUL预测的不确定性与传感器贡献度的不确定性呈正相关，且二者能明显区分，原因是模型对推理结果的置信度较高；此外，与具有相同预测不确定性水平的其他特征相比，贡献度更高的传感器特征，其自身的不确定性也更大。随着σ的增大，模型对推理结果的置信度降低，传感器特征之间的差异也愈发模糊。综上，多传感器融合解释结果证实，所提的SACN能在实现优秀RUL预测性能的同时，有效融合含不确定性感知的多传感器数据。 图11 传感器贡献不确定度与预测不确定度的关系5 结论与未来展望本文提出了一种基于多传感器数据驱动的SACN，实现可信的RUL预测。与现有的多传感器融合RUL预测方法相比，该方法取得了具有竞争力的预测精度：在子数据集FD001和FD003中，RMSE分别提升了13.21%和7.42%，而在FD002和FD004中的性能略差。通过传统精度指标和本文提出的UCS评估发现，所提的胶囊丢弃法能在降低预测偏差的同时，实现更合理的不确定性估计。此外，多传感器融合解释方法能揭示输入特征与含置信区间的RUL值之间的关联。但该方法尚未能实现数据层面的归因，即无法揭示监测数据中 特定部件或部分的贡献度。 在未来的研究中，可将专用建模技术引入特征提取模块，使提取的特征能更透明地与监测数据关联；同时，可进一步探索将设备的物理先验知识与胶囊网络深度融合，提升模型在小样本、跨工况场景下的泛化能力；此外，还可开展RUL预测的不确定性从传感器级到系统级的传播研究，为复杂工业系统的预测性维护提供更全面的决策依据。 编辑：陈宇航校核：李正平、陈凯歌、曹希铭、赵学功、白亮、任超、海洋、赵栓栓、Kira、Tina、王金、赵诚、肖鑫鑫、张优该文资料搜集自网络，仅用作学术分享，不做商业用途，若侵权，后台联系小编进行删除来源：故障诊断与python学习