信号处理代码实战 | 对称极坐标法SDP(Symmetrized Dot Pattern)

本期给大家推荐魏建安教授的设备状态监测中处理工业数据分布不平衡的重采样技术综述（下）。在工业生产中，机器设备大部分时间处于正常运行状态，故障发生的时间极为短暂，导致故障数据稀缺，数据集普遍存在不平衡问题。随着制造业的快速发展，复杂设备的故障数据往往伴随噪声和多重不平衡现象，给故障诊断带来巨大挑战。本文将从数据预处理、特征提取和分类器改进三个方面，系统分析当前不平衡数据分类的主要方法，并探讨这些方法在工业场景中的应用及未来研究方向。论文链接：通过点击本文左下角的阅读原文进行在线阅读及下载。论文基本信息论文题目：Review of resampling techniques for the treatment of imbalanced industrial data classification in equipment condition monitoring论文期刊：Engineering Applications of Artificial Intelligence论文日期：2023年8月论文链接:https://doi.org/10.1016/j.engappai.2023.106911作者：Yage Yuan , Jianan Wei , Haisong Huang机构：Key Laboratory of Advanced Manufacturing Technology, Ministry of Education, Guizhou University, Guiyang, Guizhou 550025, China作者邮箱:gs.ygyuan22@gzu.edu.cnjawei@gau.edu.cnhshuang@gzu.edu.cn作者简介：魏建安，工学博士，贵州大学特聘教授，硕导，贵州省“产业技术创新副总”，研究方向为制造大数据与制造信息系统、航空航天领域关键零部件智能制造与运维、医工领域数据与图像处理等。主持国家级、省部级课题4项；发表相关领域论文近30篇，其中一作或通信发表SCI 1区Top论文8篇、2区论文1篇(综述)，单篇最高被引150余次；科学出版社出版工业大数据与智能运维领域学术专著1部；授权国家发明专利3项；担任《航空动力学报》(EI)、《工业工程》、《数据采集与处理》、《中国测试》等领域知名期刊的青年编委；担任中国图学学会(CGS)可视化与认知计算专委会委员、中国图学学会(CGS)青年工作委员会委员、中国机械工程学会(CMES)工业大数据与智能系统分会专委会委员、中国图形图像学会(CSIG)遥感图像专委会委员、中国自动化学会(CAA)动态学习与智能医学专委会(筹)专委会委员、全国材料与器件科学家智库-电子信息材料与器件专家委员会常务委员等学术兼 职。黄海松，工学博士、教授，博士生导师，贵州大学现代制造技术教育部重点实验室常务副主任、贵州省百层次创新人才，贵州省省管专家,贵州省科技拔尖人才、重庆市“巴渝学者讲座教授”，中国机械工程学会工业大数据与智能系统分会专委会委员、中国计算机学会工业控制专委会委员、《计算机集成制造系统》理事会理事、中国图学学会数字孪生专委会委员，以第一完成人或者主要完成人获得省部级科技进步奖一、二、三等奖励5项。目录1 摘要2 引言3 复杂不平衡数据的特性分析3.1 小样本不平衡下的噪声3.2 小样本下的类内类间不平衡3.3 小样本下的多类不平衡3.4 时间序列下的小样本4 不平衡数据分类方法及其在工业不平衡数据处理中的应用4.1 重采样技术 4.1.1 欠采样技术 4.1.2 过采样技术 4.1.3 混合采样技术4.2 生成对抗网络4.3 特征选取4.4 分类器改进 4.4.1 代价敏感法 4.4.2 单类学习法 4.4.3 集成学习法5 重采样技术在工业不平衡数据处理中的应用6 工业不平衡异常监测中的困难和挑战问题7 总结8 附录（以上标记章节为本文内容）1 摘要在实际工业场景中，机器大多数时间都处于正常工作状态，而故障状态下的时间则非常短。因此，收集到的故障数据非常有限，这导致了故障诊断数据集的不平衡，故障样本的数量远少于正常样本。此外，随着制造业的快速发展，机器设备变得越来越复杂，这使得收集的故障数据中存在噪声、类重叠、类内和类间不平衡、多类不平衡以及时间序列不平衡等问题。因此，解决这些问题已成为故障诊断领域的研究热点和难点，并出现了许多解决方法。本文将从数据预处理、特征提取以及分类器改进三个方面进行全面梳理。同时，还描述了不平衡数据分类方法在工业场景中的应用。最后，总结了不平衡数据分类研究领域面临的挑战，并提出了未来可能的研究方向。 关键词：故障诊断；不平衡分类问题；小样本问题；重采样技术2 重采样技术在工业不平衡数据处理中的应用随着科技的快速发展以及生产实际的要求提升，各种机械设备的结构变得越发复杂以适应各种复杂恶劣工况。在这种环境下，机械系统关键零部件由于各种内因(如，自身磨损等因素)或者外因(如，高温高压、超大载荷、外部冲击等因素)的共同作用下，其性能以及健康状态会逐渐发生退化，甚至最终完全失效。一旦机械系统关键零部件发生异常，轻则影响产品质量、设备停产，重则造成人员伤亡等无法挽回的重大安全事故。因此，对机械设备(系统)关键零部件进行预测性维护研究的意义重大。如图16所示，机械设备的故障诊断是一个数据采集、特征提取加模式识别的过程，即，人们利用部署在机械设备上的力学、温度、振动、加速度等传感器，采集关键零部件的状态信息，然后，对其进行手动或者自动特征提取，最后，将特征空间数据输入数据分类、回归模型，继而，实现关键零部件的故障预测以及寿命预测，为决策者制定维护策略提供重要的支撑。图16 机械设备故障诊断流程目前，基于上述三种层面上的不均衡数据处理算法在实际工业场景中的应用仍然相对较少，尤其是在深度学习领域的研究[179]–[181]。这主要是因为大多数机械设备状态监测和预测研究都假设数据是均衡的[182]–[187]。然而，实际工业中的设备状态监测、诊断和预测通常面临典型的不均衡分类问题。表3 重采样技术在工业故障诊断中的应用值得庆幸的是，近年来，部分研究人员已经将注意力转向不均衡数据处理，尤其是在重采样技术领域取得了一些有价值的成果。表3展示了不同重采样方法在工业场景中的应用。2014年，Karabadji等人[188]结合特征选择和数据采样技术，解决了决策树构建过程中的过拟合及复杂性问题，并将其应用于旋转机械故障诊断。2017年，Xu等人[189]提出了一种新的污水处理厂数据不平衡预处理方法，通过快速相关向量机（Fast RVM）减少多数类样本，并使用SMOTE方法合成少数类样本。Prusty等人[190]在SMOTE基础上改进，提出了加权过采样方法（WSMOTE），根据特定少数数据样本与其他少数类样本的欧几里德距离分配权重，最终应用于钠冷快堆中。2018年，为了提高水下推进器健康诊断的分类精度，Chan等人[191]提出了改进的ADASYN方法，使用余弦相似性代替欧几里德距离寻找最近邻，并避免了噪声样本过采样和对远离大多数样本的重要点不采样等复杂情况。新加坡国立大学的Mathew等人[192]提出了一种基于多类SVM的高压电动机电气故障诊断方法，使用加权核的SMOTE过采样技术（WK-SMOTE）来均衡诊断数据集。Zhang等人[178]针对旋转机械中的数据不平衡问题，提出了三阶段故障诊断方法：首先使用加权过采样技术（WMO）合成少数类样本；其次利用深度自动编码器自动选择有用特征；最后使用C4.5决策树识别学习的特征。2019年，Fan等人[193]将主成分分析（PCA）、SMOTE及支持向量机等技术结合，用于离心式冷却故障检测和诊断的知识迁移至螺杆式冷却器。北京邮电大学的Wu等人[194]提出了一种新型加权过采样技术（基于期望最大化（EM）的局部加权少数类过采样技术）与基准回归、分类算法结合的故障预测与诊断方法，并在风力发电机冻结故障预测及工业设备故障监测中取得了较好结果。南京航空航天大学的Chen等人[195]开发了一种基于ROS的随机离散时间序列深度卷积神经网络方法，以及具有多个SDCNN的渐进方法，提高了航空电子设备在数据不均衡状态下的诊断性能。2020年，北京航空航天大学的Shi等人[196]提出了一种基于线性判别分析和使用灰狼优化算法调整阈值的新型欠采样技术，并将其与支持向量机结合，用于自动驾驶汽车转向执行器的故障诊断，取得了良好效果。2021年，Zhou等人[197]提出了一种主成分分析-合成少数类过采样技术，以解决可变制冷剂流量系统故障检测中的数据不平衡问题。由于SMOTE及其改进方法在合成样本时未考虑少数类样本与邻居样本之间的相对混乱水平，Zhou等人[198]提出了一个通用框架，通过计算待插入样本与其邻居样本之间的混乱水平确定合成样本的位置，再利用SMOTE及其变体进行合成，并在水流预测数据集中验证了其性能。Lopes等人[199]使用SMOTE方法丰富数据集，然后利用深度神经网络分类器对电力变压器进行早期故障诊断。Chen等人[200]为解决数据不平衡条件下人工智能诊断方法泛化能力受影响的问题，提出了一种密度加权少数过采样技术，并将其应用于高压短路器的故障诊断。华东理工大学和同济大学的Yi等人[201]提出了一种少数样本聚类SMOTE算法以提升不均衡分类性能，风力涡轮机叶片结冰的实验结果表明其优于经典SMOTE算法。2022年，Xing等人[37]提出了一种数据重采样与集成学习算法相结合的方法，解决了轨道电路故障诊断任务中监测数据类别不平衡导致的决策边界偏移以及数据量巨大导致训练速度慢的问题。Swana等人[202]将SMOTE与Tomek Link方法结合，以解决旋转电机故障诊断中的数据不平衡问题。Liu等人[203]将基于聚类的欠采样技术与深度Siamese自注意力网络相结合，通过聚类减少正常训练样本的数量，增强故障特征的提取能力，从而解决传统深度神经网络在故障诊断中漏诊率高的问题，并在燃气轮机的实际数据中验证了其性能。针对变压器故障样本类别不平衡及模型诊断精度低的问题，Liu等人[204]首先使用自适应综合过采样技术增加多数类样本，然后通过深度置信网络对平衡后的样本进行特征提取，最后将特征向量输入到XGBoost进行故障诊断。生成对抗网络（GAN）作为一种创新的过采样技术，因其强大的生成能力在解决工业场景中的不均衡分类问题中得到了广泛应用。为应对非平稳工况下行星齿轮数据易受噪声干扰及早期故障特征提取困难的问题，Wang等人[205]提出了一种结合GAN和堆叠降噪自编码器（SDAE）的新型故障诊断方法。该方法利用GAN的生成器从行星齿轮箱振动信号中生成与原始样本分布相似的新样本，并将生成的样本与原始样本一同输入到鉴别器中。SDAE作为GAN的判别器，能够自动提取有效的故障特征并判断样本的真实性及故障类别。通过对抗性学习机制，优化生成器和判别器的性能，以提升生成样本的质量和故障模式分类能力。Yan等人[206]提出了一种基于变分自编码器（VAE）和梯度惩罚的条件Wasserstein GAN（CWGAN-GP-VAE）框架，用于生成合成训练样本，从而丰富基于机器学习的故障诊断方法的训练数据集，并应用于冷水机组的故障诊断。针对训练数据稀少和标签信息不足时传统模型失效的问题，He等人[207]提出了一种基于深度卷积生成对抗网络（DCGAN）的轴向柱塞泵智能故障诊断方法。该方法首先使用连续小波变换（CWT）增强故障特征，并通过DCGAN扩展数据集。接着，根据标记样本的数量，使用DCGAN和半监督GAN（SGAN）提取图像域的深层特征，并利用聚类算法对提取的特征进行分类，实现轴向柱塞泵轴承的故障诊断。随着环境问题和绿色能源需求的增加，风电场已成为全球可再生能源的重要来源之一。针对风机电组中样本不足和数据不平衡的问题，Liu等人[208]提出了一种基于条件变分生成对抗网络（CVAE-GAN）的迁移学习方法。Zhang等人[209]在此基础上利用CVAE-GAN模型结合多源信号融合进行多类风力涡轮机轴承故障诊断。该方法将多源一维振动信号转换为二维信号，并通过小波变换进行融合。CVAE-GAN模型结合了变分自动编码器（VAE）与生成对抗网络（GAN），引入VAE编码器作为GAN生成器的前端，并将样本标签作为模型输入，以提高训练效率。最终，这些样本用于训练CVAE-GAN模型中的编码器、生成器和判别器，从而补充故障样本的数量。最近，Du等人[210]提出了一种基于深度学习的生成对抗网络与增量学习支持向量机（SVM）模型相结合的方法，用于诊断数据中心空调系统的常见故障。不均衡数据处理在实际工业场景下的故障诊断中具有重要价值，其好处包括以下几个方面：1. 提高故障检测率：在工业领域中，少数类别通常代表故障或异常情况，而多数类别则代表正常操作或状态。通过处理不平衡数据，可以改善故障检测的准确性和灵敏度，使得模型更容易捕捉到潜在的故障信号，从而提高故障检测率。2. 减少误报率：处理不平衡数据可以降低模型对正常样本的误报率。由于正常样本在不平衡数据集中数量较多，模型容易将正常样本错误地分类为异常或故障，导致误报。通过采用合适的算法和策略，可以降低误报率，提高故障诊断的可靠性。3. 提高故障分类准确性：不平衡数据处理方法可以帮助提高故障分类的准确性。通过平衡数据集中各个类别的样本数量，使得模型更加关注少数类别的特征和模式，从而提高对故障类别的分类准确性。这有助于工程师或技术人员更准确地识别和解决实际工业场景中的故障问题。4. 提高预防性维护效果：处理不平衡数据有助于发现隐藏在数据中的潜在故障模式和趋势。通过分析和识别少数类别的故障样本，可以预测和预防未来的故障事件。这使得预防性维护更加精确和高效，有助于提高设备的可靠性和生产效率。重采样技术能够有效地改善不均衡数据带来的问题，提高机械设备故障诊断的准确性和可靠性。然而，尽管重采样技术在工业故障诊断中有一定的应用优势，但也存在一些缺陷和不足之处，包括：1. 数据失真：重采样技术可能导致数据的失真或过度修改，从而改变原始数据的分布和特征。这可能会影响模型的泛化能力，并导致对新样本的预测效果下降。2. 过拟合和欠拟合：不恰当的重采样方法可能导致模型过拟合或欠拟合。过拟合指模型过度学习训练数据的细节和噪音，导致在新数据上表现不佳。欠拟合则表示模型未能充分捕捉数据的特征和模式，导致预测能力不足。3. 信息丢失：在一些重采样技术中，由于减少了少数类样本或增加了多数类样本，可能会导致少数类样本中的重要信息丢失或被稀释。这可能导致对少数类故障情况的识别能力下降。4. 样本不平衡变化：重采样技术可能会改变数据集的样本分布，使得在训练和测试阶段的数据分布不一致。这可能导致在实际应用中的效果与实验结果存在一定差异。5. 处理时间和计算复杂性：某些重采样技术可能需要较长的处理时间和计算复杂性，特别是在处理大规模数据集时。这可能会限制其在实时或高效的工业环境中的应用。因此，为了弥补重采样技术的缺陷，许多研究人员将重采样与特征提取、分类器改进方法结合使用[178]，代表性成果如下：表4 故障诊断的各种方法3 工业不平衡异常监测中的困难和挑战问题基于上述分析，我们认为在处理这四种问题时，未来工业不平衡监测和数据处理领域的研究重点应包括以下几个方面：（1）小样本异质不平衡故障监测数据建模问题：在工业监测中，关键组件（如轴承和其他高端设备）的服务条件具有复杂性和变异性。收集环境恶劣，传感器种类繁多且各异。因此，收集到的运行和维护数据表现出混合特性，包括噪声不平衡、类内不平衡、多类不平衡和时间序列不平衡。在这种条件下开发高端设备的故障监测模型面临重大挑战。然而，大多数现有研究仅关注上述挑战问题中的一个或少数几个问题，未探讨这些异质特征之间的内在影响机制。因此，均衡处理的有效性受到限制，存在盲点。此外，从有限样本中提取有意义信息的能力也受到制约。因此，全面理解不同异质特征之间的相互作用，并充分利用异质小样本数据集中的故障样本信息，是工业故障监测领域的一个重要研究方向。（2）动态不平衡操作和维护（O&M）数据处理协同模型调整问题：智能操作和维护高端设备的数字孪生过程正在快速推进，使其更接近实际工程场景，并要求高度准确的监测模型。在数字孪生背景下，工业不平衡故障预测建模面临新的挑战——动态不平衡操作和维护数据处理的协同校正。在这个阶段，需要不仅考虑操作和维护数据的异质特征，还需要准确感知因工作条件和环境因素变化而导致的数据变化。因此，需要相应地调整采样平衡方法。此外，操作和维护数据的时间特征变得尤为突出，常常表现出特征不平衡。因此，故障特征的提取、组合和校正成为新的挑战。因此，建立“工作条件 - 故障特征提取- 异质形式”之间的清晰映射关系，采用无监督和高效的故障特征提取方法，以准确感知操作和维护数据中的实时异质和不平衡变化，同时持续校正采样平衡模型，是至关重要的任务。（3）不平衡异常检测模型的可解释性和可信度问题：基于深度学习的工业异常检测方法缺乏可解释性，被认为是黑箱，因此无法从根本上解释故障或异常的“为什么”。此外，这些方法基于大规模数据，可能与高端设备的实际运行条件不匹配。另一方面，传统的基于机器学习的工业异常检测方法在分类模型方面具有更强的可解释性。然而，由于对特征提取的人工专业知识的高度依赖，它们可能无法捕捉故障数据中的隐含特征，从而影响模型的可靠性。因此，不平衡异常检测模型的可解释性和可信度问题可能成为新的挑战。因此，以不平衡故障检测为例，提升跨领域和工作条件下故障检测模型的可解释性和可信度，考虑故障机制、物理模型和数据模型等方面，涉及故障机制的可解释性、特征提取的可解释性、采样的可解释性、分类模型的可解释性以及多模型集成决策的可信度等方面。这种综合和系统化的方法是一个具有挑战性的问题。（4）解决极端不平衡问题的协同评估方法：由于一些异常数据难以收集，有时无法获得有用数据，导致从高端设备长期运行中积累了大量正常数据。这两个因素共同导致在大数据背景下的零样本学习问题，这对工业异常检测至关重要。这是因为传统的基于人工智能的监测方法假设可以提前获得异常数据，且训练和监测数据应属于相同分布。此外，缺乏异常样本用于模型评估也是有害的。因此，处理工业数据中极端不平衡问题的协同评估方法面临新的挑战。因此，探索如何在工业故障检测中获得高端设备关键组件的故障机制模型，生成足够的异常状态数据，利用迁移学习获取源领域模型，并研究适当的评估方案进行不平衡异常检测，具有重要意义。（5）高端设备异常机制、物理模型和数据模型的协同研究：以故障监测为例，单一的故障机制模型可能不适用于复杂多样的工作条件。同样，单一的数据模型的可解释性和可信度也可能得不到保障，特别是在处理异质和不平衡的操作与维护数据时。因此，未来我们认为高端设备的“故障机制-物理模型-数据模型”协同研究是至关重要的。这项研究应致力于开发能够适应跨领域和跨工作条件场景的机制模型和物理模型，以及用于异质和不平衡故障分类的诊断模型。只有通过这些方面的协调与整合，我们才能从根本上解决极端不平衡工业异常监测中的挑战。4 总结制造业中机器和设备的复杂性给故障数据收集带来了新的挑战，包括噪声、类内不平衡、多类不平衡和时间序列不平衡。本研究全面总结了这些挑战，并强调了它们在故障诊断领域的重要性，同时介绍了针对这些问题的众多解决方案，重点关注数据预处理、特征提取和分类器改进。此外，本文提供了这些解决方案的综合概述，包括纯重采样技术以及将重采样算法与特征提取和分类器改进相结合的采样技术，特别是针对工业场景设计的技术。基于对当前不平衡分类方法局限性的分析，我们总结了工业不平衡异常检测中的挑战和困难。这些挑战包括小样本异质和不平衡故障监测数据建模的难度、动态变化的操作和维护数据处理、确保不平衡异常检测模型的可解释性和可信度，以及开发协同评估方法以应对极端不平衡场景。基于这些挑战，我们提出了未来工业高端设备异常检测的宝贵研究方向。这些研究方向旨在通过探索迁移学习与特征工程的融合、解决数据异质性、改进评估方法、增强模型协作与校正能力，并深入理解高端设备中的异常机制，以应对挑战并提高异常检测的有效性。这些研究努力旨在推动该领域的发展，为工业高端设备的异常检测提供准确可靠的支持。总之，通过对设备故障诊断中不平衡数据所带来的问题和挑战进行详细分析和描述，读者可以获得全面的理解，并深入研究这一领域。5 附录1）TTWD车刀磨损数据集 TTWD数据集是我们课题组自己采集的数据，以AISI 201高强度不锈钢棒料的切削过程为验证实例，其中，加工对象的长度为200mm，直径为80mm的圆柱棒料；车削刀具为硬质合金刀具，材料为M30，AlTiN涂层厚度为5μm。实验车床采用重庆二机生产的C2-6136HK数控车床，切削速度为Vc=120 m/min，进给速度为f=0.15 mm/r，切削深度为ap=1.5 mm，机床主轴转速为500rmp。另外，利用DASP-V11振动信号采集仪来采集刀具车削时的X、Y、Z轴的三个方向上的振动信号，采样频率为4016Hz。实验以车刀车削棒料走完一刀为一组数据，并取下刀具，利用显微观测刀具副后刀面的最大磨损值VBmax，重复实验直至刀具达到磨钝，记录刀具的全生命周期。切削实例共进行200次循环，工件表面粗糙度已经不能符合加工工艺的要求，且刀具副后刀面最大磨损值(VBmax)已达250μm，故此时刀具已经到达最大使用寿命，停止采集数据。其实验装置如图17所示。数据集获取可通过以下链接：Mad Net (mad-net.cn) 图17 TTWD刀具全生命周期故障实验 2）IMS轴承数据集 IMS轴承数据由辛辛那提大学的智能维护系统中心提供，其实验装置如图18所示。IMS数据集(采样率20KHz，轴转速2000 rpm，径向载荷6000 lbs)描述了3种不同的“测试至失败”的全生命周期实验，最后系统内的轴承具有内圈故障、滚动体故障或内圈故障等失效形式。具体地，在第1组实验结束时(2003.10.22 12:06:24~2003.11.2523:39:56)，轴承3的内圈和轴承4的滚动体被破坏。在第3组实验结束时(2004.03.04 09:27:46~2004.04.1802:42: 55)，轴承3的外圈被破坏。数据集获取可通过以下链接：https://www.kaggle.com/datasets/vinayak123tyagi/bearing-dataset 图18 IMS轴承全生命周期故障实验 3）PHM 2010铣刀磨损数据集 PHM 2010铣刀数据由美国纽约PHM学会提供，其实验装置如图19所示。铣削试验重复进行6次全生命周期试验。端面铣削材料为正方形，每次走刀端面铣的长度为108mm且走刀时间相等，每次走刀后测量后刀面磨损量。该数据集收集了3向铣削力信号、3向铣削振动信号以及声发射均方根值，但仅有C1、C4、C6提供了磨损值标签。数据集获取可通过以下链接：https://www.kaggle.com/datasets/rabahba/phm-data-challenge-2010 图19 PHM 2010铣刀全生命周期磨损实验 4）CWRU轴承数据集 CWRU轴承数据源于美国凯斯西储大学电气工程实验室，如图20所示，CWRU轴承数据是通过安装在感应电机输出轴的支撑轴承上端机壳上的振动加速度传感器(采样频率为12KHz，时长1s)收集的，其包含4种情况下的振动状态：正常状态(Normal)；内圈发生故障状态(Inner)；外圈发生故障状态(Ball)；滚动体发生故障状态(Outer)。且每种故障包含3种故障程度，即：轻度损伤(故障尺寸为0.1778mm)；中度损伤(故障尺寸为0.3556mm)；重度损伤(故障尺寸为0.5334mm)。数据集获取可通过以下方式:https://www.kaggle.com/datasets/javadseraj/cwru-bearing-fault-data-set 图20 CWRU轴承故障实验 编辑：李正平校核：陈凯歌、赵栓栓、曹希铭、赵学功、白亮、任超该文资料搜集自网络，仅用作学术分享，不做商业用途，若侵权，后台联系小编进行删除来源：故障诊断与python学习