跳到主要内容
SECO
  • Edge Computing

边缘机器学习:IIoT 网关上新颖性检测的若干应用案例

在本文中,我们介绍了针对两个案例研究的机器学习(ML)模块的设计与开发。在这两个案例中,我们都开发了一个 ML 模型来学习系统的正常行为,以便识别可能出现的任何异常状况。这种框架通常称为异常检测(Anomaly Detection,也称为故障检测(Fault Detection)或新颖性检测(Novelty Detection))。我们的模型成功识别出了注入的异常。此外,当向模型输入正常数据时,未观察到任何异常。我们在讨论结果时,综合考虑了传感器类型、学习算法、训练工作量和计算需求之间的权衡。

边缘机器学习

I. 引言

物联网(IoT)使得通过其联网设备收集海量真实物体数据成为可能。由于低成本、低功耗传感器的普及,以及用作 IoT 网关的强大单板计算机(SBC)的出现,监控构成当今工业厂区的环境和机器,从未像现在这样可行且负担得起。然而,要挖掘所采集的数据以发挥其潜在价值、点石成金,既非易事,也不容易转化为标准流程,这是因为可能使用的机器种类繁多,而“感知”它们并检查其健康状况的方式也各不相同。

II. IoT 系统中的状态监测与故障检测

“故障检测与诊断”、“状态监测”、“预测性维护”等或多或少较新的表述,以及围绕这一主题的大量变体,已在智能工厂的行话中流行起来,或获得了新的含义。尽管它们之间的界限往往模糊不清,但它们通常指的是一组不同的策略,旨在通过及早检测潜在危险甚至灾难性的故障,来降低意外故障和企业的维护成本。IoT 与人工智能(AI)的交互,为在工业流程的安全性和可靠性方面取得成功的新型数据驱动方法打开了大门 [1]。借助不同类型的传感器,现在可以收集并处理有关运行中的机器和周围环境的多方面信息:电流、电压及其他电学量、温度、压力和湿度、振动和声学信号、各种频率范围的电磁辐射等等 [2]。

在线状态监测(condition monitoring,CM)是指在机器运行时测量其一个或多个变量(状态参数),旨在检验这些变量或由其导出的其他量,是否落在物理、设计或安全角度的“可接受”范围内,或与其历史变化相比是否正常 [3]。这种检验所用的方法包括:从单参数阈值检查到基于规则的专家系统,从基于模型(例如有限元)的方法到复杂的机器学习技术 [4]。一般而言,如果检验未通过,就会产生告警,触发关于是否采取以及采取何种纠正措施的决策。从这个意义上说,CM 是预测性维护(predictive maintenance,PM)的主要前提,所谓预测性维护,就是利用测量数据在故障发生之前预测即将发生的故障 [5],并确定何时对机器进行干预最具成本效益。因此,可以根据状态监测系统评估所提供的信息来安排维护以及部分或整机更换作业。

关于这些主题存在大量文献,涵盖丰富的视角和应用领域。NASA 研究人员十年前的一篇综述 [6] 介绍了用于预后(prognostics)的 AI 技术,所谓预后,即“检测故障的先兆,并预测在可能发生故障之前还剩多少时间”。文献 [7] 回顾了近期用于估计剩余使用寿命(remaining useful life,RUL)的统计数据驱动解决方案,RUL 即资产在某一特定运行时刻剩余的使用寿命,在基于状态的维护(condition-based maintenance,CBM)中起着至关重要的作用。一篇关于 CBM 预后方法的文献综述 [8] 将其分为四类(物理模型、基于知识的模型、数据驱动模型和组合模型),重点关注参数化和非参数化的数据驱动方法。此外,为了详细总结“实施 CBM 的机械系统的诊断与预后,重点关注数据处理和维护决策的模型、算法和技术”,文献 [9] 还介绍了多传感器数据融合技术。在最新的论文中,文献 [10] 总结了深度学习在机器健康监测系统中的应用,特别关注人工神经网络(Artificial Neural Networks,ANN)。文献 [11] 概述了过去十五年中的 CBM 和 PM 解决方案,以及这些方案在不同机器部件或流程中取得的成果。

III. 案例研究

这些案例研究是通过参与托斯卡纳政府支持的、旨在推广工业 IoT 解决方案(IIoT)的项目而确定的。IIoT 是由托斯卡纳大区出资、以工业 4.0 为重点、于 2018 年启动的为期两年的项目。多家企业合作创建一个新的框架,以帮助企业迁移到新的工业 4.0 视角,创新其产品,并从 IIoT 这一不断增长的新市场中获益。

IIoT 项目旨在设计、生产并向市场推出一款新产品。它将包括一套嵌入式硬件工具、一个基于云服务的软件平台、ML 以及专业服务。它面向所有在经济或人力资源、知识或能力方面,没有能力使自己成为数字实体或数字制造商的中小型工业企业。该系统旨在缩小企业最初的知识差距,并分摊整个过程的初期投资。最终成果将是一套硬件(传感器桥接器、网关),与一个软件环境完全集成,该环境旨在远程管理所有设备、数据流以及各层级的计算能力。此外,还将提供一套 ML 模块(配有专门的开发流程),以解决最常见的工业应用。

案例研究取材于两个主要的工业环境:一家抽油烟机制造商和一家工业太阳能制造商。

A. 空气通风——抽油烟机

在本节中,我们描述对一个具有若干有趣方面的试验场的分析,重点关注设备远程监测的两个细节:对一组离散工作状态的预测;以及相对于每个状态的标准工作行为,对可能异常的检测。

研究这一问题的动机可概括为:对以高频率提供时间序列、且动态变化快速、可能迅速演变为故障状况的传感器进行实时监测;对与待监测现象并不直接相关的物理量测量的分析;对结合监督式和无监督式 ML 技术的模型集成的研究;以及在低功耗单板计算机上运行高频计算时对边缘计算性能的测试。

首次定性分析的结果表明,整体计算需求明显低于预期,并且所提出的算法既能对系统状态进行分类,又能以高准确度检测异常。

系统描述

所提出的分析包括通过 IoT 网关对抽油烟机进行远程监测,同时完全在边缘层面执行所有必需的计算。具体而言,我们希望分析油烟机电机的工作状况,它可以作为任何类型工业电机的一般代表。IoT 网关配备了人工智能算法,能够进行实时数据采集,避免对网络通信造成高强度负载,而这种负载可能导致流量和安全问题 [12]。

这种方法在不同情况下都很有用。我们最感兴趣的一个例子是,系统需要分析一种产生高频数据的现象,以至于无法在云端进行实时监测。在这种情况下,算法直接执行所需的预处理,生成对环境的概括(即在本例中为当前状态和可能出现的故障)。

分析针对的是用于净化空气的油烟机电机。该设备有三种不同的工作转速,代表不同的工作配置。系统的首要任务是根据振动特征对当前工作状态进行分类。当然,提取这一信息并不是关键,因为它可以从油烟机的 PLC 获知。然而,将输入信号的分析与一项已知信息配对,提供了一种定义清晰的方式来分析数据,并发现最佳的数据处理方法,以突显该现象的代表性特征。振动特征的采集由压电麦克风完成,它能够以高频采样获取数据,同时滤除来自外部环境的可能的声学噪声。以如此高的分辨率采集数据,使我们得以在新颖性检测(Novelty Detection,ND)配置下进行更复杂的分析。事实上,我们尝试通过分析各状态振动特征的变化,来检测空气过滤机构中可能出现的异常。为此,我们发现很难训练出单个能够有效监测所有可能配置的 ND 算法。由于我们已经训练了能给出当前状态标签的分类器,因此决定为每个状态开发一个专用的智能体(agent)。

整体流程如图 1 所示。由于如前所述,系统应能够分析以高频率采样的数据,因此在部署之后,采集和推理步骤交替进行,而用于训练步骤的数据可以离线收集。

一旦从麦克风获取了适当大小的样本缓冲区,就会执行基于傅里叶分析的经典信号处理技术,以生成频域内的相关信息。这样会产生一系列帧,每一帧包含一个小时间窗口内的信息。然后,状态分类器对这些输入数据进行多次预测,为各帧推断出一系列标签。

随后采用多数投票方法生成一个稳健的单一标签。最终决策用于选择相应的模型来执行 ND。该模型以相同的帧作为输入,根据训练阶段所见的样本给出新颖性得分。由于新颖性得分本身也并不完美,我们利用构成缓冲区的连续样本上的预测,对得分运行平滑窗口,从而提高了异常得分的稳健性。

结果

所有试验均在配备 NXP i.MX 6SoloX 应用处理器(Cortex A9)CPU 的 SECO SBC-C23 网关上进行 [13]。输入以 44.1KHz、16 位编码进行采样。对于每个状态,我们录制了约一分钟的数据,这些数据构成了用于训练分类器和 ND 算法的数据集。异常检测任务的测试数据由约 10 秒的音轨组成,分别包含正常数据,或部分堵塞空气过滤器出口时录制的数据(每个状态各录制一条正常音轨和一条异常音轨)。两种算法的输入特征均为频谱功率的对数,其计算窗口为 512 个样本、25% 重叠(使用 Librosa python 库计算 [14,15]),生成 257 维特征向量,我们再加入信号的 RMSE 信息。

转速分类(基于单帧)异常检测(基于帧序列)
准确率检出的异常误报率
199.7999.851.09
297.2198.790.56
373.2172.010.00
针对油烟机电机的每种转速,我们给出了正常条件下的分类准确率(第一列)。检出异常的百分比(第二列)和误报的百分比(第三列)为部分堵塞空气过滤器出口的异常条件下的结果。

分类器和检测器均基于神经网络(使用 Keras 实现 [16])。分类器是一个前馈 2 层神经网络(含 100 个隐藏单元(HU)),执行 3 类预测。对于每一类,ND 算法以简单的自编码器(Auto-Encoder,一个含 32 个 HU 的隐藏层)实现,并将重构误差作为每个模式异常程度的评分。平滑设置为考虑约 20 次预测。在此配置下,模型的训练可以直接在边缘完成,耗时不到半小时。
在测试阶段,所用板卡能够以约 2.5 Hz 的频率提供预测,CPU 负载为 27%,内存占用为 2%(共 4GB)。准确率和检测性能总结于表 1。

可以看到,预测性能相当高,在转速更高、频率动态更大的状态 3 中有明显下降。不过,多数投票方法使我们能够在缓冲区内未发生状态变化的情况下,对每个样本缓冲区给出正确的分类(而在此设置下,每个缓冲区只是一秒钟的一小部分)。正确的标签这一环节,是选择正确模型来执行 ND 的基础步骤。即使在这种情况下,检出异常的比率相对于误报而言也足够高,无需再对阈值设定作进一步考虑。

B. 水泵

第二个场景基于一套一体化系统,能够吸收并储存太阳能,并将其重复用于公共或私人环境中的各种服务,以及离网地区的水净化。该方案源于地球上欠发达地区的公共事业场景,那里的饮用水和电力供应有限,同时也适用于家庭能源管理的私人环境。此外,它还可以作为所在社区的 Wi-Fi 热点。它可以配备 2G/3G/4G 数据连接,并可通过无线方式与周围设备共享,成为社区的社交参照点。

从业务问题到 ML 问题,以设计传感器

为了确定 Survivor Box 的 IoT 解决方案设计,有必要了解业务需求。对业务问题的识别,使我们得以确定一组放置在机械系统关键位置的传感器。传感器组的确定,使我们能够将业务问题转化为不同的 ML 问题。我们所描述的是水净化泵的故障检测问题。

用于学习系统正常行为的算法是局部离群因子(Local Outlier Factor,LOF)[17]。在训练阶段,LOF 旨在训练集中识别一个或多个“正常”点簇(这里,一个点是一个 9 维向量,其中每个分量对应一个特定传感器的读数)。然后,在推理阶段,根据新观测值相对于其周围邻域点的孤立程度,计算其异常程度。由于我们预计加速度计读数对难以察觉的振荡非常敏感,即使是系统的正常行为也会表现出这种振荡,因此我们选择不根据模型的单次预测来推断系统状态(正常或异常),而是对模型最近 10 个点的预测取平均值。该模型使用 Python 和 Scikit-learn [18] 库实现。在 2000 个数据点上训练该模型大约需要 20 秒,CPU [19])占用为 2%,内存占用为 0.1%(共 2GB)。在推理阶段,该模型每秒能够做出约 50 次预测。我们通过注入异常并验证其被识别来评估系统性能。此外,我们还验证了正常观测值没有被误判为异常。

我们测试的两类异常是:

  • 加速度计异常:我们敲击系统所放置的表面,从而产生一些振动
  • 水流异常:我们使用一个小手柄调节水流水平。通过让水以不同于训练模型时所用的速度流动,来模拟异常

我们可以明确地说,我们的模型成功识别出了注入的异常(表 2)。此外,当向模型输入正常数据时,未观察到任何异常。

预测
正常异常
真实正常10000
异常121988
混淆矩阵,给出模型对正常数据和异常数据的预测结果(异常数据在对加速度计和水流的人工扰动之间大致均衡)。

结果

环境条件的变化会导致系统“正常”运行条件的改变,可能对我们的模型产生负面影响。我们认为这个问题至少有两种可能的解决办法:第一种要求在非常大的数据集上训练模型,使环境条件的可能变化被“嵌入”数据集中。然而,由于 LOF 是一种基于实例的学习算法,这会大幅增加训练时间和推理时间;第二种办法基于这样一个事实:训练样本数量少时训练时间也短,其目标是在正常运行条件发生变化时重新训练模型。

结论

由于低成本、低功耗传感器以及用作 IoT 网关的强大单板计算机(SBC)的普及,监控工业厂区从未像现在这样可行且负担得起。IoT 与 ML 的交互,为在工业流程的安全性和可靠性方面取得成功的新型数据驱动方法打开了大门。在这两个应用中,我们成功测试了基于 ML 的不同方法,既可从一组固定状态中预测系统状态,也可检测可能的异常情况,甚至可将两种方法结合起来。监测已针对被分析现象的直接测量和间接测量两种情况进行了测试。该系统可以在边缘执行计算,使我们能够在需要极高频率数据采集的环境中工作,这对于无法与远程系统共享所有数据的应用可能至关重要。这项初步工作使我们得以探索若干试验场,评估计算成本与实际任务性能之间的权衡,为在不同场景中对更复杂监测系统的进一步研究奠定了基础。

参考文献

[1] Al-Garadi, Mohammed Ali, et al. "A Survey of Machine and Deep Learning Methods for Internet of Things (IoT) Security." arXiv preprint arXiv:1807.11023 (2018).

[2] Si, Jia, Yibin Li, and Sile Ma. "Intelligent fault diagnosis for industrial big data." Journal of Signal Processing Systems 90.8-9 (2018): 1221-1233.

[3] Gustafsson, J., and F. Sandin. "District heating monitoring and control systems." Advanced District Heating and Cooling (DHC) Systems. Woodhead Publishing, 2016. 241-258.

[4] Sin, M. L., W. L. Soong, and N. Ertugrul. "Induction machine online condition monitoring and fault diagnosis-A survey." Australasian universities power engineering conference. Vol. 28. 2003.

[5] Jahnke, Patrick. "Machine learning approaches for failure type detection and predictive maintenance." Technische Universität Darmstadt 19 (2015).

[6] Schwabacher, Mark, and Kai Goebel. "A survey of artificial intelligence for prognostics." Aaai fall symposium. 2007.

[7] Si, Xiao-Sheng, et al. "Remaining useful life estimation–a review on the statistical data-driven approaches." European journal of operational research 213.1 (2011): 1-14.

[8] Peng, Ying, Ming Dong, and Ming Jian Zuo. "Current status of machine prognostics in condition-based maintenance: a review." The International Journal of Advanced Manufacturing Technology 50.1-4 (2010): 297-313.

[9] Jardine, Andrew KS, Daming Lin, and Dragan Banjevic. "A review on machinery diagnostics and prognostics implementing condition-based maintenance." Mechanical systems and signal processing 20.7 (2006): 1483-1510.

[10] Zhao, Rui, et al. "Deep learning and its applications to machine health monitoring." Mechanical Systems and Signal Processing 115 (2019): 213-237.

[11] Sakib, Nazmus, and Thorsten Wuest. "Challenges and Opportunities of Condition-based Predictive Maintenance: A Review." Procedia CIRP 78 (2018): 267-272.

[12] Čolaković, Alem, and Mesud Hadžialić. "Internet of Things (IoT): A review of enabling technologies, challenges, and open research issues." Computer Networks (2018).

[13] edge.seco.com/en/

[14] McFee, Brian, et al. "librosa: Audio and music signal analysis in python." Proceedings of the 14th python in science conference. 2015.

[15] github.com/librosa/librosa

[16] keras.io

[17] Breunig, M. M., Kriegel, H. P., Ng, R. T., & Sander, J. (2000, May). LOF: identifying density-based local outliers. In ACM sigmod record.

[18] Scikit-learn: Machine Learning in Python, Pedregosa et al., JMLR 12, pp. 2825-2830, 2011.

订阅 SECO 新闻通讯。

在 seco.com 上用您的电子邮件地址订阅。

订阅