(19)中华 人民共和国 国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111623573.6 (22)申请日 2021.12.28 (71)申请人 浙江大学 地址 310058 浙江省杭州市西湖区余杭塘 路866号 (72)发明人 张新民　张雨桐　李乐清　朱哲人　 (74)专利代理 机构 杭州求是专利事务所有限公 司 33200 代理人 贾玉霞 (51)Int.Cl. G06F 30/27(2020.01) G06N 3/04(2006.01) G06N 3/08(2006.01) G06F 119/04(2020.01) (54)发明名称 基于MLP-LSTM有监督联合模型的剩余使用 寿命预测方法 (57)摘要 本发明公开了一种基于MLP ‑LSTM有监督联 合模型的剩余使用寿命预测方法， 首先使用多层 感知器MLP 对多维时间序列历史信息进行数据融 合提取机器的健康指标特征； 将提取的健康指标 时间序列输入到LS TM中， 计算机器当前的剩余使 用寿命RU L。 进一步， 利用有标签样本数据集将两 个串联连接的神经网络同时进行有监督训练更 新权重， 在验证集中评估预测结果并自适应调整 参数获得优化模型。 训练得到的MLP ‑LSTM有监督 联合模型不仅有效提高了LSTM对剩余使用寿命 的预测能力， 而且同时提供了多维传感器数据的 特征融合结果， 能够有效表现当前机器的健康状 况， 为设备维护和保养提供了有效的参 考指标。 权利要求书3页 说明书11页 附图4页 CN 114282443 A 2022.04.05 CN 114282443 A 1.一种基于MLP ‑LSTM有监督联合模型的剩余使用寿命预测方法， 其特征在于， 所述 MLP‑LSTM有监督联合模 型是在输入层和深度LSTM神经网络之间增加MLP神经网络， 所述MLP 神经网络用于数据融合； 所述深度LSTM神经网络用于剩余使用寿命预测， 即RUL预测； 该方法包括以下步骤： 步骤一： 收集设备数据， 组成数据集， 将数据集分为训练集和验证集， 根据不同工况进 行数据预处 理； 步骤二： 训练集输入给MLP神经网络， MLP神经网络将多维传感器特征压缩为HI健康特 征指标， 得到若干健康指数HI时间序列； 步骤三： 将健康指数HI时间序列输入到深度LSTM神经网络中， 由深度LSTM神经网络计 算获得RUL预测值； 步骤四： 基于RUL的预测值和真实值之间的误差计算损失函数， 采用训练集通过 RMSprop梯度自适应对MLP ‑LSTM有监督联合模型进行训练； 当训练集和验证集输入当前模 型后得到的误差结果小于一定值或其变化量小于一定值时， 同时模型训练的损失函数达到 收敛， 模型训练结束并保存MLP ‑LSTM有监 督联合模型； 步骤五： 将待预测的设备数据预处理后输入到保存 的MLP‑LSTM有监督联合模型， 得到 实时输出的HI和RUL数值。 2.根据权利要求1所述的基于MLP ‑LSTM有监督联合模型的剩余使用寿命预测方法， 其 特征在于， 所述 步骤一中的有标签数据集 为： Xo＝{(xit， rulit)|i≤n， t≤Ti}             (1) 其中， rulit为t时刻的剩余使用寿命的值， rulit＝Ti‑t              (2) 当设备完全无法使用时， rulit为0， 且所有的rulit是按时序逆向增 加； xit为第i个传感器数据从初始到时间t的序列， xit＝[xi(1)， xi(2)， ...， xi(t)]             (3) 其中， xi为第i个传感器数据从初始到时间Ti的序列， xi＝[xi(1)， xi(2)， ...， xi(Ti)]           (4) 所述预处理包括归一化处理和滑动 时间窗采样处理； 其中， 归一化处理包括全局归一 化和条件归一化， 当设备数据为不同工况下的数据时， 进行条件归一化， 否则， 进行全局归 一化。 3.根据权利要求1所述的基于MLP ‑LSTM有监督联合模型的剩余使用寿命预测方法， 其 特征在于， 所述步骤二中， 向MLP中输入多传感器信息多维时间序列， MLP将多维数据压缩为 一维， 最后输出包 含健康指标HI时间序列的集 合； 所述MLP的搭建和预训练过程如下： 向MLP神经网络中输入多传感器信息多维时间序列， MLP神经网络将多维数据压缩为一 维； MLP神经网络前向传播过程中， 每一个节点都由前一层的所有节点计算得到， 给前一层 的每一个节点一个权值W， 再加上一个偏置b， 最后通过激活函数中得到下一层的某个节点 的数值： 其中， 第L+1层节点j的数值 为权　利　要　求　书 1/3 页 2 CN 114282443 A 2MLP神经网络最后一层的输出为HI时间序列的集 合片 H＝{hi(tj)|i＝1， 2， ...， N； 1， 2， . ..， Ti}          (6) 其中， H是由每个时间点的健康指标hi(tj)构成的集合， hi(tj)＝f(xi(tj))， f(xi)即为 MLP神经网络对应的函数； T为时间序列的长度； h表 示健康指数HI； xi(tj)表示tj时刻每个传 感器数据l的集合， xi(tj)＝[li， 1(tj)， li， 2(tj)， ...， li， p(tj)]∈R1×p； x表示原始样本， p表示 传感器的数量； xi(tj)的集合为X， X＝{xi(tj)|i＝1， 2， ...， N； 1， 2， . ..， Ti}。 4.根据权利要求1所述的基于MLP ‑LSTM有监督联合模型的剩余使用寿命预测方法， 其 特征在于， 所述 步骤三具体分为如下的子步骤： 深度LSTM神经网络 由多层LSTM堆叠而成， 每一层LSTM 的向量维度可变； HI健康指标通 过第一层LSTM解码为多维的传感器时间序列， 深度LSTM网络的上一层的输出作为下一层的 输入， 第l层的更新公式如下： 其中， l表示深度LSTM神经网络的层数， t表示LSTM某时刻的单元数， 表示第l层t时刻 的输入单元， 表示第l层t时刻的遗忘单元， 表示第l层t时刻的输出单元， 表示第l层 t时刻的状态单元， 表示第l层t时刻的隐藏单元， σ 表示sigmoid激活函数， ⊙表示元素乘 法计算， tanh表示tanh激活函数， 表示第l‑1层t时刻的隐藏单元权重， 表示第l层t ‑1时刻的隐藏单 元权重， 表示偏差； 最后一层的LSTM神经网络的最后一单元输出多维特征向量， 经过线性层计算， 得到RUL 预测值。 5.根据权利要求1所述的基于MLP ‑LSTM有监督联合模型的剩余使用寿命预测方法， 其 特征在于， 所述 步骤四具体分为如下的子步骤： (1)深度LSTM神经网络的输入层是MLP ‑LSTM有监督联合模型的第l层， 包含n个神经元， MLP神经网络的输出层则是MLP ‑LSTM有监督联合模型的第l ‑1层， 只有一个神经元； 设计 MLP‑LSTM有监督联合模型的第l层和l ‑1层的神经元误差δl、 δl‑1， 用于实现MLP神经网络和 深度LSTM神经网络的同步训练； δl＝(wl+1)Tδl+1             (12) 其中， w和B分别是神经网络的权 重参数和批尺寸；权　利　要　求　书 2/3 页 3 CN 114282443 A 3