心电图标注方法、装置、设备和介质制造方法及图纸

本申请涉及一种心电图标注方法、装置、设备和介质。所述方法包括：获取心电图记录及对应的标注，并转化为包含S个时间步的心电图数据片段和标注编码；对应心电图数据片段形成循环神经网络，为每个RNN网络层分配一个神经元掩码向量和一个输入掩码向量；对所述循环神经网络和所述决策单元进行训练，使梯度下降；根据神经元掩码向量和预定义阈值生成一个伪标签，通过伪标签约束经过偏移量调整后的神经元掩码向量，利用伪标签和调整后的神经元掩码向量之间的损失来监督可学习偏移量的学习；累加得到偏移量的总约束项，再叠加RNN网络层的推理损失作为总损失，进行梯度下降，获取循环神经网络模型；根据循环神经网络模型对动态心电图设置标注。图设置标注。图设置标注。

【技术实现步骤摘要】
心电图标注方法、装置、设备和介质


[0001]本申请涉及心电图标注
，特别是涉及一种基于循环神经网络动态剪枝的心电图标注方法、装置、设备和存储介质。

技术介绍

[0002]动态心电图是一种借助便携式心电图仪长时记录的心电图，有助于捕捉偶发的心率异常和持续时间短的心率异常数据。深度学习已成为心电图诊断分析的主要工具，其对于多种心电噪声干扰具有鲁棒性，而且可以对未标注的新数据持续学习来保证模型泛化能力。然而由于深度神经网络的过参数化问题，基于深度学习的诊断分析方案难以直接在计算和存储资源受限的边缘设备上得到部署应用。神经网络压缩技术可以有效压缩深度学习的参数量、计算量，有利于深度神经网络部署于边缘设备的移动医疗、智能健康监护应用中进行标签设置。
[0003]基于深度学习的动态心电图标签设置方案主要采用卷积神经网络来进行特征提取，也有少数方案采用长短时记忆网络提取时间域长程相关等特征，还有一些融合卷积神经网络、长短时记忆网络和注意力机制的方案被提出。但是目前缺乏针对循环神经网络的动态神经元剪枝算法，循环神经网络推理速度慢，无法对动态心电图进行快速设置标签。

技术实现思路

[0004]基于此，有必要针对上述技术问题，提供一种基于循环神经网络动态剪枝的心电图标注方法、装置、计算机设备和存储介质，能够根据当前批次输入ECG数据的特征动态调整循环神经网络的计算量，提高网络模型推理速度，实现对动态心电图进行快速设标签。
[0005]一方面，提供一种基于循环神经网络动态剪枝的心电图标注方法，所述方法包括：获取长时间的心电图记录及对应的标注，将长时间心电图记录及其完整标注转化为包含S个时间步的心电图数据片段和标注编码；对应心电图数据片段形成循环神经网络，所述循环神经网络包括多个RNN网络层，为每个RNN网络层分配一个神经元掩码向量和一个输入掩码向量，所述神经元掩码向量用于选择神经元进行剪枝，所述输入掩码向量用于压缩输入数据的维度；为每个RNN网络层设置一个偏移量列表并分配一个决策单元用于选择偏移量来调整神经元掩码向量；对所述循环神经网络和所述决策单元进行训练，进行梯度下降，更新所述循环神经网络的权重参数和各RNN网络层神经元掩码向量、输入掩码向量；根据神经元掩码向量和预定义阈值生成一个伪标签，通过伪标签约束经过偏移量调整后的神经元掩码向量，利用伪标签和调整后的神经元掩码向量之间的损失来监督可学习偏移量的学习，并计算每个RNN网络层的可学习偏移量的约束项；累加各RNN网络层的可学习偏移量的约束项得到偏移量的总约束项，再叠加RNN网络层的推理损失作为总损失，进行梯度下降，更新各RNN网络层的决策单元权重参数和可学
习偏移量，获取动态剪枝后的循环神经网络模型；根据动态剪枝后的循环神经网络模型对动态心电图设置标注。
[0006]进一步的，所述将长时间心电图记录及其完整标注转化为包含S个时间步的心电图数据片段和标注编码步骤包括：通过滑窗和数据增强方式将长时间的心电图记录生成维度K、时间步S的心电图数据片段，其中所述滑窗的宽度为K，所述数据增强的方式包括水平翻转和添加小幅度随机噪声；根据滑窗宽度K、时间步S以及心电图R波位置由长时间心电图记录的完整标注截取心电图数据片段对应的标注并进行编码。
[0007]进一步的，所述根据滑窗宽度K、时间步S以及心电图R波位置由长时间心电图记录的完整标注截取心电图数据片段对应的标注并进行编码步骤包括：获取标注对应的分类类别数量T；将每个时间步的标注编码为T+1维向量，每个向量元素取值为，最后一维用于标注整段心电图数据是否存在心律失常，前T维用于标注T种分类类别。
[0008]进一步的，所述对应心电图数据片段形成循环神经网络，所述循环神经网络包括多个RNN网络层，为每个RNN网络层分配一个神经元掩码向量和一个输入掩码向量步骤包括：设置所述循环神经网络中包括H层RNN网络层，每个网络层包含N个神经元，所述循环神经网络的第一个网络层中神经元个数为K；设置所述循环神经网络中包括神经元掩码向量和输入掩码向量，其中n表示第n层RNN网络层，1≤n≤H，S
i
表示第i个神经元的掩码取值，1≤i≤N，Z
i
表示输入数据第i个维度的掩码取值，1≤i≤K；获取所述神经元掩码向量和所述输入掩码向量的初始掩码值；为每个RNN网络层分配一个神经元掩码向量和一个输入掩码向量。
[0009]进一步的，所述获取所述神经元掩码向量和所述输入掩码向量的初始掩码值步骤包括：通过掩码值计算式计算获得所述神经元掩码向量和所述输入掩码向量，其中σ是sigmoid激活函数，μ是服从（0，1）均匀分布的随机噪声，常数ρ＜0且常数γ＞1，loga是位置参数，β是温度参数。
[0010]进一步的，所述为每个RNN网络层设置一个偏移量列表并分配一个决策单元用于选择偏移量来调整神经元掩码向量步骤包括：由一个可学习变量d0按预定义比例生成偏移量列表d
shift
；在每次RNN网络层推理前由决策单元生成选择概率向量；采用基于gumbel分布的重参数化方式结合softmax函数将选择概率向量转化成独热向量I；根据偏移量列表与独热向量的乘积在偏移量列表中选择偏移量来调整神
经元掩码向量。
[0011]进一步的，所述由一个可学习变量d0按预定义比例生成偏移量列表d
shift
步骤包括：采用公式计算方式生成偏移量列表d
shift
；其中可学习变量d0的初始值为神经元掩码向量的标准差。
[0012]进一步的，所述采用基于gumbel分布的重参数化方式结合softmax函数将选择概率向量转化成独热向量I步骤包括：决策单元进行前向推理并输出偏移量列表中每个元素被选择的概率p
i
；采用公式 计算独热向量I；其中1≤i≤m，m是独热向量的长度，m与偏移量列表长度相等，g1，
……
，g
m
是独立同分布的gumbel随机变量，且，是温度参数。
[0013]进一步的，所述对所述循环神经网络和所述决策单元进行训练，进行梯度下降，更新所述循环神经网络的权重参数和各RNN网络层神经元掩码向量、输入掩码向量步骤包括：对RNN网络层进行前向推理，计算各RNN网络层神经元掩码向量、输入掩码向量的损失并累加得到掩码总损失L
mask
；从偏移量列表中任选一个非零的偏移量Δd，调整各RNN网络层神经元掩码向量；基于调整后的神经元掩码向量对RNN网络层进行前向推理，计算各RNN网络层偏移后神经元掩码向量、输入掩码向量的损失，并累加得到偏移后掩码总损失L
shift
；叠加RNN网络层的推理损失L
RNN
和掩码向量总损失L
mask
、L
shift
作为总损失，进行梯度下降，更新所述循环神经网络的权重参数和各RNN网络层神经元掩码、输入掩码向量。
[0014]进一步的，所述计算各RNN网络层神经元掩码本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于循环神经网络动态剪枝的心电图标注方法，其特征在于，包括：获取长时间的心电图记录及对应的标注，将长时间心电图记录及其完整标注转化为包含S个时间步的心电图数据片段和标注编码；对应心电图数据片段形成循环神经网络，所述循环神经网络包括多个RNN网络层，为每个RNN网络层分配一个神经元掩码向量和一个输入掩码向量，所述神经元掩码向量用于选择神经元进行剪枝，所述输入掩码向量用于压缩输入数据的维度；为每个RNN网络层设置一个偏移量列表并分配一个决策单元用于选择偏移量来调整神经元掩码向量；对所述循环神经网络和所述决策单元进行训练，进行梯度下降，更新所述循环神经网络的权重参数和各RNN网络层神经元掩码向量、输入掩码向量；根据神经元掩码向量和预定义阈值生成一个伪标签，通过伪标签约束经过偏移量调整后的神经元掩码向量，利用伪标签和调整后的神经元掩码向量之间的损失来监督可学习偏移量的学习，并计算每个RNN网络层的可学习偏移量的约束项；累加各RNN网络层的可学习偏移量的约束项得到偏移量的总约束项，再叠加RNN网络层的推理损失作为总损失，进行梯度下降，更新各RNN网络层的决策单元权重参数和可学习偏移量，获取动态剪枝后的循环神经网络模型；根据动态剪枝后的循环神经网络模型对动态心电图设置标注。2.根据权利要求1所述的基于循环神经网络动态剪枝的心电图标注方法，其特征在于，所述将长时间心电图记录及其完整标注转化为包含S个时间步的心电图数据片段和标注编码步骤包括：通过滑窗和数据增强方式将长时间的心电图记录生成维度K、时间步S的心电图数据片段，其中所述滑窗的宽度为K，所述数据增强的方式包括水平翻转和添加小幅度随机噪声；根据滑窗宽度K、时间步S以及心电图R波位置由长时间心电图记录的完整标注截取心电图数据片段对应的标注并进行编码。3.根据权利要求2所述的基于循环神经网络动态剪枝的心电图标注方法，其特征在于，所述根据滑窗宽度K、时间步S以及心电图R波位置由长时间心电图记录的完整标注截取心电图数据片段对应的标注并进行编码步骤包括：获取标注对应的分类类别数量T；将每个时间步的标注编码为T+1维向量，每个向量元素取值为，最后一维用于标注整段心电图数据是否存在心律失常，前T维用于标注T种分类类别。4.根据权利要求2所述的基于循环神经网络动态剪枝的心电图标注方法，其特征在于，所述对应心电图数据片段形成循环神经网络，所述循环神经网络包括多个RNN网络层，为每个RNN网络层分配一个神经元掩码向量和一个输入掩码向量步骤包括：设置所述循环神经网络中包括H层RNN网络层，每个网络层包含N个神经元，所述循环神经网络的第一个网络层中神经元个数为K；设置所述循环神经网络中包括神经元掩码向量和输入掩码向量，其中n表示第n层RNN网络层，1≤n≤H，S
i
表示第i个神经元的掩码取值，1≤i≤N，Z
i
表示输入数据第i个维度的掩码取值，1≤i≤K；
获取所述神经元掩码向量和所述输入掩码向量的初始掩码值；为每个RNN网络层分配一个神经元掩码向量和一个输入掩码向量。5.根据权利要求4所述的基于循环神经网络动态剪枝的心电图标注方法，其特征在于，所述获取所述神经元掩码向量和所述输入掩码向量的初始掩码值步骤包括：通过掩码值计算式计算获得所述神经元掩码向量和所述输入掩码向量，其中σ是sigmoid激活函数，μ是服从（0，1）均匀分布的随机噪声，常数ρ＜0且常数γ＞1，loga是位置参数，β是温度参数。6.根据权利要求1所述的基于循环神经网络动态剪枝的心电图标注方法，其特征在于，所述为每个RNN网络层设置一个偏移量列表并分配一个决策单元用于选择偏移量来调整神经元掩码向量步骤包括：由一个可学习变量d0按预定义比例生成偏移量列表d
shift
；在每次RNN网络层推理前由决策单元生成选择概率向量；采用基于gumbel分布的重参数化方式结合softmax函数将所述选择概率向量转化成独热向量I；根据偏移量列表与独热向量的乘积在偏移量列表中选择偏移量来调整神经元掩码向量。7.根据权利要求6所述的基于循环神经网络动态剪枝的心电图标注方法，其特征在于，所述由一个可学习变量d0按预定义比例生成偏移量列表d
shift
步骤包括：采用公式计算方式生成偏移量列表d
shift
；其中可学习变量d0的初始值为神经元掩码向量的标准差。8.根据权利要求6所述的基于循环神经网络动态剪枝的心电图标注方法，其特征在于，所述采用基于gumbel分布的重参数化方式结合softmax函数将选择概率向量转化成独热向量I步骤包括：决策单元进行前向推理并输出偏移量列表中每个元素被选择的概率p
i
；采用公式 计算独热向量I；其中1≤i≤m，m是独热向量的长度，m与偏移量列表长度相等，g1，
……
，g
m
是独立同分布的gumbel随机变量，且，τ是温度参数。9.根据权利要求1所述的基于循环神经网络动态剪枝的心电图标注方法，其特征在于，所述对所述循环神经网络和所述决策单元进行训练，进行梯度下降，更新所述循环神经网络的权重参数和各RNN网络层神经元掩码向量、输入掩码向量步骤包括：对RNN网络层进行前向推理，计算各RNN网络层神经元掩码向量、输入掩码向量的损失并累加得到掩码总损失L
mask
；从偏移量列表中任选一个非零的偏移量Δd，调整各RNN网络层神经元掩码向量；基于调整后的神经元掩码向量对RNN网络层进行前向推理，计算各RNN网络层偏移后神
经元掩码向量、输入掩码向量的损失，并累加得到偏移后掩码总损失L
shift
；叠加RNN网络层的推理损失L
RNN
和掩码向量总损失L
mask
、L
shift
作为总损失，进行梯度下降，更新所述循环神经网络的权重参数和各RNN网络层神经元掩码、输入掩码向量。10.根据权利要求9所述的基于循环神经网络动态剪枝的心电图标注方法，其特征在于，所述计算各RNN网络层神经元掩码向量、输入掩码向量的损失并累加得到掩码总损失L
mask
步骤包括：采用以下公式计算获取掩码向量的损失；其中是第n层的输入掩码向量中某元素不为零的概率，是第n层的神经元掩码向量中元素不为零的概率，是concrete分布的参数，u1、u2为惩罚因子常数值；采用累加各RNN网络层的掩...

【专利技术属性】
技术研发人员：尹文枫，董刚，晁银银，梁玲燕，赵雅倩，
申请(专利权)人：苏州浪潮智能科技有限公司，
类型：发明
国别省市：