一种基于注意力机制的不良心血管事件的预测装置制造方法及图纸

本发明专利技术公开了一种基于注意力机制的急性冠脉综合征不良心血管事件的预测方法，包括：(1)构建训练样本；(2)以双向长短时效记忆网络为基础，并根据患者静态特征‑动态特征关系，引入注意力机制对训练样本进行权重计算，构建预训练模型；(3)以训练样本和训练样本对应的真值标签，对预训练模型进行训练，得到不良心血管事件预测模型；(4)利用预测模型预测待测样本发生不良心血管事件的概率。本发明专利技术提供的预测方法可对急性冠脉综合征患者的缺血事件和出血事件发生概率进行预测，从而辅助医生制定合理的诊疗措施，支持临床决策，降低医疗开支。

A Prediction Device for Adverse Cardiovascular Events Based on Attention Mechanism

The invention discloses a method for predicting adverse cardiovascular events of acute coronary syndrome based on attention mechanism, which includes: (1) constructing training samples; (2) calculating the weight of training samples by introducing attention mechanism based on bidirectional long-term and short-term memory network and according to the static characteristics and dynamic characteristics of patients, and constructing a pre-training model; (3) training samples and training samples. The corresponding truth label of the sample is used to train the pre-training model to get the prediction model of adverse cardiovascular events; (4) Predicting the probability of adverse cardiovascular events in the sample to be tested by using the prediction model. The forecasting method provided by the invention can predict the occurrence probability of ischemic and hemorrhagic events in patients with acute coronary syndrome, thereby assisting doctors to formulate reasonable diagnosis and treatment measures, supporting clinical decision-making and reducing medical expenses.

【技术实现步骤摘要】
一种基于注意力机制的不良心血管事件的预测装置
本专利技术属于数据处理领域，具体涉及一种基于注意力机制的急性冠脉综合征患者不良心血管事件的预测装置。
技术介绍
急性冠脉综合征(Acutecoronarysyndrome,ACS)是一种发病急、影响广、死亡率和致残率极高的心血管疾病。主要不良心血管事件是急性冠脉综合征预后可预测性最有力的结局指标。因此，早期主要不良心血管事件的临床风险预测对及时精准治疗急性冠脉综合征十分重要。ACS患者住院期间可能会发生诸如缺血、失血等主要不良心血管事件。临床上使用抗栓药物(包括抗血小板药物和抗凝药物)治疗可降低急性冠脉综合征患者发生主要不良心血管事件的概率。增强急性冠脉综合征抗栓力度可降低ACS患者的缺血事件发生率，却增加了患者出血的风险，而大出血事件往往会引发患者发生缺血事件，因此平衡好抗缺血作用和出血的风险，在临床上显得尤为重要。现今已有的预测急性冠脉综合征患者临床风险的方法，比如全球急性冠脉综合事件注册(GlobalRegistryofAcuteCoronaryEvents,GRACE)和心肌梗死溶栓治疗(ThrombolysisinMyocardialInfarction,TIMI)，可用来估计ACS患者发生缺血事件的风险等级。这些工具已经在临床实践中得到应用，并在指导缺血性心脏病的护理和治疗方面取得了巨大的成就，仍然存在以下局限性，仅有少量特征作为风险因子，虽然简化了计算，方便其在临床环境中使用，然而这也导致了评分工具缺乏可概括性。除此之外，GRACE和TIMI评分均无法同时评估患者缺血事件和出血事件的风险等级。随着医疗信息化的迅速发展，可基于电子健康记录构建机器学习模型，来预测ACS患者主要不良心血管事件发生概率。其中，注意力机制(AttentionMechanism,AM)是一种模拟人脑注意力机制的模型，基本原理就是在每次识别时，首先计算每个输入特征的权值，然后对特征进行加权求和。假如求出来的特征的权值较大，说明该特征对当前识别作出的贡献就越大。作为一个独立的框架，注意力机制还可以使用更加复杂的网络结构来改善其效果。总的来说，注意力机制有以下两个优点：⑴减小处理高维输入数据的计算负担，结构化地选取输入的子集，降低数据维度。⑵更专注于找到输入数据中与当前输出显著相关的有用信息，从而提高输出的质量。
技术实现思路
本专利技术的目的是提供一种基于注意力机制的不良心血管事件的预测装置，本专利技术提供的预测装置可对急性冠脉综合征患者的缺血事件和出血事件发生概率进行预测，从而辅助医生制定合理的诊疗措施，支持临床决策，降低医疗开支。为实现上述目的，本专利技术提供以下技术方案：一种基于注意力机制的不良心血管事件的预测装置，包括计算机存储器、计算机处理器以及存储在所述计算机存储器中并可在所述计算机处理器上执行的计算机程序：所述计算机存储器中存有不良心血管事件结果预测模型，其包括；动态特征提取模块、注意力机制模块和分类模块；所述计算机处理器执行所述计算机程序时实现以下步骤：接收患者的动态特征和静态特征，动态特征提取模块以急性冠脉综合征患者的动态特征作为输入，得到输出集；以患者的动态特征与其入院记录的静态特征结合起来作为注意力机制模块的输入，输出注意力权重值ω；并将输出集与注意力权重值ω点乘，输出结果γ；以输出结果γ作为输入，分类模块输出不良心血管事件结果的预测概率，所述预测概率包括缺血事件发生的概率和出血时间发生的概率。所述不良心血管事件结果预测模型的获得过程为：(1)采集急性冠脉综合征患者的电子健康记录，所述电子健康记录包括患者的静态特征和动态特征，并对该电子健康记录进行预清洗，对样本是否发生缺血事件或者出血事件这两种不良心血管事件来进行标注，得到训练样本标签，构建训练样本；(2)以双向长短时效记忆网络为基础，根据患者的静态特征-动态特征关系，引入注意力机制，构建预训练模型；所述预训练模型的网络结构为：双向长短时效记忆网络，以急性冠脉综合征患者的动态特征作为输入，得到输出集；深度注意力网络，以患者的动态特征与其入院记录的静态特征结合起来作为深度注意力网络的输入，输出注意力权重值ω；再将双向长短时效记忆网络的输出集与注意力权重值ω点乘，输出结果γ；分类器，将γ作为输入，输出分类结果；(3)以步骤(1)中的训练样本作为步骤(2)中预训练模型的输入层，以所述训练样本对应的真值标签作为所述预训练模型的输出层，对所述预训练模型进行训练，获得对应的动态特征提取模块、注意力机制模块和分类模块，组成不良心血管事件结果预测模型。本专利技术将清洗预处理后的待测样本输入不良心血管事件结果预测模型，经计算得到待测样本发生缺血或出血事件的概率，实现对急性冠脉综合征患者发生不良心血管事件的预测。在步骤(1)中，所述的构建训练样本的方法包括以下步骤：(1-1)对患者的电子健康记录数据集进行预处理操作，处理实验数据缺失值，提取急性冠脉综合征患者的特征样本，将特征分组为静态特征和动态特征，得到样本数据集；(2-2)将样本数据集设为数据集D＝{P1，P2，…，PN}，N代表病人总数，P代表每一个病人的特征；假设每个病人由静态特征Xs和动态特征Xd组成，表示为：P＝{Xs，Xd}，Xs∈RS，Xd∈RT×D，S代表静态特征的维度，T代表病人在院记录的天数，D代表动态特征的维度；得到训练样本。所述的深度注意力网络根据注意力机制构建。所述的预测模型为二分类预测模型，输出患者急性冠脉综合征患者是否发生缺血或出血事件。预测结果为缺血事件和出血事件发生的概率值。在步骤(3)中，所述的对预训练模型进行训练的过程中，对深度注意力网络训练的方法为：将N位病人的动态特征Xd与其入院记录时的静态特征Xs拼接起来，共同作为深度注意力网络的特征输入Xi；接着，针对输入集X＝{X1，X2，...，XN}做一个非线性映射，得到一个一维的行向量α，α的维度是(1，T)；最后，用softmax函数对α进行归一化，得到注意力权重ω：ω＝softmax(α)。在步骤(3)中，所述的对预训练模型进行训练的过程中，所述的双向长短时效记忆网络中的元胞的状态更新方式为：s(t)＝f(t)⊙s(t-1)+i(t)⊙φ(Wsxx(t)+Wshh(t-1))其中，x表示输入样本，s代表元胞更新后的状态，t代表当前时刻，W表示权重，f表示遗忘门的输出，h表示隐藏层的输出，σ表示sigmoid激活函数，φ代表tanh激活函数，计算公式为：f(t)＝σ(Wfxx(t)+Wfhh(t-1)+Wfss(t-1))h(t)＝o(t)⊙φ(s(t))将双向长短时效记忆网络的输出O与深度注意力网络输出的权重ω作点乘，得到输出结果γ：γ＝O·ω在步骤(3)中，选择使用交叉熵代价函数作为损失函数表示不良心血管事件预测模型拟合的好坏，所述交叉熵代价函数的计算方法如下：其中，n是所有输入x的个数，j则代表第几个输入；并通过梯度下降算法来更新参数w和b，表达式如下：与现有技术相比，本专利技术具有的优点为：本专利技术提供的预测装置通过可导入患者电子健康记录，同时预测ACS患者的缺血事件和出血事件发生概率，从而辅助医生制定合理的诊疗措施，支持临床决策，降低医疗开支，改善ACS患者预后。用注意力机制计算的权重可本文档来自技高网...

【技术保护点】
1.一种基于注意力机制的不良心血管事件的预测装置，包括计算机存储器、计算机处理器以及存储在所述计算机存储器中并可在所述计算机处理器上执行的计算机程序，其特征在于：所述计算机存储器中存有不良心血管事件结果预测模型，其包括；动态特征提取模块、注意力机制模块和分类模块；所述计算机处理器执行所述计算机程序时实现以下步骤：接收患者的动态特征和静态特征，动态特征提取模块以急性冠脉综合征患者的动态特征作为输入，得到输出集；以患者的动态特征与其入院记录的静态特征结合起来作为注意力机制模块的输入，输出注意力权重值ω；并将输出集与注意力权重值ω点乘，输出结果γ；以输出结果γ作为输入，分类模块输出不良心血管事件结果的预测概率，所述预测概率包括缺血事件发生的概率和出血时间发生的概率。

【技术特征摘要】
2018.08.08 CN 20181089814601.一种基于注意力机制的不良心血管事件的预测装置，包括计算机存储器、计算机处理器以及存储在所述计算机存储器中并可在所述计算机处理器上执行的计算机程序，其特征在于：所述计算机存储器中存有不良心血管事件结果预测模型，其包括；动态特征提取模块、注意力机制模块和分类模块；所述计算机处理器执行所述计算机程序时实现以下步骤：接收患者的动态特征和静态特征，动态特征提取模块以急性冠脉综合征患者的动态特征作为输入，得到输出集；以患者的动态特征与其入院记录的静态特征结合起来作为注意力机制模块的输入，输出注意力权重值ω；并将输出集与注意力权重值ω点乘，输出结果γ；以输出结果γ作为输入，分类模块输出不良心血管事件结果的预测概率，所述预测概率包括缺血事件发生的概率和出血时间发生的概率。2.如权利要求1所述的基于注意力机制的不良心血管事件的预测装置，其特征在于，所述不良心血管事件结果预测模型的获得过程为：(1)采集急性冠脉综合征患者的电子健康记录，所述电子健康记录包括患者的静态特征和动态特征，并对该电子健康记录进行预清洗，对样本是否发生缺血事件或者出血事件这两种不良心血管事件来进行标注，得到训练样本标签，构建训练样本；(2)以双向长短时效记忆网络为基础，根据患者的静态特征-动态特征关系，引入注意力机制，构建预训练模型；所述预训练模型的网络结构为：双向长短时效记忆网络，以急性冠脉综合征患者的动态特征作为输入，得到输出集；深度注意力网络，以患者的动态特征与其入院记录的静态特征结合起来作为深度注意力网络的输入，输出注意力权重值ω；再将双向长短时效记忆网络的输出集与注意力权重值ω点乘，输出结果γ；分类器，将γ作为输入，输出分类结果；(3)以步骤(1)中的训练样本作为步骤(2)中预训练模型的输入层，以所述训练样本对应的真值标签作为所述预训练模型的输出层，对所述预训练模型进行训练，获得对应的动态特征提取模块、注意力机制模块和分类模块，组成不良心血管事件结果预测模型。3.如权利要求2所述的基于注意力机制的不良心血管事件的...

【专利技术属性】
技术研发人员：黄正行，段会龙，
申请(专利权)人：浙江大学，
类型：发明
国别省市：浙江,33