一种多尺度注意力的深度非线性因子化方法技术

本发明专利技术公开了一种多尺度注意力的深度非线性因子化方法，包括如下步骤：步骤1：多模态脑成像大队列特征构建；步骤2：脑成像数据的多尺度注意力特征提取；步骤3：多模态脑成像数据深度非线性因子化；步骤4：因子的前向拟合和反向构造与求精；步骤5：反向更新非线性神经网络参数。本发明专利技术融合通道注意力模块和空间注意力模块对输入原始数据进行筛选，对提取的众多特征进行自动注意力加权，从而强调重要特征并压缩不重要特征，并将该注意力机制融入后续的非线性因子化分析方法中，以期构建基于注意力的深度非线性因子化特征，实现对高非线性脑成像数据进行精确建模。数据进行精确建模。数据进行精确建模。

【技术实现步骤摘要】
一种多尺度注意力的深度非线性因子化方法


[0001]本专利技术涉及人工智能
，特别涉及一种多尺度注意力的深度非线性因子化方法。

技术介绍

[0002]多模态脑成像数据(EEG、fMRI和MRI)固有的存在多模态和非线性属性，多模态脑成像数据特征的自动提取与聚焦(增强关键特征)成为迫切需要。同时，脑成像信号呈现典型的弱信号、高噪声、非线性以及多维性特征，刻画复杂脑活动内在本质特征极具挑战性，如数据中包含多维度互相关的结构信息，内在非线性更是加大了模型和算法设计的难度。在多维病理性脑成像信号的因子化分析中，首要问题是保证因子的正确性，目前对于多维、非线性脑成像数据的因子化主要采用以下几种多线性方法：矩阵分解、张量分解等，这些方法缺乏注意力机制，同时方法的多线性机制无法对高非线性脑成像数据进行精确建模。为此，本专利技术拟研究基于多尺度注意力的深度非线性因子化方法，为后续任务提供数据基础。

技术实现思路

[0003]本专利技术的目的在于提供一种多尺度注意力的深度非线性因子化方法，以解决上述
技术介绍
中提出的问题。
[0004]为实现上述目的，本专利技术提供如下技术方案：
[0005]一种多尺度注意力的深度非线性因子化方法，包括如下步骤：
[0006]步骤1：多模态脑成像大队列特征构建；
[0007]步骤2：脑成像数据的多尺度注意力特征提取；
[0008]步骤3：多模态脑成像数据深度非线性因子化；
[0009]步骤4：因子的前向拟合和反向构造与求精；
[0010]步骤5：反向更新非线性神经网络参数。
[0011]进一步地，步骤1的步骤如下：首先，利用利用多尺度注意力机制对关键特征进行聚焦；然后，利用深度因子化理论将高维脑成像张量映射到低维空间，同步提取多维度特征因子，同时解决先验知识缺乏、参数设定依赖专家设定的挑战；其次，利用层次平行因子理论，实现增量式高维脑成像数据的非线性因子求解，在分布式并行计算架构下实现因子融合海量并行计算获取脑成像大队列的特征因子；最后，利用深度网络模型对以因子为主的特征进行时空域增强，最终得到动态高维脑成像数据的低维特征。
[0012]进一步地，步骤2融合通道注意力模块和空间注意力模块对输入原始数据进行筛选，对提取的众多特征进行自动注意力加权，从而强调重要特征并压缩不重要特征。
[0013]进一步地，步骤3中，首先，构造深度平行因子分解模型，模型自动学习初始张量的因子，分解过程无需任何先验知识或假设条件，可以有多种基张量供选择，包括随机基张量、单位基张量，相对距离基张量、Hilbert基张量。
[0014]进一步地，步骤4中因子的前向拟合：从初始张量(X)出发,利用张量切片技术构建
输入样本，第i个深度CNN将这些切片进行因子分解，以获得第i个模式的因子矩阵，然后，N个相关的CNNs以并行方式通过这种前向非线性拟合共同导出所有因子，最后，通过张量乘积操作，以恢复一个新的张量(Y)。
[0015]进一步地，步骤4中因子的反向构造与求精:为了满足Kruskal条件的本质唯一分解，所有来自N模式的因子都用Hilbert基张量进行张量乘积，目的是最大限度地保留复原张量的结构信息，受自编码器启发，最小化复原张量(Y)与初始张量(X)之间的误差，利用神经网络的反向传播算法对因子矩阵逐步求精。
[0016]进一步地，步骤5的算法思想主要是借助链式法则，训练误差关于偏置的梯度是所有节点的灵敏度之和，对于训练误差相对于连接权重的梯度，可以用BP算法进行计算，由于很多连接权值共享，因此对于一个给定权值，需要对所有与该权值有联系的连接对该点求梯度，然后再对这些梯度求和。
[0017]与现有技术相比，本专利技术的有益效果是：本专利技术融合通道注意力模块和空间注意力模块对输入原始数据进行筛选，对提取的众多特征进行自动注意力加权，从而强调重要特征并压缩不重要特征，并将该注意力机制融入后续的非线性因子化分析方法中，以期构建基于注意力的深度非线性因子化特征。研究多维脑成像数据深度非线性因子化分析方法，该方法采用基于端到端的无监督学习模式以提取脑成像数据的结构化特征，首先，将多维脑成像数据(初始张量)沿各维度进行矩阵化，以作为无监督学习模型的输入；其次，采用基于卷积神经网络模型对不同维度的数据进行非线性拟合，以获取各维度的特征因子；再次，利用希尔伯特基张量与各维度特征因子的张量乘积构造复原张量；最后，设计初始张量与复原张量间的均方误差损失函数，反向求取结构化特征因子，实现对高非线性脑成像数据进行精确建模。
附图说明
[0018]图1为本专利技术的动态高维脑成像数据低维度特征准确提取流程图；
[0019]图2为本专利技术的多尺度注意力模型结构图；
[0020]图3为本专利技术的D
‑
PARAFAC模型结构图。
具体实施方式
[0021]下面将结合本专利技术实施例中的附图，对本专利技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本专利技术一部分实施例，而不是全部的实施例。基于本专利技术中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本专利技术保护的范围。
[0022]一种多尺度注意力的深度非线性因子化方法，首先，面向脑功能障碍分析的脑成像数据具有多模态、结构复杂特性，并且因不同应用而异，因此针对不同数据源构建不同脑成像张量，如多通道脑电时间序列对应相应的多个特征域如通道、时间、频率、不同被试等，多维(功能)核磁共振图像对应相应轴面、冠状面、矢状面等，进而分别构造高维脑电、高维fMRI与高维MRI；首先，利用利用多尺度注意力机制对关键特征进行聚焦；然后，利用深度因子化理论将高维脑成像张量映射到低维空间，同步提取多维度特征因子，同时解决先验知识缺乏、参数设定依赖专家设定的挑战；其次，利用层次平行因子理论，实现增量式高维脑
成像数据的非线性因子求解，在分布式并行计算架构下实现因子融合海量并行计算获取脑成像大队列的特征因子；最后，利用深度网络模型对以因子为主的特征进行时空域增强，最终得到动态高维脑成像数据的低维特征。具体技术路线如(见图1)所示。
[0023]本专利技术提出多尺度注意力特征提取方法，该方法融合通道注意力模块和空间注意力模块对输入原始数据进行筛选(通道注意力模块图2B和空间注意力模块2C)，对提取的众多特征进行自动注意力加权，从而强调重要特征并压缩不重要特征。具体多尺度注意力模型结构如下图2所示：
[0024]通道注意力模块如图2B所示，该部分注意力机制分成三个部分：压缩，归一化和应用注意力。在压缩过程中，对于原始数据的每个通道，进行小波变换、信息熵计算，获取通道数据的时频与熵特征。对于时频特征，需要进一步求其平均能量，使得每个通道的特征都压缩成一个数字。也即是，通道注意力模块将原始数据D
c
压缩成大小为通道数的压缩向量V
c
：
[0025]V
c
＝f(D
c本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种多尺度注意力的深度非线性因子化方法，其特征在于，包括如下步骤：步骤1：多模态脑成像大队列特征构建；步骤2：脑成像数据的多尺度注意力特征提取；步骤3：多模态脑成像数据深度非线性因子化；步骤4：因子的前向拟合和反向构造与求精；步骤5：反向更新非线性神经网络参数。2.如权利要求1所述的一种多尺度注意力的深度非线性因子化方法，其特征在于，步骤1的步骤如下：首先，利用利用多尺度注意力机制对关键特征进行聚焦；然后，利用深度因子化理论将高维脑成像张量映射到低维空间，同步提取多维度特征因子，同时解决先验知识缺乏、参数设定依赖专家设定的挑战；其次，利用层次平行因子理论，实现增量式高维脑成像数据的非线性因子求解，在分布式并行计算架构下实现因子融合海量并行计算获取脑成像大队列的特征因子；最后，利用深度网络模型对以因子为主的特征进行时空域增强，最终得到动态高维脑成像数据的低维特征。3.如权利要求1所述的一种多尺度注意力的深度非线性因子化方法，其特征在于，步骤2融合通道注意力模块和空间注意力模块对输入原始数据进行筛选，对提取的众多特征进行自动注意力加权，从而强调重要特征并压缩不重要特征。4.如权利要求1所述的一种多尺度注意力的深度非线性因子化方法，其特征在于，步骤3中，首先，构造深度平行因子分解模型，模型自动学习初始张量的因子，分解过程无需任何...

【专利技术属性】
技术研发人员：柯亨进，陈丹，李小俚，王凤琴，刘志远，
申请(专利权)人：湖北理工学院，
类型：发明
国别省市：