一种基于视觉Transformer的脑电信号分类方法技术

技术编号:32679875 阅读:51 留言:0更新日期:2022-03-17 11:37
本发明专利技术公开了一种基于视觉Transformer的脑电信号分类方法,首先进行数据预处理,获取带标签的处理后的EEG数据,然后构建基于Vision Transformer的脑电信号分类模型;最后通过预处理后的EEG数据训练脑电信号分类模型:本发明专利技术方法通过合适的EEG特征嵌入方法对EEG样本进行特征嵌入然后学习EEG样本的局部特征与连续脑电信号之间的长时间依赖关系,在脑电信号分类任务中取得了较好的性能。脑电信号分类任务中取得了较好的性能。脑电信号分类任务中取得了较好的性能。

【技术实现步骤摘要】
一种基于视觉Transformer的脑电信号分类方法


[0001]本专利技术涉及生物特征识别领域中的脑电信号识别领域,具体涉及一种基于视觉Transformer(Vision Transformer,ViT)的脑电信号分类方法。

技术介绍

[0002]脑电波(Electroencephalogram,EEG)是一种使用电生理指标记录大脑活动的方法,大脑在活动时,大量神经元同步发生的突触后电位经总和后形成的。它记录大脑活动时的电波变化,是脑神经细胞的电生理活动在大脑皮层或头皮表面的总体反映。脑电信号中包含丰富、多样、客观的生理信息,对其研究与分析经常用于脑机接口(Brain Computer Interface,BCI)中,以实现人或动物大脑与外部设备之间的直接连接,实现脑与设备的信息交换。因其客观性以及较其它生理信号如核磁共振的便利性,脑电信号也用于生理状态的评判,如通过脑电信号分析人们的情绪,在疲劳驾驶的应用中用脑电信号判断驾驶员是否处于疲劳状态等。
[0003]现有的脑电信号分析方法有传统的基于时域或频域的信号分析方法。常见的时域分析方法有:波形特征描述法、自回归AR模型等。常见的频域分析方法有:傅里叶变换、功率谱密度、非参数谱估计方、基于AR模型的功率谱估计等。传统的信号分析方法需要人工提取脑电信号的特征,费时费力。随着人工智能技术的发展,越来越多的人工智能方法用于脑电信号的分析,经典的机器学习方法如KNN,SVM,LDA等,深度学习方法如CNN,RNN,LSTM等用于对脑电信号进行分析。基于机器学习与深度学习的方法可以自动提取和学习脑电信号中的特征,极大的推进了脑电信号分析的发展。虽然这些基于机器学习、深度学习的方法取得了一定成功,但是这些方法并没有完全利用好脑电信号独有的特征。
[0004]脑电信号是具有长依赖的时序信号。论文《Attention is All You Need》中提出的Transformer模型在NLP领域取得了极大的成功,该模型可以学习句子中的长依赖关系,但将其直接应用在脑电信号的分类中无法达到理想的效果。论文《AN IMAGE IS WORTH 16X16 WORDS:TRANSFORMERS FOR IMAGE RECOGNITION AT SCALE》中提出了一种适合图像领域的ViT模型,该模型在图像领域取得了极大的成功,脑电信号从某种意义上来说也是一种特殊的图像。不过直接将ViT用于脑电信号的分类也无法获得理想的效果,因为其没有局部特征学习的模块,而局部特征对脑电信号十分重要。

技术实现思路

[0005]为了克服上述把transformer应用在EEG信号分类中的性能不佳,无法学习到特征的局部特征等问题,本专利技术提出了一种基于视觉Transformer的脑电信号分类方法EEG Vision Transformer(EEGViT),该方法通过EEG Transformer Encoder模块学习局部特征,Sequence In Time Transformer Encoder学习连续样本间的时序依赖关系提高了分类性能。
[0006]本专利技术为克服现有方法的不足所采用的技术方案是:
[0007]一种基于视觉Transformer的脑电信号分类方法,包含如下步骤:
[0008]步骤1:数据预处理,获取带标签的处理后的EEG数据:
[0009]步骤2:构建基于Vision Transformer的脑电信号分类模型;
[0010]步骤3:通过预处理后的EEG数据训练脑电信号分类模型:
[0011]进一步的,步骤1具体方法如下:
[0012]采用公开情绪数据集SEED数据集,对于SEED数据集中提供的预处理后的EEG数据按1秒时间进行切分,切分后的数据对每一个脑电通道进行差分熵特征的提取,得到62个通道乘以5个频段的差分熵特征数据,最后展平为长度为310的一维数据样本,样本的标签为提供的对应的刺激情绪的标签。连续的num个样本为一组数据作为模型的输入。
[0013]进一步的,步骤2具体方法如下:
[0014]所述的基于Vision Transformer的脑电信号分类模型(EEG Vision Transformer)基于Vision Transformer改进而来,在Vision Transformer的Transformer Encoder中的Multi

Head Attention后添加了一个CNN模块构成了EEG Transformer Encoder模块,在Transformer Encoder中的Multi

Head Attention后添加了一个MBConv模块而构成的Sequence In Time Transformer Encoder模块,所述的脑电信号分类模型包括num个EEG Transformer Encoder模块,用于学习连续num个样本的局部特征,学习到的num个样本的局部特征输入到Sequence In Time Transformer Encoder模块中学习样本间的时序依赖,得到num个具有时序依赖的token。最后将num个token输入到num个分类器中进行分类,分类器为MLP模块。
[0015]进一步的,所述的步骤3具体方法如下:
[0016]输入:带标签的处理后的EEG数据样本,连续的num个样本为一组输入模型,共total_group组,最大迭代次数N,EEG样本的大小EEG_size,patch块大小patch_size,嵌入维度大小embed_dim。
[0017]步骤3.1:初始化:
[0018]初始化num个EEG Transformer Encoder模块和num个分类器,一个Sequence In Time Transformer Encoder模块,初始迭代次数t=1。
[0019]步骤3.2:通过EEG Transformer Encoder模块学习单个样本的局部特征。
[0020]步骤3.3:通过Sequence In Time Transformer Encoder模块学习样本间的时序依赖。
[0021]步骤3.4:通过分类器对学习到的特征进行分类。
[0022]步骤3.5:根据分类结果与真实标签计算交叉熵,最小化交叉熵损失更新模型超参数。
[0023]步骤3.6:输入的每一组数据都执行一次步骤3.2至3.5;
[0024]步骤3.7:所有输入数据都处理完成后,迭代次数t=t+1,回到步骤3.2迭代进行,直到到达设定的迭代次数;
[0025]输出:预测的脑电信号类别的概率。
[0026]与现有技术相比,本专利技术的有益效果是:
[0027](1)本专利技术通过提出一个适合EEG样本的特征嵌入方法。
[0028](2)本专利技术通过提出的EEG Transformer Encoder模块可以学习输入数据的局部
Time本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种基于视觉Transformer的脑电信号分类方法,其特征在于,包含如下步骤:步骤1:数据预处理,获取带标签的处理后的EEG数据:步骤2:构建基于Vision Transformer的脑电信号分类模型;步骤3:通过预处理后的EEG数据训练脑电信号分类模型。2.根据权利要求1所述的一种基于视觉Transformer的脑电信号分类方法,其特征在于,步骤1具体方法如下:采用公开情绪数据集SEED数据集,对于SEED数据集中提供的预处理后的EEG数据按1秒时间进行切分,切分后的数据对每一个脑电通道进行差分熵特征的提取,得到62个通道乘以5个频段的差分熵特征数据,最后展平为长度为310的一维数据样本,样本的标签为提供的对应的刺激情绪的标签;连续的num个样本为一组数据作为模型的输入。3.根据权利要求1所述的一种基于视觉Transformer的脑电信号分类方法,其特征在于,步骤2具体方法如下:所述的基于Vision Transformer的脑电信号分类模型EEG Vision Transformer基于Vision Transformer改进而来,在Vision Transformer的Transformer Encoder中的Multi

Head Attention后添加了一个CNN模块构成了EEG Transformer Encoder模块,在Transformer Encoder中的Multi

Head Attention后添加了一个MBConv模块而构成的Sequence In Time Transformer Encoder模块,所述的脑电信号分类模型包括num个EEG Transformer Encoder模块,用于学习连续num个样本的局部特征,学习到的num个样本的局部特征输入到Sequence In Time Transformer Encoder模块中学习样本间的时序依赖,得到num个具有时序依赖的token;最后将num个token输入到num个分类器中进行分类,分类器为MLP模块。4.根据权利要求3所述的一种基于视觉Transformer的脑电信号分类方法,其特征在于,所述的步骤3具体方法如下:输入:带标签的处理后的EEG数据样本,连续的num个样本为一组输入模型,共total_group组,最大迭代次数N,EEG样本的大小EEG_size,patch块大小patch_size,嵌入维度大小embed_dim;步骤3.1:初始化:初始化num个EEG Transformer Encoder模块和num个分类器,一个Sequence In T...

【专利技术属性】
技术研发人员:曾虹刘洋郑浩浩徐非凡潘登李明明金燕萍夏念章吴琪赵月
申请(专利权)人:杭州电子科技大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1