基于频域增强Transformer网络的红外光谱恢复方法技术

本发明专利技术提供一种基于频域增强Transformer网络的红外光谱恢复方法，通过使用若干配对的退化红外光谱和原始红外光谱来构建训练数据集；搭建基于频域增强的Transformer网络模型；使用构建的训练数据集上对基于频域增强的Transformer网络模型进行训练，获得训练后的基于频域增强的Transformer网络模型；利用训练后的基于频域增强的Transformer网络模型处理退化的红外光谱信号，得到恢复后的红外光谱信号；该方法能够在红外光谱的谱峰与平坦区域均有效去除噪声，且未发生失真，具有更加出色的恢复效果。的恢复效果。的恢复效果。

【技术实现步骤摘要】
基于频域增强Transformer网络的红外光谱恢复方法


[0001]本专利技术涉及一种基于频域增强Transformer网络的红外光谱恢复方法，属于红外光谱恢复处理


技术介绍

[0002]近年来，随着深度学习的兴起，出现了一部分新型的恢复方法，它们不同于传统方法从红外光谱退化模型出发做去卷积操作，也是从光谱本身的特征出发，但是又不同于人工区分不同特征，它采用数据驱动的方式，通过深度学习网络去自学习红外光谱的特征，用光谱的去噪声任务实现恢复功能。随着卷积神经网络(CNN)在图像去噪领域的成功，人们开始研究红外光谱领域的去噪任务，针对于一维光谱序列与二维图像序列在数据上的差异，人们使用扩展卷积层(Expanded Convolution Layer，ECL)取代原有卷积层，解决了从不同尺度数据中提取特征信息的问题，打破了从二维图像到一维光谱之间的技术壁垒，至此，基于扩展卷积的红外光谱恢复方法应运而生。
[0003]例如，H Zhu等人提出了一种轻量级的扩展卷积神经网络，用于自步长学习的红外光谱恢复方法DSPNet[Zhu H,Qiao Y,Xu G,et al.DSPNet:ALightweight Dilated Convolution Neural Networks for Spectral Deconvolution With Self
‑
Paced Learning[J].IEEE Transactions on Industrial Informatics,2020,16(12):7392
‑
7401.]。扩展卷积和自步长学习用来检测退化的红外光谱本身的重叠现象，这种网络在扩展去卷积和自学习过程中具有很强的鲁棒性，可以恢复复杂的退化光谱。即使在低信噪比的情况下，该框架在特征提取和红外光谱重建方面也具有良好的性能。
[0004]此外，也有利用深度学习中的生成对抗网络GAN去做红外光谱的恢复任务的，其将传统方法的退化模型和深度学习中的GAN相结合，利用两个生成网络来分别生成恢复红外光谱和模糊核，并且使用全变分正则优化损失函数，不仅可以保留光谱的局部特征，还可以去除随机噪声的干扰。
[0005]但自步长学习的红外光谱恢复方法DSPNet和生成对抗网络的方法GAN均存在对红外光谱整体特征的把握稍显不足，导致恢复的红外光谱在谱峰或平坦区域存有未去除的噪声，或发生失真的问题
[0006]上述问题是在基于频域增强Transformer网络的红外光谱恢复过程中应当予以考虑并解决的问题。

技术实现思路

[0007]本专利技术的目的是提供一种基于频域增强Transformer网络的红外光谱恢复方法解决现有技术中存在的复杂度较高，恢复得到的红外光谱在谱峰或平坦区域存有噪声未去除，或发生失真，恢复效果有待提高的问题。
[0008]本专利技术的技术解决方案是：
[0009]一种基于频域增强Transformer网络的红外光谱恢复方法，包括以下步骤，
[0010]S1、使用若干配对的退化红外光谱和原始红外光谱来构建训练数据集；
[0011]S2、搭建基于频域增强的Transformer网络模型；
[0012]S3、使用构建的训练数据集上对基于频域增强的Transformer网络模型进行训练，获得训练后的基于频域增强的Transformer网络模型；
[0013]S4、利用训练后的基于频域增强的Transformer网络模型处理退化的红外光谱信号，得到恢复后的红外光谱信号。
[0014]进一步地，步骤S2中，基于频域增强的Transformer网络模型包括嵌入层、编码器和解码器，
[0015]嵌入层：由特征嵌入模块对输入的一维的退化红外光谱数据中当前点本身的值转换为当前点的特征向量，由位置编码模块对当前点所在位置的进行位置编码，获得当前点的位置编码；将当前点的特征向量与当前点的位置编码进行相加获得嵌入层的输出Y
emb
；
[0016]编码器：由第一改进自注意力层将嵌入层的输出Y
emb
转换到频域进行特征提取后，进行逆变换获得增强后的自注意力，将增强后的自注意力与嵌入层的输出Y
emb
相加获得编码器内的中间变量，传递给第一前馈网络层，第一前馈网络层利用激活函数加入非线性变换后与编码器内的中间变量相加后，获得提取的特征向量作为编码器的输出；
[0017]解码器：由第二改进自注意力层将嵌入层的输出Y
emb
转换到频域进行特征提取后，进行逆变换获得增强后的自注意力，相加嵌入层的输出Y
emb
后输入改进多头注意力层，同时将编码器的输出Y
enc
输入改进多头注意力层，改进多头注意力层计算得到改进多头注意力，将改进多头注意力与增强后的自注意力相加获得解码器内的第一中间变量，再通过第二前馈网络层加入非线性变换后与解码器内的第一中间变量相加后，由全连接层进行整合，输出恢复红外光谱。
[0018]进一步地，基于频域增强的Transformer网络模型的编码器的表达式为：
[0019][0020][0021][0022]其中，为编码器的输入，Y
emb
为嵌入层的输出,表示输入第一改进自注意力层的输出结果，为编码器内的中间变量，表示第一前馈网络层的输出结果，Y
enc
为编码器的输出，Y
emb
∈R
L
×
D
、、Y
enc
∈R
L
×
D
，分别表示是实数域R上红外光谱序列的长度L
×
选择的特征数D大小的二维矩阵。
[0023]进一步地，编码器中的第一改进自注意力层的表达式为：
[0024]X＝FFT(x),
[0025][0026][0027]y＝IFFT(Padding(Y
i
)),y∈{q,k,v}
[0028]其中，x为编码器的第一改进自注意力层的输入，x＝Y
emb
，Y
emb
为嵌入层的输出，FFT和IFFT分别为快速离散傅里叶变换和快速离散傅里叶逆变换，X为进行快速傅里叶变换FFT
转换到频域得到频域的频谱，Compress(
·
)为压缩增强操作，为压缩后的频谱，W
i
为权值矩阵，i∈{K',V'}，K'和V'分别表示改进自注意力计算时的两种情况，Y
i
为频域自注意力，Padding(
·
)为充0补齐操作，y为进行快速傅里叶逆变换IFFT得到增强后的自注意力，k'和v'表示第一改进自注意力层的两种自注意力得到的增强后的改进自注意力。
[0029]进一步地，编码器中的第一改进自注意力层中，压缩操作Compress(
·
)为：
[0030]X'
i本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于频域增强Transformer网络的红外光谱恢复方法，其特征在于：包括以下步骤，S1、使用若干配对的退化红外光谱和原始红外光谱来构建训练数据集；S2、搭建基于频域增强的Transformer网络模型；S3、使用构建的训练数据集上对基于频域增强的Transformer网络模型进行训练，获得训练后的基于频域增强的Transformer网络模型；S4、利用训练后的基于频域增强的Transformer网络模型处理退化的红外光谱信号，得到恢复后的红外光谱信号。2.如权利要求1所述的基于频域增强Transformer网络的红外光谱恢复方法，其特征在于：步骤S2中，基于频域增强的Transformer网络模型包括嵌入层、编码器和解码器，嵌入层：由特征嵌入模块对输入的一维的退化红外光谱数据中当前点本身的值转换为当前点的特征向量，由位置编码模块对当前点所在位置的进行位置编码，获得当前点的位置编码；然后将当前点的特征向量与当前点的位置编码进行相加获得嵌入层的输出Y
emb
；编码器：由第一改进自注意力层将嵌入层的输出Y
emb
转换到频域进行特征提取后，进行逆变换获得增强后的自注意力，将增强后的自注意力与嵌入层的输出Y
emb
相加获得编码器内的中间变量，传递给第一前馈网络层，第一前馈网络层利用激活函数加入非线性变换后与编码器内的中间变量相加后，获得提取的特征向量作为编码器的输出；解码器：由第二改进自注意力层将嵌入层的输出Y
emb
转换到频域进行特征提取后，进行逆变换获得增强后的自注意力，相加嵌入层的输出Y
emb
后输入改进多头注意力层，同时将编码器的输出Y
enc
输入改进多头注意力层，改进多头注意力层计算得到改进多头注意力，将改进多头注意力与增强后的自注意力相加获得解码器内的第一中间变量，再通过第二前馈网络层加入非线性变换后与解码器内的第一中间变量相加后，由全连接层进行整合，输出恢复红外光谱。3.如权利要求2所述的基于频域增强Transformer网络的红外光谱恢复方法，其特征在于：基于频域增强的Transformer网络模型的编码器的表达式为：于：基于频域增强的Transformer网络模型的编码器的表达式为：于：基于频域增强的Transformer网络模型的编码器的表达式为：其中，为编码器的输入，Y
emb
为嵌入层的输出,表示输入第一改进自注意力层的输出结果，为编码器内的中间变量，表示第一前馈网络层的输出结果，Y
enc
为编码器的输出，Y
emb
∈R
L
×
D
、Y
enc
∈R
L
×
D
，分别表示是实数域R上红外光谱序列的长度L
×
选择的特征数D大小的二维矩阵。4.如权利要求2所述的基于频域增强Transformer网络的红外光谱恢复方法，其特征在于：编码器中的第一改进自注意力层的表达式为：X＝FFT(x),
y＝IFFT(Padding(Y
i
)),y∈{k',v'}其中，x为编码器的第一改进自注意力层的输入，x＝Y
emb
，Y
emb
为嵌入层的输出，FFT和IFFT分别为快速离散傅里叶变换和快速离散傅里叶逆变换，X为进行快速傅里叶变换FFT转换到频域得到频域的频谱，Compress(
·
)为压缩增强操作，为压缩后的频谱，W
i
为权值矩阵，i∈{K',V'}，K'和V'分别表示改进自注意力计算时的两种情况，Y
i
为频域自注意力，Padding(
·
)为充0补齐操作，y为进行快速傅里叶逆变换IFFT得到增强后的自注意力，k'和v'表示第一改进自注意力层的两种自注意力得到的增强后的改进自注意力。5.如权利要求4所述的基于频域增强Transformer网络的红外光谱恢复方法，其特征在于：编码器中的第一改进自注意力层中，压缩操作Compress(
·
)为：X'
i
＝Spli...

【专利技术属性】
技术研发人员：邓丽珍，赵康泽，朱虎，
申请(专利权)人：南京邮电大学，
类型：发明
国别省市：