进化剪枝轻量化卷积神经网络的滑坡识别方法、系统、设备及介质技术方案

技术编号:38151832 阅读:8 留言:0更新日期:2023-07-13 09:16
进化剪枝轻量化卷积神经网络的滑坡识别方法、系统、设备及介质,其方法为:将滑坡数据集中的样本进行预处理后构建基于卷积神经网络的滑坡识别模型;使用交叉熵损失函数构建本方法的损失函数;用预处理后的数据集进行训练,得到训练好的模型;在训练好的模型的基础上使用进化算法进行剪枝,搜索得到最优子网络;读取得到的最优子网络结构及加载最优子网络的权重基础上进行重新训练得到最终分类结果;其系统、设备及介质用于根据进化剪枝轻量化卷积神经网络的滑坡识别方法,对滑坡进行识别,具有更好的性能,对硬件设备计算量的需求低,易于部署,实时性好。实时性好。实时性好。

【技术实现步骤摘要】
进化剪枝轻量化卷积神经网络的滑坡识别方法、系统、设备及介质


[0001]本专利技术属于滑坡识别
,尤其涉及一种进化剪枝轻量化卷积神经网络的滑坡识别方法、系统、设备及介质。

技术介绍

[0002]滑坡作为一种常见的地质灾害,给世界各地的自然环境、财产和人身安全造成了严重的破坏,由于滑坡经常对人类住区、道路和农业用地造成严重破坏,对滑坡区域进行实时识别,来维护公共财产安全以及确保市民的安全变的越来越重要。
[0003]现有技术方案包括传统实地勘测,以及基于传统机器学习的滑坡识别方法和基于深度学习的滑坡识别方法。
[0004]传统实地勘测对于滑坡探测是有效和准确的,但是很多地方难以进行实地调查,需要大量的人力、物力和财力资源并且具有一定的危险性;基于传统机器学习的滑坡识别方法和基于深度学习的滑坡识别方法,则需要专家根据光学图像数据和其它地质信息判断是否发生了滑坡,这种方法需要耗费大量时间,实时性差,对滑坡灾害发生的区域难以及时救助,并且其解释精度可能较差。随着遥感技术的快速发展,从卫星图像自动检测滑坡已得到广泛应用,从光学图像中检测滑坡也越来越受到关注,数字高程模型(Digital Terrain Model)数据提供了地形信息,在滑坡预测和识别中发挥着重要作用,起初将滑坡识别视为图像处理问题,统计方法和机器学习方法得到了广泛应用。例如,模糊逻辑模型、逻辑回归模型已被开发用于区分滑坡区域。还开发了机器学习方法,支持向量机、随机森林等方法。随着深度学习的快速发展,目前,深度学习方法,特别是卷积神经网络(Convolutional Neural Networks,CNN)在计算机视觉的各项任务上超过了以往的机器学习方法。目前卷积神经网络广泛应用在滑坡识别问题上,使用卷积神经网络提取滑坡图像的特征,识别是否发生滑坡。目前用来滑坡识别的卷积神经网络都是非常基本的网络架构,即一系列卷积层和池化层,随后是全连接层,被用来检测滑坡,这些算法只追求检测的精度,忽略了网络模型的计算复杂度,使得现有的网络模型训练和推理难度大,并且对硬件有很高的要求,实时性差,难以在实际中应用。
[0005]目前最常用于滑坡识别的技术是通过深度学习中的卷积神经网络对滑坡区域进行识别,《Landslide detection from an open satellite imagery and digital elevation model dataset using attention boosted convolutional neural networks》使用注意力卷积神经网络来进行滑坡识别,该方法提出的注意力机制有效的提高了卷积神经网络的特征信息提取能力,可以较好的识别出滑坡区域,但是该方法忽略了滑坡识别需要实时性,在实际部署的过程中,计算资源往往受限,目前这些技术对硬件设备有较高的要求,因此难以实际中应用。

技术实现思路

[0006]为了克服上述现有技术的不足,本专利技术的目的在于提出一种进化剪枝轻量化卷积神经网络的滑坡识别方法、系统、设备及介质,在滑坡识别网络加入大核卷积与3
×
3卷积相结合,可以将局部信息和长距离信息相结合;选择搜索掩码以及分层初始化,在搜索过程中种群更具有多样性;进一步提出了连续化掩码搜索策略,在搜索过程中根据网络通道权重的变化情况来决定通道的保留和舍弃,并根据该连续化掩码搜索策略,在种群交叉和变异过程中,提出了通道权重取均值和取反的策略,相比传统的进化算法剪枝策略,该方法有更好的性能。
[0007]为实现上述目的,本专利技术采用的技术方案如下:
[0008]一种进化剪枝轻量化卷积神经网络的滑坡识别方法,具体如下:
[0009]S1、将滑坡数据集中的样本划分为训练集和测试集;
[0010]S2、对训练集和测试集图像大小进行调整:对步骤S1划分的训练集进行数据增强,并对训练集和测试集进行归一化和标准化操作;
[0011]S3、构建基于卷积神经网络的滑坡识别模型;
[0012]S4、基于步骤S3构建的模型,使用交叉熵损失函数构建损失函数;
[0013]S5、用基于步骤S2预处理后的数据集对步骤S4处理后的模型进行训练,得到训练好的模型;
[0014]S6、在步骤S5训练好的模型的基础上使用进化算法进行剪枝,搜索得到最优子网络;
[0015]S7、在读取步骤S6得到的最优子网络结构及加载最优子网络的权重基础上进行重新训练,得到最终分类结果。
[0016]所述步骤S2具体方法为:
[0017]S201、对步骤S1划分的数据集进行预处理,通过双线性插值的方法将训练集和测试集图像大小统一;
[0018]S202、自定义概率对训练集进行翻转、旋转,实现数据增强;
[0019]S203、对训练集和测试集进行归一化和标准化处理:将输入图像数据的像素点值归一化处理,即将数据归一化到[0,1]之间,并进行标准化,标准化公式如下:
[0020][0021]其中,x为归一化处理后的图像,mean(x),std(x)分别表示取均值和取标准差操作。
[0022]所述步骤S3具体步骤是:
[0023]S301、构建包含一个卷积层的特征降维模块;
[0024]S302、构建包含3个卷积层、3个批归一化层和2个ReLU非线性激活层的特征提取模块,特征提取模块的3个卷积层分别为1
×
1卷积,3
×
3卷积,1
×
1卷积,其中3
×
3卷积为深度可分离卷积,特征提取模块首先通过一个1
×
1卷积对通道数进行升维,让3
×
3的深度可分离卷积提取更多的图像特征信息,再通过1个1
×
1卷积降维,将维度还原;
[0025]S303、构建由2个1
×
1卷积层,1个13
×
13卷积层,1个3
×
3卷积层,4个批归一化层和4个ReLU非线性激活层组成的LK

Conv模块,其中2个1
×
1卷积层对特征图进行线性映射,
13
×
13卷积层负责提取特征图的长距离信息,3
×
3卷积层负责提取特征图的局部信息,再将提取到的长距离信息和局部信息通过相加的方式进行融合,作为最终提取到的特征信息;
[0026]S304、构建包含1个LK

Conv、1个批归一化层和1个多层感知机(Multilayer Perceptron,MLP)层的Large

Kernel Residual Block模块;
[0027]S305、构建包含1个卷积层、1个全局平均池化层和1个线性层的分类模块;
[0028]S306、基于步骤S301构建的特征降维模块、步骤S302构建的特征提取模块、步骤S304构建的Large

Ker本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种进化剪枝轻量化卷积神经网络的滑坡识别方法,其特征在于,具体步骤如下:S1、将滑坡数据集中的样本划分为训练集和测试集;S2、对训练集和测试集图像大小进行调整:对步骤S1划分的训练集进行数据增强,并对训练集和测试集进行归一化和标准化操作;S3、构建基于卷积神经网络的滑坡识别模型;S4、基于步骤S3构建的模型,使用交叉熵损失函数构建损失函数;S5、用基于步骤S2预处理后的数据集对步骤S4处理后的模型进行训练,得到训练好的模型;S6、在步骤S5训练好的模型的基础上使用进化算法进行剪枝,搜索得到最优子网络;S7、在读取步骤S6得到的最优子网络结构及加载最优子网络的权重基础上进行重新训练,得到最终分类结果。2.根据权利要求1所述的一种进化剪枝轻量化卷积神经网络的滑坡识别方法,其特征在于,所述步骤S2具体方法为:S201、对步骤S1划分的数据集进行预处理,通过双线性插值的方法将训练集和测试集图像大小统一;S202、自定义概率对训练集进行翻转、旋转,实现数据增强;S203、对训练集和测试集进行归一化和标准化处理:将输入图像数据的像素点值归一化处理,即将数据归一化到[0,1]之间,并进行标准化,标准化公式如下:其中,x为归一化处理后的图像,mean(x),std(x)分别表示取均值和取标准差操作。3.根据权利要求1所述的一种进化剪枝轻量化卷积神经网络的滑坡识别方法,其特征在于,所述步骤S3具体步骤是:S301、构建包含一个卷积层的特征降维模块;S302、构建包含3个卷积层、3个批归一化层和2个ReLU非线性激活层的特征提取模块,特征提取模块的3个卷积层分别为1
×
1卷积,3
×
3卷积,1
×
1卷积,其中3
×
3卷积为深度可分离卷积,特征提取模块首先通过一个1
×
1卷积对通道数进行升维,让3
×
3的深度可分离卷积提取更多的图像特征信息,再通过1个1
×
1卷积降维,将维度还原;S303、构建由2个1
×
1卷积层,1个13
×
13卷积层,1个3
×
3卷积层,4个批归一化层和4个ReLU非线性激活层组成的LK

Conv模块,其中2个1
×
1卷积层对特征图进行线性映射,13
×
13卷积层负责提取特征图的长距离信息,3
×
3卷积层负责提取特征图的局部信息,再将提取到的长距离信息和局部信息通过相加的方式进行融合,作为最终提取到的特征信息;S304、构建包含1个LK

Conv、1个批归一化层和1个多层感知机(Multilayer Perceptron,MLP)层的Large

Kernel Residual Block模块;S305、构建包含1个卷积层、1个全局平均池化层和1个线性层的分类模块;S306、基于步骤S301构建的特征降维模块、步骤S302构建的特征提取模块、步骤S304构建的Large

Kernel Residual Block模块、步骤S305构建的分类模块,构建轻量化卷积神经网络MobileL

K,该轻量化卷积神经网络MobileL

K网络首先对输入的数据通过特征降维模块进行降维,接下来依次通过特征提取模块和Large

Kernel Residual Block模块进行特
征提取,最后通过分类模块进行分类。4.根据权利要求1所述的一种进化剪枝轻量化卷积神经网络的滑坡识别方法,其特征在于,所述步骤S4的具体方法为:对步骤S306分类模块进行分类的训练分类器过程中,损失函数使用交叉熵损失函数Llog(y,p),定义为:Llog(y,p)=

(ylog(p)+(1

y)log(1

p))其中,y为标签,p为分类器网络的预测概率;训练分类器过程中,采用随机梯度下降法进行优化,首先用损失函数J(θ)对(θ)求偏导,参数θ按负梯度方向更新,θ

为更新后的网络参数,θ
j
为更新前的网络参数,σ为学习率,为输入网络的训练数据,h
θ
(x
i
)为训练集的权重,y
i
为训练集对应的标签,m为每次训练输入的样本数量,从训练集中随机抽出一组样本,每次训练后按梯度下降法则更新。5.根据权利要求1所述的一种进化剪枝轻量化卷积神经网络的滑坡识别方法,其特征在于,所述步骤S6的具体方法为:S601、设置超参数:种群大小:N;最大进化代数:Gmax;适应度函数:复杂度函数:输入:一个训练好的CNN网络复杂度上限:Hmax;输出:种群中适应度函数值最高的个体Pbest;S602、初始化种群;S603、进行Gmax代进化,如果g<Gmax,重...

【专利技术属性】
技术研发人员:王蓉芳王笑凯李卫斌焦昶哲牛毅
申请(专利权)人:西安电子科技大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1