本发明专利技术涉及一种小样本图像分类方法、设备及存储介质,该方法包括:采用特征提取网络对小样本图像进行特征提取,得到特征向量;构建参数优化学习模型,将特征向量转化为分类器参数;在互斥的小样本图像训练集与测试集中,对参数优化学习模型的分类器参数进行设定轮次的训练,得到参数化后的基学习器;对参数化后的基学习器引入新的元参数进行优化与更新,采用优化后的元学习模型实现小样本图像分类。与现有技术相比,本发明专利技术具有分类准确率高的优点。点。点。
【技术实现步骤摘要】
一种小样本图像分类方法、设备及存储介质
[0001]本专利技术涉及小样本图像分类
,尤其是涉及一种小样本图像分类方法、设备及存储介质。
技术介绍
[0002]随着科学技术的发展,基于计算机视觉的图像处理、图像分类等技术的应用越来越广泛,图像分类是计算机视觉中的一个重要基础任务。现有的图像分类大多采用深度学习方法,以大数据为背景,通过各种神经网络进行学习并取得了优越的模型性能。
[0003]然而,在实际情况下,为大量有标签样本进行标注工作量巨大,且可以利用的样本数量往往也有限。很多时候希望通过少数样本的训练就能使神经网络模型实现快速学习,因此,小样本问题具有较为广阔的研究前景。
[0004]然而,对于现有的小样本问题研究方法,在小样本数据集中能够有效利用的样本数量很少,因此可能出现过拟合问题;也有可能存在因样本分布不均导致的特征提取效果差、分类精度较低等问题。
[0005]因此,亟需设计一种适用于小样本数据的图像分类方法。
技术实现思路
[0006]本专利技术的目的就是为克服上述现有技术存在的缺陷而提供一种小样本图像分类方法、设备及存储介质,用于解决小样本图像分类问题中分类准确率不高,因训练样本不够而出现的过拟合等问题。
[0007]本专利技术的目的可以通过以下技术方案来实现:
[0008]根据本专利技术的第一方面,提供了一种小样本图像分类方法,该方法包括以下步骤:
[0009]步骤S1、在小样本图像数据集上建立互斥的训练集与测试集,完成数据预处理过程;
[0010]步骤S2、将小样本图像输入特征提取网络之中,以残差网络模块作为特征提取器对于输入的小样本图像进行特征提取,得到特征向量;
[0011]步骤S3、引入元参数使用可微的参数优化学习模型进行基学习器参数训练,并将特征向量转化为分类器参数,完成元训练阶段;
[0012]步骤S4、将训练得到的分类器参数结合线性分类器进行类别预测,得到分类器的预测结果;
[0013]步骤S5、在基学习器实现参数化过程后,对于分类器参数进行优化更新,引入新的元参数训练元学习器,实现元测试过程;
[0014]步骤S6、在元学习器的训练中,基于参数优化学习模型计算分类损失函数,更新分类器的预测结果,重复S3
‑
S6进行元训练与元测试过程不断实现参数优化,得到最终的元学习模型;
[0015]步骤S7、在训练集与测试集上根据训练得到的元学习模型完成小样本图片分类。
[0016]优选地,所述参数优化学习模型为基于Lasso回归的小样本图像分类模型。
[0017]优选地,所述基于Lasso回归的小样本图像分类模型,数学表达式为:
[0018][0019]式中,Λ1为基于Lasso回归的小样本图像分类模型输出的最佳权重参数,Z表示用于元训练的数据集,X、Y分别表示元训练集样本输入特征向量与输出特征向量;I为与X、Y同阶的单位矩阵;后一项为L1正则化惩罚项,λ表示正则化项参数。
[0020]优选地,所述基于Lasso回归的小样本图像分类模型中,根据其参数正则化性质得到的损失函数,损失函数形式如下:
[0021][0022]式中,n为样本数量,X、Y分别表示样本输入特征向量与输出特征向量,α1表示可调节超参数,与更新后的权重参数W
’
均作为元参数用于训练。
[0023]优选地,所述参数优化学习模型为基于弹性网络回归的小样本图像分类模型。
[0024]优选地,所述基于弹性网络回归的小样本图像分类模型,数学表达式为:
[0025][0026]式中,Λ2为基于Lasso回归的小样本图像分类模型输出的最佳权重参数,Z表示用于元训练的数据集,X、Y分别表示元训练集样本输入特征向量与输出特征向量,I为与X、Y同阶的单位矩阵,后两项分别为L1正则化惩罚项与L2正则化惩罚项,λ表示正则化项参数。
[0027]优选地,所述基于弹性网络回归的小样本图像分类模型,损失函数表达式为:
[0028][0029]式中,n为样本数量,X、Y分别表示样本输入特征向量与输出特征向量;α2、β表示可调节超参数,与更新后的权重参数W
’
均作为元参数用于训练。
[0030]优选地,所述步骤S5中,在参数训练过程中采用次梯度的思想,利用坐标轴下降法兼顾不可导点更新分类器权重参数W:
[0031][0032]其中,W
j
'为第j次迭代更新后的权重参数;m为权重参数矩阵的维度,表征设定的迭代次数。
[0033]根据本专利技术的第二方面,提供了一种电子设备,包括存储器和处理器,所述存储器上存储有计算机程序,所述处理器执行所述程序时实现任一项所述的方法。
[0034]根据本专利技术的第三方面,提供了一种计算机可读存储介质,其上存储有计算机程序,所述程序被处理器执行时实现任一项所述的方法。
[0035]与现有技术相比,本专利技术具有以下优点:
[0036]1)本专利技术通过元学习框架,运用两种可微的优化算法,对于小样本图片分类任务在一定程度上提高了特征提取效果与分类精度;
[0037]2)本专利技术使用的基于Lasso回归由特征向量得到分类器参数的方法相对于岭回归等其他算法能够加速收敛速度,提高特征选择效果并保持模型的稀疏性;
[0038]3)本专利技术使用的基于弹性网络回归由特征向量得到分类器参数的方法,同时添加L1、L2通过增加正则化项,能够有效解决过拟合问题,能够同时保证模型的稀疏性与稳定性,且能够处理关联性强的多维数据。
附图说明
[0039]图1为实施例1中的方法流程图;
[0040]图2为实施例4中的方法流程图。
具体实施方式
[0041]下面将结合本专利技术实施例中的附图,对本专利技术实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本专利技术的一部分实施例,而不是全部实施例。基于本专利技术中的实施例,本领域普通技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都应属于本专利技术保护的范围。
[0042]实施例1
[0043]如图1所示,本实施例给出了一种小样本图像分类方法,该方法包括以下步骤:
[0044]步骤S1、在小样本图像数据集上建立互斥的训练集与测试集,完成数据预处理过程;
[0045]步骤S2、将小样本图像输入Resnet18特征提取网络之中,以残差网络模块作为特征提取器对于输入的小样本图像进行特征提取,得到特征向量;
[0046]步骤S3、引入元参数使用可微的参数优化学习模型进行基学习器参数训练,并将特征向量转化为分类器参数,完成元训练阶段;
[0047]步骤S4、将训练得到的分类器参数结合线性分类器进行类别预测,得到分类器的预测结果;
[0048]步骤S5、在基学习器实现参数化过程后,对于分类器参数进行优化更新,引入新的元参数训练元学习器,实现元测试过程;参数训练过程中采本文档来自技高网...
【技术保护点】
【技术特征摘要】
1.一种小样本图像分类方法,其特征在于,该方法包括以下步骤:步骤S1、在小样本图像数据集上建立互斥的训练集与测试集,完成数据预处理过程;步骤S2、将小样本图像输入特征提取网络之中,以残差网络模块作为特征提取器对于输入的小样本图像进行特征提取,得到特征向量;步骤S3、引入元参数使用可微的参数优化学习模型进行基学习器参数训练,并将特征向量转化为分类器参数,完成元训练阶段;步骤S4、将训练得到的分类器参数结合线性分类器进行类别预测,得到分类器的预测结果;步骤S5、在基学习器实现参数化过程后,对于分类器参数进行优化更新,引入新的元参数训练元学习器,实现元测试过程;步骤S6、在元学习器的训练中,基于参数优化学习模型的分类损失函数,更新分类器的预测结果,重复S3
‑
S6进行元训练与元测试过程不断实现参数优化,得到最终的元学习模型;步骤S7、在训练集与测试集上根据训练得到的元学习模型完成小样本图片分类。2.根据权利要求1所述的一种小样本图像分类方法,其特征在于,所述参数优化学习模型为基于Lasso回归的小样本图像分类模型。3.根据权利要求2所述的一种小样本图像分类方法,其特征在于,所述基于Lasso回归的小样本图像分类模型,数学表达式为:式中,Λ1为基于Lasso回归的小样本图像分类模型输出的最佳权重参数,Z表示用于元训练的数据集,X、Y分别表示元训练集样本输入特征向量与输出特征向量;I为与X、Y同阶的单位矩阵;后一项为L1正则化惩罚项,λ表示正则化项参数。4.根据权利要求3所述的一种小样本图像分类方法,其特征在于,所述基于Lasso回归的小样本图像分类模型中,根据其参数正则化性质得到的损失函数,损失函数形式如下:式中,n为样本数量,X、...
【专利技术属性】
技术研发人员:曹晋英,韩华,高永彬,黄丽,
申请(专利权)人:上海工程技术大学,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。