模型训练方法、装置、设备和存储介质制造方法及图纸

本公开提供了一种模型训练方法、装置、设备和存储介质，涉及人工智能技术领域，具体涉及计算机视觉、深度学习等技术领域。模型训练方法包括：采用多个已训练模型，提取图像样本的图像特征，以获得多个第一图像特征；采用待训练模型，提取所述图像样本的图像特征，以获得第二图像特征；基于所述多个第一图像特征确定融合特征；基于所述融合特征和所述第二图像特征构建损失函数，并采用所述损失函数训练所述待训练模型。本公开可以提高待训练模型的处理效果。理效果。理效果。

【技术实现步骤摘要】
模型训练方法、装置、设备和存储介质


[0001]本公开涉及人工智能
，具体涉及计算机视觉、深度学习等
，可应用于图像处理场景下，尤其涉及一种模型训练方法、装置、设备和存储介质。

技术介绍

[0002]知识蒸馏(knowledge distillation)是模型压缩的一种常用方法，不同于模型压缩中的剪枝和量化，知识蒸馏是通过构建一个轻量化的小模型，利用性能更好的大模型的监督信息，来训练这个小模型，以期达到更好的性能和精度。这个大模型称之为教师(teacher)模型，小模型称之为学生(student)模型。来自teacher模型输出的监督信息称之为知识(knowledge)，而student模型学习迁移来自teacher模型的监督信息的过程称之为蒸馏(distillation)。
[0003]相关技术中，一般采用单一的教师模型为学生模型提供监督信息。

技术实现思路

[0004]本公开提供了一种图像模型的训练方法、装置、设备和存储介质。
[0005]根据本公开的一方面，提供了一种模型训练方法，包括：采用多个已训练模型，提取图像样本的图像特征，以获得多个第一图像特征；采用待训练模型，提取所述图像样本的图像特征，以获得第二图像特征；基于所述多个第一图像特征确定融合特征；基于所述融合特征和所述第二图像特征构建损失函数，并采用所述损失函数训练所述待训练模型。
[0006]根据本公开的另一方面，提供了一种模型训练装置，包括：得多个第一图像特征；第二提取模块，用于采用待训练模型，提取所述图像样本的图像特征，以获得第二图像特征；融合模块，用于基于所述多个第一图像特征确定融合特征；训练模块，用于基于所述融合特征和所述第二图像特征构建损失函数，并采用所述损失函数训练所述待训练模型。
[0007]根据本公开的另一方面，提供了一种电子设备，包括：至少一个处理器；以及与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行如上述任一方面的任一项所述的方法。
[0008]根据本公开的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行根据上述任一方面的任一项所述的方法。
[0009]根据本公开的另一方面，提供了一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现根据上述任一方面的任一项所述的方法。
[0010]根据本公开的技术方案，可以提高待训练模型的处理效果。
[0011]应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
[0012]附图用于更好地理解本方案，不构成对本公开的限定。其中：
[0013]图1是根据本公开第一实施例的示意图；
[0014]图2是根据本公开第二实施例的示意图；
[0015]图3是根据本公开第三实施例的示意图；
[0016]图4是根据本公开第四实施例的示意图；
[0017]图5是根据本公开第五实施例的示意图；
[0018]图6是用来实现本公开实施例的模型训练方法中任一方法的电子设备的示意图。
具体实施方式
[0019]以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
[0020]图1是根据本公开第一实施例的示意图。本实施例提供一种模型训练方法，该方法包括：
[0021]101、采用多个已训练模型，提取图像样本的图像特征，以获得多个第一图像特征。
[0022]102、采用待训练模型，提取所述图像样本的图像特征，以获得第二图像特征。
[0023]103、基于所述多个第一图像特征确定融合特征。
[0024]104、基于所述融合特征和所述第二图像特征构建损失函数，并采用所述损失函数训练所述待训练模型。
[0025]本实施例的执行主体可以为单一设备主体，比如为终端或者服务器等。
[0026]以知识蒸馏为例，上述的已训练模型可以为教师模型，待训练模型为学生模型。
[0027]多个是指至少两个，每个已训练模型对应一个第一图像特征，从而通过多个已训练模型的处理，可以获得多个第一图像特征。
[0028]待训练模型可以为一个，在知识蒸馏场景下，该待训练的图像模型作为学生模型，待训练的图像模型的输出特征称为第二图像特征。
[0029]多个教师模型的结构可以相同或者不同，一般来讲，任一教师模型的精度是高于学生模型的，以便学生模型学习到更精确的知识，以获得更精确的模型参数。
[0030]本实施例中，教师模型和学生模型的结构不限定，可以根据实际需要选择，比如，教师模型为resnet152，学生模型为mobilenet。
[0031]以两个教师模型为例，如图2所示，图像样本经过两个教师模型的处理，可以输出两个第一图像特征，之后，可以基于这两个第一图像特征获得融合特征。图2中两个教师模型分别用第一教师模型和第二教师模型表示。
[0032]图像样本可以从已有的样本集中获取，样本集比如为ImageNet。
[0033]其中，可以对所述多个第一图像特征进行两两处理，以获得所述融合特征。
[0034]通过对第一图像特征进行两两处理，可以结合不同的第一图像特征各自的优势，进而提高待训练模型的处理效果。
[0035]进一步地，可以对应所述多个第一图像特征中的各个第一图像特征，基于所述各
个第一图像特征和所述两两处理时的另外一个第一图像特征确定加权系数；基于所述加权系数和所述各个第一图像特征，确定所述各个第一图像特征对应的融合特征。
[0036]通过基于另外一个第一图像特征确定加权系数，并基于加权系数和第一图像特征确定对应的融合特征，可以简便地实现在一个第一图像特征中融入另一个第一图像特征的优势。
[0037]以两个教师模型为例，则第一图像特征为2个，可以分别对应这两个第一图像特征中的每个第一图像特征，进行处理，以获得两个融合特征。上述的处理可以称为关系注意力处理，相应的处理模块可以称为关系注意力模块。如图2所示，与两个教师模型分别对应的关系注意力模块可以分别称为第一关系注意力模块和第二关系注意力模块。
[0038]每个关系注意力模块对输入的两个第一图像特征进行关系注意力处理。以图2所示的两个关系注意力模块为例，计算公式可以分别为：
[0039]F1＝softmax(f1*transpose(f2))*f1
[0040]F2＝softmax(f本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种模型训练方法，包括：采用多个已训练模型，提取图像样本的图像特征，以获得多个第一图像特征；采用待训练模型，提取所述图像样本的图像特征，以获得第二图像特征；基于所述多个第一图像特征确定融合特征；基于所述融合特征和所述第二图像特征构建损失函数，并采用所述损失函数训练所述待训练模型。2.根据权利要求1所述的方法，其中，所述基于所述多个第一图像特征确定融合特征，包括：对所述多个第一图像特征进行两两处理，以获得所述融合特征。3.根据权利要求2所述的方法，其中，所述对所述多个第一图像特征进行两两处理，以获得所述融合特征，包括：对应所述多个第一图像特征中的各个第一图像特征，基于所述各个第一图像特征和所述两两处理时的另外一个第一图像特征确定加权系数；基于所述加权系数和所述各个第一图像特征，确定所述各个第一图像特征对应的融合特征。4.根据权利要求1所述的方法，其中，所述融合特征为多个，所述基于所述融合特征和所述第二图像特征构建损失函数，包括：分别确定所述多个融合特征中的各个融合特征与所述第二图像特征的差值；将所述差值的平方和，构建为所述损失函数。5.根据权利要求1
‑
4任一项所述的方法，其中，所述多个已训练模型作为多个教师模型，所述待训练模型作为学生模型，且，所述多个教师模型基于多个图像处理场景对应的图像生成。6.一种模型训练装置，包括：第一提取模块，用于采用多个已训练模型，提取图像样本的图像特征，以获得多个第一图像特征；第二提取模块，用于采用待训练模型，提取所述图像样本的图像特征，以获得第二图像特征；融合模块，用于基于所述多个第一图像特征确定融合特征；训练模块，用于基于所述融合特征和...

【专利技术属性】
技术研发人员：杨馥魁，
申请(专利权)人：北京百度网讯科技有限公司，
类型：发明
国别省市：