基于人工智能的人脸识别方法、装置、设备及存储介质制造方法及图纸

技术编号:34133730 阅读:27 留言:0更新日期:2022-07-14 16:05
本申请涉及人工智能技术领域,揭示了一种基于人工智能的人脸识别方法、装置、设备及存储介质,其中方法包括:将目标图像输入预测的人脸识别模型进行人脸识别,得到目标图像对应的人脸识别结果;采用教师预训练模型、同构助教模型、异构助教模型和模型权重集,对学生预训练模型进行蒸馏,直至达到预设的蒸馏结束条件;将达到蒸馏结束条件的学生预训练模型作为人脸识别模型;同构助教模型包括至少两个与和教师预训练模型的模型类族相同的同构助教预训练子模型,异构助教模型包括至少两个与教师预训练模型的模型类族不同的异构助教预训练子模型。从而实现采用助教知识蒸馏的方式进行模型蒸馏,提高了极端压缩情况下学生预训练模型的准确性。型的准确性。型的准确性。

Artificial intelligence based face recognition method, device, equipment and storage medium

【技术实现步骤摘要】
基于人工智能的人脸识别方法、装置、设备及存储介质


[0001]本申请涉及到人工智能
,特别是涉及到一种基于人工智能的人脸识别方法、装置、设备及存储介质。

技术介绍

[0002]近年来,基于卷积神经网络(CNN)训练得到的人脸识别模型,随着计算资源的迅速增加,取得了很大成功。现有的人脸识别模型需要训练和部署具有数百万参数资源的复杂网络,随着人脸识别转向移动设备和嵌入式设备,大型CNN的计算成本使现有的人脸识别模型无法部署到这类计算资源有限的设备上。为了减少人脸识别模型需要的计算资源以实现模型加速,研究人员提出了模型剪枝、模型量化和知识蒸馏等方法,使模型更小、计算成本降低。其中知识蒸馏的方法受到很大关注,知识蒸馏方法就是利用预先给定的大型网络(教师网络)作为监督,把知识蒸馏到网络参数较少的紧凑网络(学生网络)中,将完成蒸馏后的学生网络作为人脸识别模型,从而缩小网络规模。专利技术人发现从拥有第一数量的网络参数的教师网络中蒸馏得到的学生网络,比从拥有第二数量(第一数量大于第二数量)的网络参数的教师网络中蒸馏得到的学生网络的表现差。

技术实现思路

[0003]本申请的主要目的为提供一种基于人工智能的人脸识别方法、装置、设备及存储介质,旨在解决目前在采用知识蒸馏方法生成人脸识别模型时,从拥有第一数量的网络参数的教师网络中蒸馏得到的学生网络,比从拥有第二数量(第一数量大于第二数量)的网络参数的教师网络中蒸馏得到的学生网络的表现差的技术问题。
[0004]为了实现上述专利技术目的,本申请提出一种基于人工智能的人脸识别方法,所述方法包括:
[0005]获取目标图像;
[0006]将所述目标图像输入预测的人脸识别模型进行人脸识别,得到所述目标图像对应的人脸识别结果,其中,所述人脸识别模型的训练方法包括:
[0007]获取教师预训练模型、同构助教模型、异构助教模型、模型权重集和学生预训练模型,其中,所述同构助教模型包括至少两个同构助教预训练子模型,所述异构助教模型包括至少两个异构助教预训练子模型,所述同构助教预训练子模型的模型类族和所述教师预训练模型的模型类族相同,所述异构助教预训练子模型的模型类族和所述教师预训练模型的模型类族不同;
[0008]采用所述教师预训练模型、所述同构助教模型、所述异构助教模型和所述模型权重集,对所述学生预训练模型进行蒸馏,直至达到预设的蒸馏结束条件;
[0009]将达到所述蒸馏结束条件的所述学生预训练模型作为所述人脸识别模型。
[0010]本申请还提出了一种基于人工智能的人脸识别装置,所述装置包括:
[0011]图像获取模块,用于获取目标图像;
[0012]人脸识别结果确定模块,用于将所述目标图像输入预测的人脸识别模型进行人脸识别,得到所述目标图像对应的人脸识别结果;
[0013]模型训练模块,用于获取教师预训练模型、同构助教模型、异构助教模型、模型权重集和学生预训练模型,采用所述教师预训练模型、所述同构助教模型、所述异构助教模型和所述模型权重集,对所述学生预训练模型进行蒸馏,直至达到预设的蒸馏结束条件,将达到所述蒸馏结束条件的所述学生预训练模型作为所述人脸识别模型,其中,所述同构助教模型包括至少两个同构助教预训练子模型,所述异构助教模型包括至少两个异构助教预训练子模型,所述同构助教预训练子模型的模型类族和所述教师预训练模型的模型类族相同,所述异构助教预训练子模型的模型类族和所述教师预训练模型的模型类族不同。
[0014]本申请还提出了一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现上述任一项所述方法的步骤。
[0015]本申请还提出了一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现上述任一项所述的方法的步骤。
[0016]本申请的基于人工智能的人脸识别方法、装置、设备及存储介质,其中方法获取目标图像;将所述目标图像输入预测的人脸识别模型进行人脸识别,得到所述目标图像对应的人脸识别结果,其中,所述人脸识别模型的训练方法包括:获取教师预训练模型、同构助教模型、异构助教模型、模型权重集和学生预训练模型,其中,所述同构助教模型包括至少两个同构助教预训练子模型,所述异构助教模型包括至少两个异构助教预训练子模型,所述同构助教预训练子模型的模型类族和所述教师预训练模型的模型类族相同,所述异构助教预训练子模型的模型类族和所述教师预训练模型的模型类族不同;采用所述教师预训练模型、所述同构助教模型、所述异构助教模型和所述模型权重集,对所述学生预训练模型进行蒸馏,直至达到预设的蒸馏结束条件;将达到所述蒸馏结束条件的所述学生预训练模型作为所述人脸识别模型。通过同构助教模型和异构助教模型,实现采用助教知识蒸馏的方式进行模型蒸馏,加速了模型计算,提高了极端压缩情况下学生预训练模型的准确性,节省了计算和存储成本;通过将至少两个同构助教预训练子模型融合成同构助教模型,将至少两个异构助教预训练子模型融合成异构助教模型,避免了助教将错误知识连续向下传递导致错误不断积累的问题。
附图说明
[0017]图1为本申请一实施例的基于人工智能的人脸识别方法的流程示意图;
[0018]图2为本申请一实施例的基于人工智能的人脸识别装置的结构示意框图;
[0019]图3为本申请一实施例的计算机设备的结构示意框图。
[0020]本申请目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
[0021]为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。
[0022]参照图1,本申请实施例中提供一种基于人工智能的人脸识别方法,所述方法包
括:
[0023]S1:获取目标图像;
[0024]S2:将所述目标图像输入预测的人脸识别模型进行人脸识别,得到所述目标图像对应的人脸识别结果,其中,所述人脸识别模型的训练方法包括:
[0025]S21:获取教师预训练模型、同构助教模型、异构助教模型、模型权重集和学生预训练模型,其中,所述同构助教模型包括至少两个同构助教预训练子模型,所述异构助教模型包括至少两个异构助教预训练子模型,所述同构助教预训练子模型的模型类族和所述教师预训练模型的模型类族相同,所述异构助教预训练子模型的模型类族和所述教师预训练模型的模型类族不同;
[0026]S22:采用所述教师预训练模型、所述同构助教模型、所述异构助教模型和所述模型权重集,对所述学生预训练模型进行蒸馏,直至达到预设的蒸馏结束条件;
[0027]S23:将达到所述蒸馏结束条件的所述学生预训练模型作为所述人脸识别模型。
[0028]本实施例通过同构助教模型和异构助教模型,实现采用助教知识蒸馏的方式进行模型蒸馏,加速了模型计算,提高了极端压缩情况下学生预训练模型的准确性,节省本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种基于人工智能的人脸识别方法,其特征在于,所述方法包括:获取目标图像;将所述目标图像输入预测的人脸识别模型进行人脸识别,得到所述目标图像对应的人脸识别结果,其中,所述人脸识别模型的训练方法包括:获取教师预训练模型、同构助教模型、异构助教模型、模型权重集和学生预训练模型,其中,所述同构助教模型包括至少两个同构助教预训练子模型,所述异构助教模型包括至少两个异构助教预训练子模型,所述同构助教预训练子模型的模型类族和所述教师预训练模型的模型类族相同,所述异构助教预训练子模型的模型类族和所述教师预训练模型的模型类族不同;采用所述教师预训练模型、所述同构助教模型、所述异构助教模型和所述模型权重集,对所述学生预训练模型进行蒸馏,直至达到预设的蒸馏结束条件;将达到所述蒸馏结束条件的所述学生预训练模型作为所述人脸识别模型。2.根据权利要求1所述的基于人工智能的人脸识别方法,其特征在于,所述获取教师预训练模型、同构助教模型、异构助教模型、模型权重集和学生预训练模型的步骤,包括:获取所述教师预训练模型、所述同构助教模型、所述异构助教模型和验证集;将所述验证集中的每个验证样本的验证图像样本输入所述教师预训练模型进行人脸识别,得到单样本教师识别结果;根据所述单样本教师识别结果,将每个所述验证图像样本输入所述同构助教模型进行人脸识别,得到单样本同构识别结果;根据所述单样本教师识别结果,将每个所述验证图像样本输入所述异构助教模型进行人脸识别,得到单样本异构识别结果;根据所述验证集、各个所述单样本教师识别结果、各个所述单样本同构识别结果和各个所述单样本异构识别结果,对所述教师预训练模型、所述同构助教模型和所述异构助教模型进行模型权重确定,得到所述模型权重集。3.根据权利要求2所述的基于人工智能的人脸识别方法,其特征在于,所述根据所述验证集、各个所述单样本教师识别结果、各个所述单样本同构识别结果和各个所述单样本异构识别结果,对所述教师预训练模型、所述同构助教模型和所述异构助教模型进行模型权重确定,得到所述模型权重集的步骤,包括:获取计数器,并且将所述计数器初始化为1;随机生成第一权重、第二权重和第三权重,其中,所述第一权重是所述教师预训练模型对应的模型权重,所述第二权重是所述同构助教模型对应的模型权重,所述第三权重是所述异构助教模型对应的模型权重;根据所述第一权重、所述第二权重和所述第三权重,对目标验证样本对应的所述单样本教师识别结果、所述单样本同构识别结果及所述单样本异构识别结果进行加权求和,得到综合识别结果,其中,所述目标验证样本是所述验证集中的任一个所述验证样本;对所述综合识别结果和所述目标验证样本中的人脸标定结果进行比对,得到单样本比对结果;将所述计数器的值作为i,对各个所述单样本比对结果进行准确的比例计算,得到第i轮准确率;
获取第i

1轮准确率;若所述第i轮准确率大于或等于所述第i

1轮准确率,则将所述第一权重、所述第二权重和所述第三权重作为模型权重初始集;将所述计数器的值加1,并重复执行所述随机生成第一权重、第二权重和第三权重的步骤,直至所述计数器的值大于预设次数;将所述模型权重初始集作为所述模型权重集。4.根据权利要求2所述的基于人工智能的人脸识别方法,其特征在于,所述获取所述教师预训练模型、所述同构助教模型、所述异构助教模型和验证集的步骤之前,还包括:获取教师初始模型、至少两个同构助教初始模型、至少两个异构助教初始模型、第一训练集和测试集;根据所述第一训练集和所述测试集,对所述教师初始模型进行训练及测试,得到所述教师预训练模型;根据所述第一训练集和所述测试集,分别对每个所述同构助教初始模型进行训练及测试,得到所述同构助教预训练子模型,并且将各个所述同构助教预训练子模型作为所述同构助教模型;根据所述第一训练集和所述测试集,分别对每个所述异构助教初始模型进行训练及测试,得到所述异构助教预训练子模型,并且将各个所述异构助教预训练子模型作为所述异构助教模型。5.根据权利要求1所述的基于人工智能的人脸识别方法,其特征在于,所述采用所述教师预训练模型、所述同构助教模型、所述异构助教模型和所述模型权重集,对所述学生预训练模型进行蒸馏,直至达到预设的蒸馏结束条件的步骤,包括:获取第二训练集;从所述第二训练集中获取任一个训练样本作为目标训练样本;将所述目标训练样本中的人脸图像样本输入所述教师预训练模型进行人脸识别,得到第一全连接层输出向量和第一识别结果;根据所述第一识别结果,将每个所述人脸图像样本输入所述同构助教模型进行人脸识别,得到第二全连接层输出向量和第二识别结果;根据所述第一识别结果,将每个所述人脸图像样本输入所述异构助教模型进行人脸识别,得到第三全连接层输出向量和第三识别结果;将每个所述人脸图像样本输入所述学生预训练模型进行人脸识别,得到第四识别结果;根据所述目标训练样本的人脸标定值和所述第一识别结果进行损失值计算,得到第一损失值,并且根据所述第一损失值,对所述教师预训练模型进行模型参数更新;根据所述第一识别结果和所述第二识别结果进行损失值计算,得到第二损失值,并且根据所述第二损失值,对所述同构助教模型进行模型参数更新;根据所述第一识别结果和所述第三识别结果进行损失值计算,得到第三损失值,并且根据所述第三损失值,对所述异构助教模型进行模型参数更新;根据所述模型权重集、所述目标训练样本的人脸标定值、所述第一全连接层输出向量、所述第一识别结果、所述第二全连接层输出向量、所述第二识别结果、所述第三全连接层输

【专利技术属性】
技术研发人员:郑喜民王天誉舒畅陈又新
申请(专利权)人:平安科技深圳有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1