防御模型中毒的方法、电子设备和计算机可读存储介质技术

本发明专利技术提供了一种防御模型中毒的方法、电子设备和计算机可读存储介质，涉及面向深度学习模型的安全问题领域，该方法包括获取初始图像组；其中，初始图像组中包括多张待检测图像；每张待检测中的检测目标为同一目标；将初始图像组输入至第一识别检测模型，得到多张检测图像；对多张检测图像进行图像还原处理，得到还原后的目标图像；将还原后的目标图像输入至预先训练的第二识别检测模型，得到目标检测结果；其中，第二识别检测模型为对第一识别检测模型进行中毒训练得到的。本发明专利技术保证了人脸识别模型能够做出正确的判断，避免了模型中毒导致的检测误差。致的检测误差。致的检测误差。

【技术实现步骤摘要】
防御模型中毒的方法、电子设备和计算机可读存储介质


[0001]本专利技术涉及面向深度学习模型的安全问题领域，具体而言，涉及一种防御模型中毒的方法、电子设备和计算机可读存储介质。

技术介绍

[0002]目前，在将参数量庞大的模型部署到边缘端前一般要进行模型的压缩，在此过程中模型很可能面临中毒的风险，攻击者将后门安插在模型中，在测试阶段输入带有触发器的中毒样本，则模型识别出错导致警报指示做出错误的决策，对人员的疏散带来错误的指引，造成不小的后果，比如撤离不及时、人员踩踏等危险事件。具体的：现有的攻击方法有将现实中容易得到的物理光束作为触发器，安插在模型中，在人员疏散系统使用时，人脸检测模型被恶意攻击者发出的光束干扰导致识别得到的人数出错，从而做出错误的决策。

技术实现思路

[0003]本专利技术的目的在于提供一种防御模型中毒的方法、电子设备和计算机可读存储介质，保证了人脸识别模型能够做出正确的判断，避免了模型中毒导致的检测误差。
[0004]第一方面，本专利技术提供一种防御模型中毒的方法，方法包括：获取初始图像组；其中，初始图像组中包括多张待检测图像；每张待检测中的检测目标为同一目标；将初始图像组输入至第一识别检测模型，得到多张检测图像；对多张检测图像进行图像还原处理，得到还原后的目标图像；将还原后的目标图像输入至预先训练的第二识别检测模型，得到目标检测结果；其中，第二识别检测模型为对第一识别检测模型进行中毒训练得到的。
[0005]在可选的实施方式中，第二识别检测模型的训练步骤，包括：获取初始训练样本，在初始训练样本的人脸图像上嵌入物理光线，得到光线嵌入训练样本；基于光线嵌入训练样本对预先选择的第一识别检测模型进行训练直至收敛，得到第二识别检测模型；其中，第一识别检测模型为基于初始训练样本训练得到的。
[0006]在可选的实施方式中，对检测图像进行图像还原处理，得到还原后的目标图像的步骤，包括：基于预先选择的图像还原器对检测图像进行图像还原处理，得到还原后的目标图像。
[0007]在可选的实施方式中，基于预先选择的图像还原器对检测图像进行图像还原处理，得到还原后的目标图像的步骤，包括：将多张检测图像的图像大小调整至预设尺寸；基于预先选择的图像还原器对检测图像的像素值进行标记，并计算每张检测图像相对第一张检测图像的像素点偏移值；基于预设的像素偏移阈值，确定多张检测图像中像素偏移过量次数；基于预设的像素漂移次数阈值确定未被标记的像素点，以对检测图像进行还原处理，得到还原后的目标图像。
[0008]在可选的实施方式中，基于预设的像素漂移次数阈值确定未被标记的像素点，以对检测图像进行还原处理，到还原后的目标图像的步骤，包括：将除第一张检测图像以外的检测图像未被标记的像素点的像素值均值，确定为第一张检测图像的像素值，并将确定的
第一张检测图像确定为还原后的目标图像。
[0009]在可选的实施方式中，第一识别检测模型包括YOLOv1网络结构。
[0010]在可选的实施方式中，方法应用于人群疏散时的图像识别检测。
[0011]第二方面，本专利技术提供一种用于防御模型中毒的装置，装置包括：获取模块，用于获取初始图像组；其中，初始图像组中包括多张待检测图像；每张待检测中的检测目标为同一目标；第一检测模块，用于将初始图像组输入至第一识别检测模型，得到多张检测图像；还原模块，用于对多张检测图像进行图像还原处理，得到还原后的目标图像；第二检测模块，用于将还原后的目标图像输入至预先训练的第二识别检测模型，得到目标检测结果；其中，第二识别检测模型为对第一识别检测模型进行中毒训练得到的。
[0012]第三方面，本专利技术提供一种电子设备，包括处理器和存储器，存储器存储有能够被处理器执行的计算机可执行指令，处理器执行计算机可执行指令以实现前述实施方式任一项方法。
[0013]第四方面，本专利技术提供一种计算机可读存储介质，计算机可读存储介质存储有计算机可执行指令，计算机可执行指令在被处理器调用和执行时，计算机可执行指令促使处理器实现前述实施方式任一项的方法。
[0014]本专利技术实施例提供的防御模型中毒的方法、电子设备和计算机可读存储介质，该方法首先获取初始图像组；其中，初始图像组中包括多张待检测图像；每张待检测中的检测目标为同一目标；将初始图像组输入至第一识别检测模型，得到多张检测图像；对多张检测图像进行图像还原处理，得到还原后的目标图像；将还原后的目标图像输入至预先训练的第二识别检测模型，得到目标检测结果；其中，第二识别检测模型为对第一识别检测模型进行中毒训练得到的。该方式通过在数据进入模型之前进行图像还原处理，从而可以将获取的图像去除光线的干扰，破坏注入图像的触发器，使攻击者恶意加入光源的图像不能够触发中毒模型的后门。保证了人脸识别模型能够做出正确的判断，避免了模型中毒导致的检测误差。
[0015]本专利技术的其他特征和优点将在随后的说明书中阐述，并且，部分地从说明书中变得显而易见，或者通过实施本专利技术而了解。本专利技术的目的和其他优点在说明书、权利要求书以及附图中所特别指出的结构来实现和获得。
[0016]为使本专利技术的上述目的、特征和优点能更明显易懂，下文特举较佳实施例，并配合所附附图，作详细说明如下。
附图说明
[0017]为了更清楚地说明本专利技术具体实施方式或现有技术中的技术方案，下面将对具体实施方式或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本专利技术的一些实施方式，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
[0018]图1为本专利技术实施例提供的一种防御模型中毒的方法的流程图；
[0019]图2为本专利技术实施例提供的一种第二识别检测模型确定的示意图；
[0020]图3为本专利技术实施例提供的一种YOLOv1网络的结构图；
[0021]图4为本专利技术实施例提供的另一种防御模型中毒的方法的流程图；
[0022]图5为本专利技术实施例提供的一种防御模型中毒的装置的结构图；
[0023]图6为本专利技术实施例提供的一种电子设备的结构图。
具体实施方式
[0024]为使本专利技术实施例的目的、技术方案和优点更加清楚，下面将结合附图对本专利技术的技术方案进行清楚、完整地描述，显然，所描述的实施例是本专利技术一部分实施例，而不是全部的实施例。基于本专利技术中的实施例，本领域技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本专利技术保护的范围。
[0025]在智慧公共业务安全的场景下，像大型的文体活动，往往在一个特定的空间里会在短时间内聚集大量的人员。此时公共环境下的人员安全问题就变得尤为重要。在出现紧急的状况时，人员快速有序的疏散是一个大型的文体娱乐场所必须具备的基本条件。基于事件驱动和最优路径时空动态规划的人群疏散系统具有人员识别检测功能、路径规划功能以及警报指示功能等。相应的该系统具备人脸检测模型，路径规划模型等。
[0026]然而，在将参本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种防御模型中毒的方法，其特征在于，所述方法包括：获取初始图像组；其中，所述初始图像组中包括多张待检测图像；每张待检测中的检测目标为同一目标；将所述初始图像组输入至第一识别检测模型，得到多张检测图像；对多张所述检测图像进行图像还原处理，得到还原后的目标图像；将还原后的目标图像输入至预先训练的第二识别检测模型，得到目标检测结果；其中，所述第二识别检测模型为对第一识别检测模型进行中毒训练得到的。2.根据权利要求1所述的方法，其特征在于，所述第二识别检测模型的训练步骤，包括：获取初始训练样本，在初始训练样本的人脸图像上嵌入物理光线，得到光线嵌入训练样本；基于所述光线嵌入训练样本对预先选择的第一识别检测模型进行训练直至收敛，得到所述第二识别检测模型；其中，第一识别检测模型为基于初始训练样本训练得到的。3.根据权利要求1所述的方法，其特征在于，所述对所述检测图像进行图像还原处理，得到还原后的目标图像的步骤，包括：基于预先选择的图像还原器对所述检测图像进行图像还原处理，得到还原后的目标图像。4.根据权利要求3所述的方法，其特征在于，基于预先选择的图像还原器对所述检测图像进行图像还原处理，得到还原后的目标图像的步骤，包括：将多张检测图像的图像大小调整至预设尺寸；基于预先选择的图像还原器对检测图像的像素值进行标记，并计算每张检测图像相对第一张检测图像的像素点偏移值；基于预设的像素偏移阈值，确定多张检测图像中像素偏移过量次数；基于预设的像素漂移次数阈值确定未被标记的像素点，以对检测图像进行还原处理，得到还原后的目标图像。5...

【专利技术属性】
技术研发人员：陆韵，沈俊青，田甜，陆克贤，李冰，徐清，何刚，
申请(专利权)人：杭州中奥科技有限公司，
类型：发明
国别省市：