基于目标检测的后门攻击防御模型的生成方法技术

本发明专利技术公开了一种基于目标检测的后门攻击防御模型的生成方法，先选取基准数据，从单个待检测标签类Y中选取一张清晰的图像X作为基准数据；使用SinGAN模型对基准数据进行多尺度学习，对SinGAN模型参数进行随机初始化，选取差异性较大的第0层数据作为增强后的干净数据集D

【技术实现步骤摘要】
基于目标检测的后门攻击防御模型的生成方法


[0001]本专利技术属于后门攻击防御、无监督学习技术和目标检测
，特别是涉及一种基于目标检测的后门攻击防御模型的生成方法。

技术介绍

[0002]近年来，随着互联网的不断发展和应用范围的不断扩大，大量软件被人们设计和开发出来，但是软件中很可能包含了病毒、木马、广告软件、蠕虫等不同种类的对抗攻击。对抗攻击的出现会造成严重的安全隐患，会导致病毒攻击、隐私信息泄露、侵犯用户利益和隐私等严重后果。一方面，网络安全技术人员对对抗攻击检测技术不断提升和优化；另一方面，对抗攻击的制作者为了逃避安全检测，也不断的改变和隐藏攻击方式。伴随着深度学习的不断发展，对抗干扰攻击普遍存在，多种黑盒、白盒和灰盒对抗攻击算法被提出，对机器学习及其应用的安全性带来严重威胁。在传统对抗攻击算法的基础上，后门攻击方式被引入到常见的攻击手段中。面向深度神经网络(DeepNeural Network，DNN)的后门攻击在造成高攻击性能的同时不会降低模型的原有性能(即不会造成原始DNN模型的准确率快速下降)。因此，传统的防御方式通过检测模型原有性能的降低来判断是否受损对后门攻击而言已经无效，后门攻击的隐蔽性更强。
[0003]网络安全中后门攻击检测的相关技术经过了多次的演变，但随着攻击者技术的不断演变，高效而安全的检测、以及提高深度神经网络健壮性依旧是网络空间安全领域的重要任务。面向图像分类的深度神经网络的后门攻击，早期阶段主要是通过检测图像中固定位置和固定形态来进行后门防御，如：判断右下角是否存在白色方块、圆块等。随着相关研究的逐渐深入，现有的防御方法主要分为三个场景：1)训练前/中，通过在训练过程或训练前对数据集进行后门触发器(backdoor trigger)检测并过滤掉后门样本；2)训练后，在模型已经训练完毕后，利用受损模型和干净数据集来判断模型或训练集是否中毒；3)实际上线中，此阶段主要是在项目商业上线时对其进行判断，目前而言该阶段的防御措施较少，难度较高。
[0004]虽然基于深度学习的后门攻击防御技术取得了显著成果，但是相关方法表明：目前的防御机制多集中在多标签多数据集上，对于单标签少量数据集的应用场景中的后门攻击防御，目前尚未深入的分析和了解。进而，现有的防御方法在该领域上变得无从下手。因此，目前从单标签少量数据集的角度上去设计和实现健壮、安全的后门攻击防御模型是迫切需求。

技术实现思路

[0005]本专利技术实施例的目的在于提供一种基于目标检测的后门攻击防御模型的生成方法，在单标签、少量数据集的场景下具有高效的防御能力，还可以减缓服务重新计算的资源和压力等问题。
[0006]为解决上述技术问题，本专利技术所采用的技术方案是，基于目标检测的后门攻击防
御模型的生成方法，包括以下步骤：
[0007]步骤一：选取基准数据，从单个待检测标签类y中选取一张清晰的图像X作为基准数据；
[0008]步骤二：使用SinGAN模型对基准数据进行多尺度学习，对SinGAN模型参数进行随机初始化，选取差异性较大的第0层数据作为增强后的干净数据集D
c
；
[0009]步骤三：给定数量为N且尺寸大小为(w,h)的训练后门集D
t
，并且将D
t
放置到干净数据集D
c
的任意位置处，合成后的样本集合记为中毒训练集D
p
；
[0010]步骤四：利用训练的目标检测工具Yolov5模型对中毒训练集D
p
生成后门防御模型 M
(x,y,w,h)
。
[0011]本专利技术的有益效果：
[0012]1、本专利技术是实现一种“即插即用”的后门防御模型，可以减缓服务重新计算的资源和压力等问题。
[0013]2、本专利技术通过SinGAN将防御角度从大样本细粒度拓展到小样本，并且利用目标检测攻击的YOLOv5模型将防御目标从单标签扩展到多标签上。
[0014]3、面对当前深度神经网络存在后门攻击的安全漏洞问题，从多维角度展开防御实验，在单个样本的实现下，通过对单标签、跨标签、单尺寸、跨尺寸、基准图像等多个检测角度来验证此方法的有效性和高效性，进而辅助深度学习模型健壮性机制的研究，表明该专利技术在单标签、少量数据集的场景下具有高效的防御能力。
[0015]4、本专利技术将后防御和目标检测技术进行融合，对设计和实现健壮、安全的后门攻击防御深度学习模型具有重要的应用价值和研究价值。
附图说明
[0016]为了更清楚地说明本专利技术实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本专利技术的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
[0017]图1是本专利技术实施例的流程图；
[0018]图2是本专利技术中实现的后门防御模型的生成架构图；
[0019]图3是SinGAN模型对应的深度神经网络单个节点的内部实现结构图G
N
，判别器D
n
具备相同的结构。
具体实施方式
[0020]下面将结合本专利技术实施例中的附图，对本专利技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本专利技术一部分实施例，而不是全部的实施例。基于本专利技术中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本专利技术保护的范围。
[0021]本专利技术实施例提供了一种基于目标检测的后门攻击防御模型的生成方法，以同一标签数据集的正态分布中具有内部关联性为基础理论，通过SinGAN模型对基准图像进行多尺度学习来模拟同一标签中不同分布的情况、并实现数据增强效果；紧接着将待检测后门
类型和增强后的数据进行合成生成中毒的训练集；最后利用优化改进的目标检测 Yolov5模型来生成后门攻击的防御模型，提高深度神经网络模型的健壮性。
[0022]具体步骤如下，如图1所示：
[0023]步骤一：选取基准数据，从单个待检测标签类Y中选取一张清晰的图像X作为基准数据；
[0024]步骤二：使用SinGAN模型对基准数据进行多尺度学习，对SinGAN模型参数进行随机初始化，选取差异性较大的第0层数据作为增强后的干净数据集D
c
；
[0025]步骤三：给定数量为N且尺寸大小为(w,h)的训练后门集D
t
，并且将D
t
放置到干净数据集D
c
的任意位置处，合成后的样本集合记为中毒训练集D
p
；
[0026]步骤四：利用训练的目标检测工具Yolov5模型对中毒训练集D
p
生成后门防御模型 M
(x,y,w,h)
。从而使得最终的模型对面向深度神经网络的后门攻击具有较高的防御效果，提高深度神经网络的健壮性和安全性。<本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.基于目标检测的后门攻击防御模型的生成方法，其特征在于，包括以下步骤：步骤一：选取基准数据，从单个待检测标签类y中选取一张清晰的图像X作为基准数据；步骤二：使用SinGAN模型对基准数据进行多尺度学习，对SinGAN模型参数进行随机初始化，选取差异性较大的第0层数据作为增强后的干净数据集D
c
；步骤三：给定数量为N且尺寸大小为(w，h)的训练后门集D
t
，并且将D
t
放置到干净数据集D
c
的任意位置处，合成后的样本集合记为中毒训练集D
p
；步骤四：利用训练的目标检测工具Yolov5模型对中毒训练集D
p
生成后门防御模型M
(x，y，w，h)
。2.根据权利要求1所述的基于目标检测的后门攻击防御模型的生成方法，其特征在于，所述步骤一中，从单个待检测标签y∈[1，C]，C表示深度神经网络的输出标签种类总数。3.根据权利要求1所述的基于目标检测的后门攻击防御模型的生成方法，其特征在于，所述步骤二中，SinGAN模型从单张图像的多尺度中捕捉不同的数据分布来生成一组具有内部相关性的数据集，该模型内部包括：用来生成数据分布的生成器G
n
和用来判别数据分布的判别器D
n
，其中G
n
和D
n
的内部结构是具有五层卷积块的卷积神经网络，输入层是随机噪声和上一个尺度被上采样的图片，输出层是由五层卷积块的卷积神经网络和上采样图像融合后的结果组成；生成器G
n
描述为：其中，Z
n
为噪声，表示五层卷积块的卷积神经网络，表示图像的上采样版本，n表示当前所处的尺度，X
n
是G

【专利技术属性】
技术研发人员：张云春，封凡，廖梓琨，张宁，李子璇，姚绍文，萧纯一，李柏萱，黄飞杨，陈语瑭，
申请(专利权)人：云南大学，
类型：发明
国别省市：