对抗样本生成方法、模型训练方法、处理方法及电子设备技术

本发明专利技术提供一种对抗样本生成方法、图像处理模型训练方法和图像处理方法。该对抗样本生成方法包括：对图像执行多轮迭代处理，直至满足预定迭代条件；将满足预定迭代条件的图像确定为对抗样本。对图像执行多轮迭代处理包括：对与当前轮迭代对应的图像特征数据进行处理，得到图像特征向量；基于目标函数，根据与初始图像对应的图像特征向量和与当前轮迭代对应的图像特征向量，得到扰动值，目标函数是根据离散度函数和距离函数确定的，根据与当前轮迭代对应的扰动值和与当前轮迭代对应的图像，得到与下一轮迭代对应的图像。本发明专利技术还提供了一种电子设备。种电子设备。种电子设备。

【技术实现步骤摘要】
对抗样本生成方法、模型训练方法、处理方法及电子设备


[0001]本专利技术涉及人工智能及机器学习
，具体地涉及一种对抗样本生成方法、模型训练方法、处理方法及电子设备。

技术介绍

[0002]机器学习及人工智能相关技术在近些年备受关注，由于优异的性能，在计算机视觉领域得到了广泛的应用，应用范围可以包括图像识别、目标检测、图像分割等多种任务，应用场景涵盖如姿态检测、自动驾驶等。
[0003]目前图像分类模型针对上述应用场景中的识别准确率较高，但有研究发现，仅在测试样本上添加一些精心设计的微小扰动，就有可能导致模型产生错误的分类，而这些扰动不足以干扰人类视觉系统。这种可以改变深度分类模型预测结果的被扰动图像称为对抗样本。
[0004]传统的对抗样本生成方法通常利用深度分类模型计算相应的损失函数，然后引导生成使损失函数趋向于较差情况的扰动，使得深度模型分类错误。这一过程依赖于深度分类模型最后的损失函数的输出，使得生成的对抗样本的攻击成功率不高，缺乏对不同图像分类模型的泛化性。

技术实现思路

[0005]鉴于上述问题，本专利技术提供了一种对抗样本生成方法、模型训练方法、图像处理方法及电子设备。
[0006]本专利技术的一方面提供了一种对抗样本生成方法，包括：对图像执行多轮迭代处理，直至满足预定迭代条件；将满足预定迭代条件的图像确定为对抗样本；其中，对图像执行多轮迭代处理，包括：对与当前轮迭代对应的图像的图像特征数据进行处理，得到与当前轮迭代对应的图像的图像特征向量；基于目标函数，根据与初始图像对应的图像特征向量和与当前轮迭代对应的图像的图像特征向量，得到与当前轮迭代对应的图像的扰动值，其中，目标函数是根据离散度函数和距离函数确定的，离散度函数是用于基于与每轮迭代对应的图像的图像特征向量计算离散度的函数，距离函数是用于计算与初始图像对应的图像特征向量和与每轮迭代对应的图像的图像特征向量之间距离的函数；根据与当前轮迭代对应的图像的扰动值和与当前轮迭代对应的图像，得到与下一轮迭代对应的图像。
[0007]可选地，目标函数是根据离散度函数和距离函数确定的，包括：根据用于基于与每轮迭代对应的图像的图像特征向量计算离散度的函数与第一超参数，得到加权后的特征离散度函数；根据用于计算与初始图像对应的图像特征向量和与每轮迭代对应的图像的图像特征向量之间距离的函数与第二超参数，得到加权后的距离函数；根据加权后的特征离散度函数和加权后的距离函数，确定目标函数。
[0008]可选地，根据与当前轮迭代对应的图像的扰动值和和与当前轮迭代对应的图像，得到与下一轮迭代对应的图像，包括：确定与当前轮迭代对应的图像的更新步长；基于与当
前轮迭代对应的图像的扰动值和与当前轮迭代对应的图像的更新步长，得到与当前轮对应的图像的更新扰动值；根据与当前轮迭代对应的图像的更新扰动值和与当前轮迭代对应的图像，得到与下一轮迭代对应的图像。
[0009]可选地，对与当前轮迭代对应的图像的图像特征数据进行处理，得到与当前轮迭代对应的图像的图像特征向量，包括：将与当前轮迭代对应的图像的图像特征数据输入特征提取模型中，得到与当前轮迭代对应的图像提取特征；对图像提取特征进行归一化处理，得到与当前轮迭代对应的图像的图像特征向量。
[0010]可选地，预设迭代条件包括预设迭代次数。
[0011]可选地，离散度包括熵值或方差。
[0012]可选地，与初始图像对应的图像特征向量和与每轮迭代对应的图像的图像特征向量之间距离为最优传输距离、曼哈顿距离、欧式距离。
[0013]根据本专利技术的另一方面，提供了一种图像处理模型训练方法，包括：利用对抗样本对待训练模型进行训练，得到训练后的图像处理模型，其中，对抗样本是利用根据上述对抗样本生成方法生成的。
[0014]根据本专利技术的另一方面，提供了一种图像处理方法，包括：利用图像处理模型处理目标原始图像，得到针对目标原始图像的输出结果，其中，图像处理模型是利用根据上述图像处理模型训练方法训练得到的。
[0015]本专利技术的另一方面提供了一种电子设备，包括：一个或多个处理器；存储器，用于存储一个或多个程序，其中，当一个或多个程序被一个或多个处理器执行时，使得一个或多个处理器执行上述对抗样本生成方法、图像处理模型训练方法及图像处理方法。
[0016]本专利技术的另一方面还提供了一种计算机可读存储介质，其上存储有可执行指令，该指令被处理器执行时使处理器执行上述对抗样本生成方法、图像处理模型训练方法及图像处理方法。
[0017]本专利技术的另一方面还提供了一种计算机程序产品，包括计算机程序，该计算机程序被处理器执行时实现上述对抗样本生成方法、图像处理模型训练方法及图像处理方法。
[0018]通过基于由离散度函数和距离函数确定的目标函数，根据与初始图像对应的图像特征向量和与当前轮对应的图像的图像特征向量，得到与当前轮迭代对应的图像的扰动值，根据与当前轮迭代对应的图像的扰动值和与当前轮迭代对应的图像，得到与下一轮迭代对应的图像，直至满足预定迭代条件，将在满足预定迭代条件的情况下得到的图像确定为对抗样本，实现了能够综合利用深度特征的距离度量和离散度的语义信息生成对抗样本，提高了对抗样本的泛化性，增加了对抗样本生成的实用性和拓展性。
附图说明
[0019]通过以下参照附图对本专利技术实施例的描述，本专利技术的上述内容以及其他目的、特征和优点将更为清楚，在附图中：图1示意性示出了根据本专利技术实施例的对抗样本生成方法、图像处理模型的训练方法、图像处理方法及装置的应用场景图；图2示意性示出了根据本专利技术实施例的对抗样本生成方法的流程图；图3示意性示出了根据本专利技术实施例的图像处理模型训练方法的流程图；
图4示意性示出了根据本专利技术实施例的图像处理方法的流程图；图5示意性示出了根据本专利技术实施例的对抗样本生成装置的框图；图6示意性示出了根据本专利技术实施例的图像处理模型训练装置的框图；图7示意性示出了根据本专利技术实施例的图像处理装置的框图；图8示意性示出了根据本专利技术实施例的适于实现对抗样本生成方法、图像处理模型训练方法和图像处理方法的电子设备的方框图。
具体实施方式
[0020]以下，将参照附图来描述本专利技术的实施例。但是应该理解，这些描述只是示例性的，而并非要限制本专利技术的范围。在下面的详细描述中，为便于解释，阐述了许多具体的细节以提供对本专利技术实施例的全面理解。然而，明显地，一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外，在以下说明中，省略了对公知结构和技术的描述，以避免不必要地混淆本专利技术的概念。
[0021]在此使用的术语仅仅是为了描述具体实施例，而并非意在限制本专利技术。在此使用的术语“包括”、“包含”等表明了特征、步骤、操作和/或部件的存在，但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。
[0022]在此使用的所有术语（包括技术和科学术语）具有本领域技术人员通常所理解的含义，除非另外定义。应注意，这里使用的术语应解释为具有与本说明书本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种对抗样本生成方法，包括：对图像执行多轮迭代处理，直至满足预定迭代条件；将满足所述预定迭代条件的图像确定为所述对抗样本；其中，所述对图像执行多轮迭代处理，包括：对与当前轮迭代对应的图像的图像特征数据进行处理，得到与当前轮迭代对应的图像的图像特征向量；基于目标函数，根据与初始图像对应的图像特征向量和与所述当前轮迭代对应的图像的图像特征向量，得到与当前轮迭代对应的图像的扰动值，其中，所述目标函数是根据离散度函数和距离函数确定的，所述离散度函数是用于基于与每轮迭代对应的图像的图像特征向量计算离散度的函数，所述距离函数是用于计算与所述初始图像对应的图像特征向量和与每轮迭代对应的图像的图像特征向量之间距离的函数；根据与所述当前轮迭代对应的图像的扰动值和与所述当前轮迭代对应的图像，得到与下一轮迭代对应的图像。2.根据权利要求1所述的方法，其中，所述目标函数是根据离散度函数和距离函数确定的，包括：根据用于基于与每轮迭代对应的图像的图像特征向量计算离散度的函数与第一超参数，得到加权后的特征离散度函数；根据用于计算与所述初始图像对应的图像特征向量和与每轮迭代对应的图像的图像特征向量之间距离的函数与第二超参数，得到加权后的距离函数；根据所述加权后的特征离散度函数和所述加权后的距离函数，确定所述目标函数。3.根据权利要求1所述的方法，其中，所述根据与所述当前轮迭代对应的图像的扰动值和与所述当前轮迭代对应的图像，得到与下一轮迭代对应的图像，包括：确定与所述当前轮迭代对应的图像的更新步长；基于与所述当前轮迭代对应的图像的扰动值和与所述当...

【专利技术属性】
技术研发人员：张天柱，张哲，张勇东，徐楠青，冯巍巍，吴枫，
申请(专利权)人：中国科学技术大学，
类型：发明
国别省市：