图像处理方法、装置、存储介质及电子设备制造方法及图纸

本发明专利技术公开了一种图像处理方法、装置、存储介质及电子设备。其中，该方法包括：获取第一图像和第一编码信息，其中，第一图像为原始样本图像，第一图像中的显示内容包括：目标对象，第一编码信息用于对第一图像进行图像溯源；对第一编码信息和第一图像进行编码处理，得到第二图像，其中，第二图像为对抗样本图像；基于第二图像进行图像分析，得到分析结果，其中，分析结果用于确定是否对目标对象执行过异常操作。本发明专利技术解决了相关技术中由于仅对图像进行主动防御或被动图像检测导致图像异常操作保护效果差、可扩展性差的技术问题。可扩展性差的技术问题。可扩展性差的技术问题。

【技术实现步骤摘要】
图像处理方法、装置、存储介质及电子设备


[0001]本专利技术涉及计算机技术和图像处理领域，具体而言，涉及一种图像处理方法、装置、存储介质及电子设备。

技术介绍

[0002]深度神经网络(Deep Neural Networks，DNN)被广泛应用于许多涉及图像识别和分类的技术场景中。然而，DNN模型容易受到图像中对抗性扰动的影响，难以适用于存在对抗样本的
(例如面部识别和自动驾驶等)；并且，随着图像翻译技术的发展，DNN模型可以实现对图像的编辑，一旦DNN模型被恶意滥用，将会产生严重的安全问题。
[0003]相关技术中，避免图像遭受恶意编辑的方法主要有两种：被动检测方法，根据被恶意编辑的图像特征，设计系统进行图像溯源，进而检测图像是否被恶意编辑；主动防御方法，利用DNN模型的脆弱性，对用于恶意编辑图像的目标模型进行功能扰乱。然而，被动检测方法无法对恶意编辑行为进行预防，主动防御方法仅适用于防御单一目标模型其可扩展性较差。
[0004]针对上述的问题，目前尚未提出有效的解决方案。

技术实现思路

[0005]本专利技术实施例提供了一种图像处理方法、装置、存储介质及电子设备，以至少解决相关技术中由于仅对图像进行主动防御或被动检测导致图像异常操作保护效果差、可扩展性差的技术问题。
[0006]根据本专利技术实施例的一个方面，提供了一种图像处理方法，包括：获取第一图像和第一编码信息，其中，第一图像为原始样本图像，第一图像中的显示内容包括：目标对象，第一编码信息用于对第一图像进行图像溯源；对第一编码信息和第一图像进行编码处理，得到第二图像，其中，第二图像为对抗样本图像；基于第二图像进行图像分析，得到分析结果，其中，分析结果用于确定是否对目标对象执行过异常操作。
[0007]根据本专利技术实施例的另一方面，还提供了一种图像处理方法，包括：接收来自于客户端的第一图像和第一编码信息，其中，第一图像为原始样本图像，第一图像中的显示内容包括：目标对象，第一编码信息用于对第一图像进行图像溯源；对第一编码信息和第一图像进行编码处理，得到第二图像，其中，第二图像为对抗样本图像；基于第二图像进行图像分析，得到分析结果，其中，分析结果用于确定是否对目标对象执行过异常操作；将分析结果反馈至客户端。
[0008]根据本专利技术实施例的另一方面，还提供了一种图像处理装置，包括：获取模块，用于获取第一图像和第一编码信息，其中，第一图像为原始样本图像，第一图像中的显示内容包括：目标对象，第一编码信息用于对第一图像进行图像溯源；编码模块，用于对第一编码信息和第一图像进行编码处理，得到第二图像，其中，第二图像为对抗样本图像；分析模块，用于基于第二图像进行图像分析，得到分析结果，其中，分析结果用于确定是否对目标对象
执行过异常操作。
[0009]根据本专利技术实施例的另一方面，还提供了一种计算机可读存储介质，上述存储介质包括存储的程序，其中，在上述程序运行时控制上述存储介质所在设备执行任意一项上述的图像处理方法。
[0010]根据本专利技术实施例的另一方面，还提供了一种电子设备，包括：处理器；以及存储器，与上述处理器连接，用于为上述处理器提供处理以下处理步骤的指令：获取第一图像和第一编码信息，其中，第一图像为原始样本图像，第一图像中的显示内容包括：目标对象，第一编码信息用于对第一图像进行图像溯源；对第一编码信息和第一图像进行编码处理，得到第二图像，其中，第二图像为对抗样本图像；基于第二图像进行图像分析，得到分析结果，其中，分析结果用于确定是否对目标对象执行过异常操作。
[0011]在本专利技术实施例中，获取第一图像和第一编码信息，其中，第一图像为原始样本图像，第一图像中的显示内容包括：目标对象，第一编码信息用于对第一图像进行图像溯源，采用对第一编码信息和第一图像进行编码处理的方式，得到第二图像，其中，第二图像为对抗样本图像，通过基于第二图像进行图像分析，得到分析结果，其中，分析结果用于确定是否对目标对象执行过异常操作，达到了基于可图像溯源的对抗样本图像进行异常操作分析检测的目的，从而实现了对图像进行主动防御和被动检测双重保护的技术效果，进而解决了相关技术中由于仅对图像进行主动防御或被动检测导致图像异常操作保护效果差、可扩展性差的技术问题。
附图说明
[0012]此处所说明的附图用来提供对本专利技术的进一步理解，构成本申请的一部分，本专利技术的示意性实施例及其说明用于解释本专利技术，并不构成对本专利技术的不当限定。在附图中：
[0013]图1示出了一种用于实现图像处理方法的计算机终端(或移动设备)的硬件结构框图；
[0014]图2是根据本专利技术实施例的一种图像处理方法的流程图；
[0015]图3是根据本专利技术实施例的一种可选的面部图像的双重保护过程的示意图；
[0016]图4是根据本专利技术实施例的另一种图像处理方法的流程图；
[0017]图5是根据本专利技术实施例的一种在云端服务器进行图像处理的示意图；
[0018]图6是根据本专利技术实施例的一种图像处理装置的结构示意图；
[0019]图7是根据本专利技术实施例的另一种图像处理装置的结构示意图；
[0020]图8是根据本专利技术实施例的另一种图像处理装置的结构示意图；
[0021]图9是根据本专利技术实施例的另一种图像处理装置的结构示意图；
[0022]图10是根据本专利技术实施例的另一种计算机终端的结构框图。
具体实施方式
[0023]为了使本
的人员更好地理解本专利技术方案，下面将结合本专利技术实施例中的附图，对本专利技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本专利技术一部分的实施例，而不是全部的实施例。基于本专利技术中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本专利技术保护的范
围。
[0024]需要说明的是，本专利技术的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本专利技术的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
[0025]首先，在对本专利技术实施例进行描述的过程中出现的部分名词或术语适用于如下解释：
[0026]对抗样本：是指在数据集中通过故意添加细微的干扰所形成的输入样本，导致模型以高置信度给出一个错误的输出。在本专利技术中，对抗样本可以是人为添加微小扰动以使面部编辑模型失效(无法对图片样本中的面部图像进行编辑)的图片样本。产生对抗样本并使用对抗样本攻击深度神经网络模型的过程叫做对抗攻击。
[0027]面部编辑模型：是指基于深度生成模型实现的本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种图像处理方法，其特征在于，包括：获取第一图像和第一编码信息，其中，所述第一图像为原始样本图像，所述第一图像中的显示内容包括：目标对象，所述第一编码信息用于对所述第一图像进行图像溯源；对所述第一编码信息和所述第一图像进行编码处理，得到第二图像，其中，所述第二图像为对抗样本图像；基于所述第二图像进行图像分析，得到分析结果，其中，所述分析结果用于确定是否对所述目标对象执行过异常操作。2.根据权利要求1所述的图像处理方法，其特征在于，对所述第一编码信息和所述第一图像进行编码处理，得到所述第二图像包括：采用目标编码器对所述第一编码信息和所述第一图像进行编码处理，得到所述第二图像，其中，所述目标编码器通过对初始编码器的参数进行优化以最小化目标损失而得到。3.根据权利要求2所述的图像处理方法，其特征在于，基于所述第二图像进行图像分析，得到所述分析结果包括：基于所述第二图像进行图像分析，得到所述第一编码信息；获取所述第一编码信息对应的第三图像；对所述第三图像与所述第一图像进行比对分析，得到所述分析结果，其中，所述分析结果用于确定所述第一图像是否为异常图像。4.根据权利要求3所述的图像处理方法，其特征在于，基于所述第二图像进行图像分析，得到所述第一编码信息包括：对所述第二图像和/或第四图像进行解码处理，得到所述第一编码信息，其中，所述第四图像通过对所述第二图像进行图像编辑后得到。5.根据权利要求4所述的图像处理方法，其特征在于，对所述第二图像和/或第四图像进行解码处理，得到所述第一编码信息包括：采用目标解码器对所述第二图像和/或第四图像进行解码处理，得到所述第一编码信息，其中，所述目标解码器通过对初始解码器的参数进行优化以最小化所述目标损失而得到。6.根据权利要求5所述的图像处理方法，其特征在于，所述图像处理方法还包括：获取第一损失、第二损失、第三损失和第四损失，其中，所述第一损失由原始训练图像与第一对抗训练图像之间的均方误差确定，所述第二损失由判别器对应的第五损失确定，所述判别器与所述目标编码器之间存在对抗关系且所述判别器用于区分所述原始训练图像与所述第一对抗训练图像，所述第三损失由所述原始训练图像的特征与所述第一对抗训练图像的特征之间的余弦相似度确定，所述第四损失由输入信息与输出信息之间的均方误差确定，所述输入信息为所述第一对抗训练图像关联的编码信息，所述输出信息为第二对抗训练图像关联的编码信息，所述第二对抗训练图像是通过对所述第一对抗训练图像进行频谱扩散处理后得到的图像；采用所述第一损失、所述第二损失、所述第三损失和所述第四损失确定所述目标损失。7.根据权利要求6所述的图...

【专利技术属性】
技术研发人员：朱尧，李小丹，张荣，陈岳峰，
申请(专利权)人：阿里巴巴中国有限公司，
类型：发明
国别省市：