一种基于实物化对抗样本的识别系统测评装置制造方法及图纸

本实用新型专利技术公开了一种基于实物化对抗样本的识别系统测评装置，包括：机器视觉采集设备、机器视觉芯片、显示器、微处理器和对抗样本实物转换设备，所述机器视觉采集设备的输出端连接到所述机器视觉芯片的输入端；所述机器视觉芯片与所述微处理器双向连接；所述显示器的输入端连接到所述微处理器的输出端；所述对抗样本实物转换设备的输入端连接到所述机器视觉芯片的输出端；所述对抗样本实物转换设备输出实物化对抗样本；所述机器视觉采集设备采集实物化对抗样本以及原始图片。本实用新型专利技术具有集成度高、计算速度快、配置灵活的测评装置，可以改善了当前深度神经网络缺乏硬件资源、缺乏算力的现状。算力的现状。算力的现状。

【技术实现步骤摘要】
一种基于实物化对抗样本的识别系统测评装置


[0001]本技术涉及一种人工智能领域的装置，具体地说，涉及的是一种基于实物化对抗样本的识别系统测评装置。

技术介绍

[0002]神经网络特别是卷积神经网络在图像分类、姿态估计、目标检测、人脸识别等领域应用广泛。在2012年ImageNet图像分类大赛上，AlexNet网络表现突出后，卷积神经网络便开始展现更加优异的性能，之后产生了一系列优秀的神经网络识别器模型，如VGG系列、GoogleNet系列和ResNet系列等。卷积神经网络的三个特点是局部连接、梯度反向传播和共享参数，这使得CNN相比于传统模型大大减少了参数，提高了性能和实用性。
[0003]神经网络对抗样本攻击是指针对神经网络模型输入
‑
输出关系，生成对该神经网络的特定对抗样本，使其错误分类。从2014年开始，多种神经网络对抗样本合成方法便开始涌现出来，如FGSM、DeepFool、JSMA等。在合成对抗样本时，主要是通过对原始图像信号添加一个微小扰动后生成对抗样本，该对抗样本将会被神经网络分类器错误分类。
[0004]目前神经网络识别器常作为机器视觉系统的核心识别判断模块用于控制各类机械、电子设备，其常见应用场景为识别现实场景中的各类目标。但是目前对抗样本生成方法主要在信号层面完成，缺乏实物化方法，即只有电脑算法生成的信号级对抗样本，但是缺乏将信号级对抗样本转换为实物对抗样本的方案，使得神经网络识别器的安全性测试无法在真实环境下完成。

技术实现思路

[0005]本技术的目的在于提供一种基于实物化对抗样本的识别系统测评装置，以解决上述
技术介绍
中提出的问题。
[0006]为实现上述目的，本技术提供如下技术方案：
[0007]一种基于实物化对抗样本的识别系统测评装置，包括：机器视觉采集设备、机器视觉芯片、显示器、微处理器和对抗样本实物转换设备，其中：所述机器视觉采集设备的输出端连接到所述机器视觉芯片的输入端；所述机器视觉芯片与所述微处理器双向连接；所述显示器的输入端连接到所述微处理器的输出端；所述对抗样本实物转换设备的输入端连接到所述机器视觉芯片的输出端；所述对抗样本实物转换设备输出实物化对抗样本；所述机器视觉采集设备采集实物化对抗样本以及原始图片。
[0008]可选地，所述机器视觉芯片由系统时钟模块、数模变换模块、图像处理器、通讯控制模块、存储器和卷积神经网络芯片组成，其中，所述系统时钟模块的输入端连接到外部时钟源，为所述机器视觉芯片提供内置或外置的工作时钟；所述数模变换模块的输入端连接到通讯控制模块、输出端连接到所述图像处理器；所述图像处理器的输入端连接到外部模拟图像源、输出端连接到所述卷积神经网络芯片；所述卷积神经网络芯片对其接收的图像信号进行处理得到图像特征的值；所述存储器与所述卷积神经网络芯片连接；所述通讯控
制模块与所述卷积神经网络芯片双向连接。
[0009]可选地，所述机器视觉芯片可以内置于计算机、服务器、工作站中，方便采用卷积神经网络芯片以构建大规模深度神经网络。
[0010]与现有技术相比，本技术实施例具有以下有益效果：
[0011]本技术上述的基于实物化对抗样本的识别系统测评装置，利用机器视觉采集设备、内存、微处理器、对抗样本实物转换设备等，克服了现有对抗攻击技术主要用于生成信号级对抗样本，难以生成实物对抗样本，在真实环境中对神经网络进行安全测评的不足，改善了当前深度神经网络缺乏硬件资源、缺乏算力的现状，设计了集成度高、计算速度快、配置灵活的测评装置。
[0012]本技术上述的基于实物化对抗样本的识别系统测评装置，微处理器及卷积神经网络芯片支持使用多种算法生成对抗样本，多方位对神经网络分类器进行测评，帮助研究人员以及工程师加深对模型决策机理的理解，进而更好地提升模型网络的鲁棒性以及安全性能。
附图说明
[0013]图1为本技术一较优实施例中测评装置的结构示意图；
[0014]图2为本技术一实施例中卷积神经网络芯片的网络结构图；
[0015]图3为本技术一实施例中机器视觉芯片关键模块的结构图。
具体实施方式
[0016]下面将结合本技术实施例中的附图，对本技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本技术一部分实施例，而不是全部的实施例。基于本技术中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本技术保护的范围。以下实施例中没有详细说明的部分，均可以采用现有技术实现。
[0017]图1为本技术一较优实施例中测评装置的结构示意图。
[0018]参照图1所示，本较优实施例中，基于实物化对抗样本的识别系统测评装置包括：机器视觉采集设备、机器视觉芯片、显示器、内存、微处理器、对抗样本实物转换设备，其中：机器视觉采集设备的输出端连接到机器视觉芯片的输入端；机器视觉芯片与微处理器双向连接；微处理器与内存双向连接；显示器的输入端连接到微处理器的输出端；对抗样本实物转换设备的输入端连接到机器视觉芯片的输出端；对抗样本实物转换设备输出实物化对抗样本；机器视觉采集设备采集实物化对抗样本以及原始图片。
[0019]图3为本技术一实施例中机器视觉芯片关键模块的结构图。
[0020]参照图3所示，在一优选的实施例中，机器视觉芯片由系统时钟模块、数模变换模块、图像处理器、通讯控制模块、存储器和卷积神经网络芯片组成，其中，系统时钟模块的输入端连接到外部时钟源，为机器视觉芯片提供内置或外置的工作时钟；数模变换模块的输入端连接到通讯控制模块、输出端连接到图像处理器；图像处理器的输入端连接到外部模拟图像源、输出端连接到卷积神经网络芯片；卷积神经网络芯片对其接收的图像信号进行处理得到图像特征的值；存储器与卷积神经网络芯片连接；通讯控制模块与卷积神经网络
芯片双向连接。
[0021]本技术上述实施例以机器视觉芯片为核心，利用机器视觉采集设备、显示器、内存、微处理器MCU、对抗样本实物转换设备等硬件资源，构成一个基于实物化对抗样本的识别系统评测装置。
[0022]具体的，机器视觉芯片用于图像特征提取以及利用神经网络模型或者替代模型的结构及参数生成对抗样本。机器视觉芯片的核心是卷积神经网络(CNN)芯片，其中CNN网络的原理框图如图2所示，CNN网络可以构建深度学习系统。这里的神经网络，也指人工神经网络(Artificial Neural Networks，简称ANNs)，是一种模仿生物神经网络行为特征的算法数学模型，它接收多个输入(x1，x2，x3...)，经过一系列反应，最后产生输出，这就好比是神经末梢感受各种外部环境的变化(外部刺激)，然后产生电信号，以便于转导到神经细胞(又叫神经元)。单个的感知器就构成了一个简单的模型，但在现实世界中，实际的决策模型则要复杂得多，往往是由多个感知器组成的多层网络，这也是经典的神经网络模型本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于实物化对抗样本的识别系统测评装置，其特征在于，包括：机器视觉采集设备、机器视觉芯片、显示器、微处理器和对抗样本实物转换设备，其中：所述机器视觉采集设备的输出端连接到所述机器视觉芯片的输入端；所述机器视觉芯片与所述微处理器双向连接；所述显示器的输入端连接到所述微处理器的输出端；所述对抗样本实物转换设备的输入端连接到所述机器视觉芯片的输出端；所述对抗样本实物转换设备输出实物化对抗样本；所述机器视觉采集设备采集实物化对抗样本以及原始图片。2.根据权利要求1所述的一种基于实物化对抗样本的识别系统测评装置，其特征在于，所述对抗样本实物转化设备把生成的信号级对抗样本转化为实物化对抗样本，所述机器视觉采集设备采集所述实物化 对抗样本的数字图像信息，并传至所述机器视觉芯片，对神经网络分类器进行安全测评。3.根据权利要求1所述的一种基于实物化对抗样本的识别系统测评装置，其特征在于，所述机器视觉芯片由系统时钟模块、数模变换模块、图像处理器、通讯控制模块、存储器和卷积神经网络芯片组成，其中：所述系统时钟模块的输入端连接到外部时钟源，为所述机器视觉芯片提供内置或外置的工作时钟；所述数模变换模块的输入端连接到通讯控制模块、输出端连接到所述图像处理器；所述图像处理器的输入端连接到外部模拟图像源、输出端连接到所述卷积神经网络芯片；所述卷积神经网络芯片对其接收的图像信号进行处理得到图像特征的值；所述存储器与所述卷积神经网络芯片连接；所述通讯控制模块与所述卷积神经网络芯片双向连接。4.根据权利要求3所述的一种基于实物化对抗样本的识别系...

【专利技术属性】
技术研发人员：唐伊文，张焕芹，
申请(专利权)人：上海融军科技有限公司，
类型：新型
国别省市：