基于拟态机制的深度学习实现方法及系统技术方案

本发明专利技术属于人工智能技术领域，特别涉及一种基于拟态机制的深度学习实现方法及系统，针对已训练的不同类型深度学习网络模型，将每个类型的深度学习网络模型作为执行体，构建异构执行体池；利用预设选择策略从异构执行体池中选取多个深度学习网络模型对目标数据进行检测分类，并依据检测分类结果确定用于最终检测分类输出的正确分类结果及用于重训练的异常分类结果；针对异常分类结果的深度学习网络模型进行下线，通过重训练来更新网络模型参数后再输送至异构执行体池进行上线。本发明专利技术将拟态防御应用于人工智能深度学习算法，利用不同算法间的异构性克服算法自身存在的脆弱性，进而提升算法整体的安全性，有效提升深度学习抗干扰攻击能力。扰攻击能力。扰攻击能力。

【技术实现步骤摘要】
基于拟态机制的深度学习实现方法及系统


[0001]本专利技术属于人工智能
，特别涉及一种基于拟态机制的深度学习实现方法及系统。

技术介绍

[0002]作为机器学习领域最重要的一个分支，深度学习算法已在图像识别、语音辨识、视频处理以及辅助医疗等许多领域显示出优越的性能，然而，伴随着深度学习的广泛成功，算法自身的安全性问题也日益突显。Nicolas Papernot等的研究表明，在样本中加入非常细微的扰动，即可导致深度学习算法对道路交通标识牌误分类，而这些扰动完全不影响人类的判断。近年来，也发生多起自动驾驶车祸事故。2018年3月，Uber一辆L4级别自动驾驶车辆由于未能及时识别行人，导致1名行人死亡。严峻的现实说明解决深度学习算法安全性的紧迫性和必要性。现有的解决方法多采用被动补救的办法，即在深度学习算法受到攻击后，将对抗样本加入到训练数据集中，对深度学习网络重新加以训练，学习对抗样本的数据特征，进而提升深度学习算法抗干扰攻击的能力。该方法的核心思想是扩充训练数据集的样本数据量，增加深度网络学习的广度，以提升抵抗攻击的能力。但这类方法只是被动的补救措施，没有从根本上增强深度学习网络结构的抗干扰能力，因而无法有效应对针对深度学习的干扰攻击。
[0003]深度学习通过前向传播和反射传播更新训练参数，学习数据特征。反向传播过程中，算法利用梯度下降方法减小误差，取得最优解，获得对原始数据的最准确表征。深度学习算法的数据特征学习能力对原始数据集的数据分布有很强的依赖性，因而攻击者可利用精心设置的扰动，改变数据分布最优解的位置，从而改变深度神经网络学习到的数据特征，使得算法输出错误的结果。深度学习算法的脆弱性使得深度学习安全性问题频发，成为亟待解决的问题。

技术实现思路

[0004]为此，本专利技术提供一种基于拟态机制的深度学习实现方法及系统，将拟态防御应用于人工智能深度学习算法，利用不同算法间的异构性克服算法自身存在的脆弱性，进而提升算法整体的安全性，有效提升深度学习抗干扰攻击能力。
[0005]按照本专利技术所提供的设计方案，提供一种基于拟态机制的深度学习实现方法，包含如下内容：
[0006]针对已训练的不同类型深度学习网络模型，将每个类型的深度学习网络模型作为执行体，构建异构执行体池；
[0007]利用预设选择策略从异构执行体池中选取多个深度学习网络模型对目标数据进行检测分类，并依据检测分类结果确定用于最终检测分类输出的正确分类结果及用于重训练的异常分类结果；
[0008]针对异常分类结果的深度学习网络模型进行下线，通过重训练来更新网络模型参
数后再输送至异构执行体池进行上线。
[0009]作为本专利技术基于拟态机制的深度学习实现方法，进一步地，异构执行体池包含但不限于：深度信念网络深度学习模型、深度玻尔兹曼机深度学习模型、卷积神经网络深度学习模型、循环神经网络深度学习模型、回声状态网络深度学习模型、强化学习网络深度学习模型、小样本学习网络深度学习模型以及图神经网络深度学习模型。
[0010]作为本专利技术基于拟态机制的深度学习实现方法，进一步地，预设选择策略采用随机选择策略从异构执行体池中选择奇数个用于对目标数据进行检测分类的深度学习网络模型。
[0011]作为本专利技术基于拟态机制的深度学习实现方法，进一步地，预设选择策略采用分组策略将各类深度学习网络模型进行归类分组，随机抽选出奇数个分组；然后再从每个分组中随机选取一个深度学习网络模型。
[0012]作为本专利技术基于拟态机制的深度学习实现方法，进一步地，分组策略包含但不限于：将不同层级结构的同种深度学习算法的网络模型分为一组，或者将同类深度学习算法的各变种网络模型分为一组。
[0013]作为本专利技术基于拟态机制的深度学习实现方法，进一步地，通过对目标原始数据进行数据预处理，通过将原始数据转换为与深度学习网络模型匹配的数据格式来获取目标数据，其中，数据预处理包含：用于数据过滤筛选的数据清洗、用于数据统一结合的数据集成、用于数据转换的数据变换及用于数据归一模范化的数据规约。
[0014]作为本专利技术基于拟态机制的深度学习实现方法，进一步地，利用判决器对多个深度学习网络模型检测分类结果进行综合判决来确定正确分类结果和异常分类结果。
[0015]作为本专利技术基于拟态机制的深度学习实现方法，进一步地，判决器采用预设准则进行综合判决，该预设准则包含但不限于多数判决法或加权判决法，其中，多数判决法中将输出结果数目最多的一类确定为正确分类结果，加权判决法依据各个深度学习网络模型在训练中检测效果对深度学习检测效果进行加权，将输出结果通过对权值求和选取最高的一类作为正确分类结果。
[0016]作为本专利技术基于拟态机制的深度学习实现方法，进一步地，针对异常分类结果的深度学习网络模型，利用使其异常分类的目标数据补入其原始训练样本数据中，通过对其训练的样本数据集进行扩充来重训练该深度学习网络模型。
[0017]进一步地，本专利技术还提供一种基于拟态机制的深度学习实现系统，包含：构建模块、分类模块和重训练模块，其中，
[0018]构建模块，用于针对已训练的不同类型深度学习网络模型，将每个类型的深度学习网络模型作为执行体，构建异构执行体池；
[0019]分类模块，用于利用预设选择策略从异构执行体池中选取多个深度学习网络模型对目标数据进行检测分类，并依据检测分类结果确定用于最终检测分类输出的正确分类结果及用于重训练的异常分类结果；
[0020]重训练模块，用于针对异常分类结果的深度学习网络模型进行下线，通过重训练来更新网络模型参数后再输送至异构执行体池进行上线。
[0021]本专利技术的有益效果：
[0022]本专利技术将拟态防御机制应用到深度学习领域，利用拟态防御机制的内生安全性能
保证深度学习算法的安全性，增强算法的抗干扰攻击能力；通过采用多种不同的深度学习算法构建异构算法池，并可根据一定的策略选择多个深度学习算法进行检测，通过综合判决确定最终结果输出。利用拟态架构的内生安全性增强深度学习算法的鲁棒性，当攻击者利用精心设计的扰动数据对深度学习实施攻击时，可能造成某种深度学习算法检测失效，但由于本架构在分类检测时，所遴选出来的各类算法异构，从而使得针对某一类深度学习算法的攻击未必对其他类攻击有效，进而在多数判决等策略下使得攻击被选择性忽视，最终输出正确的分类结果，因而从根本上解决深度学习自身的脆弱性问题。同时还可通过设置自动更新功能，即可以对误分类的深度学习算法进行训练更新，使得同一种攻击不能再次对一种算法实施有效攻击，进一步增强算法抵抗攻击的能力，具有较好的应用前景。
附图说明：
[0023]图1为实施例中基于拟态机制的深度学习实现方法流程示意；
[0024]图2为实施例中基于拟态机制的深度学习实现系统架构示意；
[0025]图3为实施例中拟态深度学习架构工作原理示意。
具体实施方式：
[0026]为使本专利技术的目的、技术方案和优点更加清楚、本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于拟态机制的深度学习实现方法，其特征在于，包含如下内容：针对已训练的不同类型深度学习网络模型，将每个类型的深度学习网络模型作为执行体，构建异构执行体池；利用预设选择策略从异构执行体池中选取多个深度学习网络模型对目标数据进行检测分类，并依据检测分类结果确定用于最终检测分类输出的正确分类结果及用于重训练的异常分类结果；针对异常分类结果的深度学习网络模型进行下线，通过重训练来更新网络模型参数后再输送至异构执行体池进行上线。2.根据权利要求1所述的基于拟态机制的深度学习实现方法，其特征在于，异构执行体池包含但不限于：深度信念网络深度学习模型、深度玻尔兹曼机深度学习模型、卷积神经网络深度学习模型、循环神经网络深度学习模型、回声状态网络深度学习模型、强化学习网络深度学习模型、小样本学习网络深度学习模型以及图神经网络深度学习模型。3.根据权利要求1或2所述的基于拟态机制的深度学习实现方法，其特征在于，预设选择策略采用随机选择策略从异构执行体池中选择奇数个用于对目标数据进行检测分类的深度学习网络模型。4.根据权利要求1或2所述的基于拟态机制的深度学习实现方法，其特征在于，预设选择策略采用分组策略将各类深度学习网络模型进行归类分组，随机抽选出奇数个分组；然后再从每个分组中随机选取一个深度学习网络模型。5.根据权利要求4所述的基于拟态机制的深度学习实现方法，其特征在于，分组策略包含但不限于：将不同层级结构的同种深度学习算法的网络模型分为一组，或者将同类深度学习算法的各变种网络模型分为一组。6.根据权利要求1所述的基于拟态机制的深度学习实现方法，其特征在于，通过对目标原始数据进行数据预处理，通过将原始数据转换为与深...

【专利技术属性】
技术研发人员：高彦钊，沈剑良，张霞，刘勤让，宋克，刘冬培，祁晓峰，虎艳宾，张文建，张丽，
申请(专利权)人：中国人民解放军战略支援部队信息工程大学，
类型：发明
国别省市：