一种针对空间应用的神经网络芯片抗辐照系统及方法技术方案

本发明专利技术公开一种针对空间应用的神经网络芯片抗辐照系统及方法，包括神经网络芯片及FPGA芯片。针对神经网络芯片，采用退网的方法，在网络训练过程中以一定概率丢弃一些神经元，然后，在将神经网络配置到神经网络芯片中进行网络推断的过程中，通过对单粒子翻转造成的错误参数进行错误定位并将其置0，并重新写入神经网络芯片的权值存储区，实现神经网络芯片的权值参数刷新工作，减少错误参数对整个网络的准确率的影响，进而实现抗辐照功能。

A radiation resistant system and method of neural network chip for space application

【技术实现步骤摘要】
一种针对空间应用的神经网络芯片抗辐照系统及方法
本专利技术涉及航空航天
，特别涉及针对空间应用的神经网络芯片抗辐照技术。
技术介绍
近些年，随着人工智能技术的快速发展，其在深度学习、自然语言处理与计算机视觉等领域都取得了巨大成就。同时，人工智能也开始从智能化工具逐渐向智能机器进军，这就使得原有的微控制单元(MCU)早已无法满足深度学习的海量数据运算和高速运算的要求,因此，人工智能(AI)芯片应运而生。搭载神经网络的人工智能芯片随着网络复杂度的提高，其功能也越来越强大，同时，随着芯片工艺的发展，现有神经网络芯片大都为专用集成芯片，其尺寸越来越小，电路集成度逐步提高。其中，比较有代表性的包括：IBM仿人脑TrueNorth芯片、英伟达的GPU芯片系列、以寒武纪的DianNao芯片以及地平线机器人的BPU芯片。由于人工智能芯片可以大幅提升卫星大数据的快速提取、智能处理与分析等效率,因此，其在卫星应用领域也取得了广泛的应用。但是，由于空间环境相对复杂，空间粒子造成的辐射和冲击会对集成芯片的正常稳定运行产生诸多的影响。为了较大程度的减少这些辐照效应的影响，目前通常采用一些加固技术，如增加冗余存储节点或SOI工艺。其中，增加冗余存储节点的电路级加固技术需要额外的面积开销，这与神经网络芯片集成度的提高趋势相违背，而SOI结构虽然可以通过其埋氧化层使器件之间完全隔离，从根本上消除了单粒子闩锁(SEL)效应。但是SOI工艺成本较高，同时该结构相对较厚的衬底和埋氧层依然无法阻止质子的穿透，从底部入射的质子同样可以在耗尽区产生能量沉积从而产生单粒子翻转效应(SEU)，另外纳米器件的直径可能小于重离子入射径迹的直径，导致的SEU效应通常会对邻近的几个器件同时造成影响，进而发生多点同时翻转。因此当神经网络芯片的尺寸达到纳米级后，电荷共享引起的单粒子翻转概率不容忽略，这将导致原本存储在芯片存储器的部分权重参数随机发生比特位翻转，进而神经元的权重参数值就会发生变化，这就会直接影响神经网络输出结果的准确度。
技术实现思路
为了减小空间辐照引起的单粒子翻转对于神经网络输出结果准确率的影响，本专利技术一方面提供一种针对空间应用的神经网络芯片抗辐照系统，包括：神经网络芯片，用于存储经训练的神经网络，其中所述神经网络芯片包括权值存储区，所述权值存储区用于存储神经网络的权值参数的参数值；以及FPGA芯片，所述FPGA芯片用于在所定义的时间段内两次读取所述神经网络芯片的权值存储区的权值参数的参数值，并将两次读取的权值参数的参数值进行比较，其中如果两次读取的权值参数的参数值不同，则将读取的数值不同的权值参数的所述参数值置为0，并且如果两次读取的权值参数的参数值一致，则不做操作。进一步的，所述系统还包括计算机，用于对神经网络的神经元进行退网，并进行神经网络训练；以及将经训练的神经网络配置到神经网络芯片中。本专利技术另一方面提供一种针对空间应用的神经网络芯片抗辐照方法，包括：神经网络训练；配置神经网络芯片，将训练好的神经网络配置到神经网络芯片中；以及当所述神经网络芯片稳定工作后，每隔一定时间连续两次读取所述神经网络芯片的权值存储区的权值参数，并比较：若前后读取的权值参数的数值不同，则判定有单粒子翻转错误的发生，此时，将前后读取不同的权值参数的参数值置为0；以及若前后读取的权值参数的数值一致，则不更改。进一步地，所述神经网络训练包括，对神经网络的神经元进行退网(dropout)，舍弃部分神经元。进一步地，所述退网(dropout)采用伯努利分布选择舍弃的神经元。进一步地，在轨网络推断通过神经网络芯片实现。本专利技术提供的针对空间应用的神经网络芯片抗辐照系统及方法，在现有的一些抗辐照干扰方法基础上，针对神经网络芯片，应用退网方法，在网络训练过程中以一定概率丢弃一些神经元，预先进行网络容错学习，寻找最优网络和容错网络之间的平衡，以提高整个系统输出的准确度。然后，在将神经网络配置到神经网络芯片中进行网络推断的过程中，通过对单粒子翻转造成的错误参数进行错误定位并将其置0，并重新写入神经网络芯片的权值存储区，实现神经网络芯片的权值参数刷新工作，减少错误参数对整个网络的准确率的影响，进而实现抗辐照功能。附图说明为进一步阐明本专利技术的各实施例的以上和其它优点和特征，将参考附图来呈现本专利技术的各实施例的更具体的描述。可以理解，这些附图只描绘本专利技术的典型实施例，因此将不被认为是对其范围的限制。在附图中，为了清楚明了，相同或相应的部件将用相同或类似的标记表示。图1示出本专利技术的一个实施例的一种针对空间应用的神经网络芯片抗辐照系统示意图；图2示出本专利技术的一个实施例的一种针对空间应用的神经网络芯片抗辐照方法流程示意图；图3示出现有技术中的标准神经网络示意图；图4示出本专利技术的一个实施例的退网后的神经网络示意图；图5示出现有技术中的标准神经网络的神经元示意图；图6示出本专利技术的一个实施例的退网后的神经网络的神经元示意图；以及图7示出本专利技术的一个实施例的更新神经网络参数的流程示意图。具体实施方式以下的描述中，参考各实施例对本专利技术进行描述。然而，本领域的技术人员将认识到可在没有一个或多个特定细节的情况下或者与其它替换和/或附加方法、材料或组件一起实施各实施例。在其它情形中，未示出或未详细描述公知的结构、材料或操作以免模糊本专利技术的专利技术点。类似地，为了解释的目的，阐述了特定数量、材料和配置，以便提供对本专利技术的实施例的全面理解。然而，本专利技术并不限于这些特定细节。此外，应理解附图中示出的各实施例是说明性表示且不一定按正确比例绘制。在本说明书中，对“一个实施例”或“该实施例”的引用意味着结合该实施例描述的特定特征、结构或特性被包括在本专利技术的至少一个实施例中。在本说明书各处中出现的短语“在一个实施例中”并不一定全部指代同一实施例。需要说明的是，本专利技术的实施例以特定顺序对工艺步骤进行描述，然而这只是为了阐述该具体实施例，而不是限定各步骤的先后顺序。相反，在本专利技术的不同实施例中，可根据工艺的调节来调整各步骤的先后顺序。神经网络芯片主要是用来实现神经网络推断部分的工作，所述神经网络的学习训练通常在大型计算机上完成，然后将学习之后获得的最优网络结构和网络参数配置到芯片中。本专利技术提供一种针对间应用的神经网络芯片抗辐照系统和方法，以降低太空辐照对网络最终的识别结果的影响。下面结合实施例附图进一步阐述本专利技术。图1示出本专利技术的一个实施例的一种针对空间应用的神经网络芯片抗辐照系统示意图，如图1所示，一种针对空间应用的神经网络芯片抗辐照系统包括神经网络芯片101，FPGA芯片102以及计算机(图中未示出)。所述神经网络芯片101为专用集成芯片，用于存储经训练的神经网络，包括权值存储区DRAM111，所述权值存储区111用于存储所述神经网络的权值参数的参数值。所述FPGA芯片102包括可编程存储单元12本文档来自技高网...

【技术保护点】
1.一种针对空间应用的神经网络芯片抗辐照系统，其特征在于，包括：/n神经网络芯片，其被配置为存储经训练的神经网络，其中所述神经网络芯片包括权值存储区，所述权值存储区被配置为存储神经网络的权值参数的参数值；以及/nFPGA芯片，其被配置为执行下列动作：/n读取所述神经网络芯片的权值存储区的权值参数的参数值；/n在所定义的时间段期满以后再次读取所述权值参数的参数值；以及/n将两次读取的权值参数的参数值进行比较，其中如果两次读取的权值参数的参数值不同，则将读取的数值不同的权值参数的所述参数值置为0，并且如果两次读取的权值参数的参数值一致，则不做操作。/n

【技术特征摘要】
1.一种针对空间应用的神经网络芯片抗辐照系统，其特征在于，包括：
神经网络芯片，其被配置为存储经训练的神经网络，其中所述神经网络芯片包括权值存储区，所述权值存储区被配置为存储神经网络的权值参数的参数值；以及
FPGA芯片，其被配置为执行下列动作：
读取所述神经网络芯片的权值存储区的权值参数的参数值；
在所定义的时间段期满以后再次读取所述权值参数的参数值；以及
将两次读取的权值参数的参数值进行比较，其中如果两次读取的权值参数的参数值不同，则将读取的数值不同的权值参数的所述参数值置为0，并且如果两次读取的权值参数的参数值一致，则不做操作。


2.如权利要求1所述的系统，其特征在于，还包括：
计算机，其被配置为执行下列动作：
对神经网络的神经元进行退网，并进行神经网络训练；以及
将经训练的神经网络配置到所述神经网络芯片中。


3.如权利要求1所述的系统，其特征在于，所述定义的时间段小于所述FPGA芯片读取权值参数的参数值所需的时间。


4.一种针对空间应用的神经网络芯片抗辐照方法，其特征在于，包括步骤：
在计算机上对神经网络的神经元进行退网，并进行神经网络训练；
将训练所得的神经网络配置到神经网络芯片中；
当所述神经网络芯片稳定工作后，读取所述神经网络芯片的权值存储区的权值参数的参数值；
在所定义的时间段期满以后再次读取所...

【专利技术属性】
技术研发人员：王慧玲，钱欢，谢卓辰，梁旭文，
申请(专利权)人：中国科学院微小卫星创新研究院，上海微小卫星工程中心，
类型：发明
国别省市：上海;31