自适应优化感存算一体目标检测识别系统及方法技术方案

本发明专利技术提供自适应优化感存算一体目标检测识别系统及方法，系统包括：权重更新算法模块，采用感知器策略将预测误差转为忆阻器网络的权重更新步长，固定忆阻器网络的权重，输出并读取训练样本；预测误差硬件计算模块，利用预置比较器，处理得到忆阻器网络末端的预测电压，比较忆阻器网络末端的预测、标准电压，据以输出忆阻器网络预测结构判断结果；脉冲发生器电路模块，采用预置脉冲电路，处理得到忆阻器神经元调制信号，调制末端卷积层，生成脉冲发生器电流信号；脉冲发生器信号控制模块，根据判断结果控制脉冲发生器电路信号启停及信号方向。本发明专利技术解决神经网络权重映射不准确导致识别精度低、迭代读写耗时较长导致难以实现批量部署的技术问题。量部署的技术问题。量部署的技术问题。

【技术实现步骤摘要】
自适应优化感存算一体目标检测识别系统及方法


[0001]本专利技术涉及智能感知及图像识别
，具体涉及自适应优化感存算一体目标检测识别系统及方法。

技术介绍

[0002]智能感知及图像识别技术通过对图像进行处理、分析和理解，实现场景内目标检测与识别，传统方式实现上述操作主要基于采集、存储、计算相互分离的冯诺依曼架构计算机系统，冯诺依曼架构计算机系统面临“存储墙”“功耗墙”“面积墙”三座大山难以翻越；
[0003]基于感存算一体化技术的目标检测识别系统采用硬件的方式实现神经网络计算过程，以忆阻器模拟神经网络中的神经元，忆阻器的电导值对应于神经网络神经元的权重，将传感、存储、计算融为一体，是突破冯诺依曼架构瓶颈的重要方向，当前感存算一体化技术正处于研究的初级阶段，忆阻器存在阻态不稳定、写入不准等非理想特性；
[0004]基于感存算一体化技术的目标检测识别系统网络部署通常有两种形式，第一种为将计算机上离线训练的神经网络权重直接映射为忆阻器的电导值，例如公布号为CN113505887A的现有专利技术专利申请文献《一种针对忆阻器误差的忆阻器存储器神经网络训练方法》，该方法包括：对忆阻器的电导值在制程误差和动态误差的影响下进行建模，并换算得到对应的神经网络权重的分布；利用建模后得到的权重分布构造权重的先验分布，进行基于变分推断的贝叶斯神经网络训练，得到权重的变分后验分布；将权重变分后验的均值转化为忆阻器存储器的目标电导值。由于忆阻器存在非理想特性，前述现有技术采用的第一种方式离线训练的神经网络权重并不能完全准确地映射为忆阻器的电导值，导致感存算一体化芯片上的神经网络权重产生偏差，从而降低了目标检测网络的识别精度。第二种为采用片上训练的方式，不断读写忆阻器的阻值。例如公布号为CN109460817A的现有专利技术专利申请文献《一种基于非易失存储器的卷积神经网络片上学习系统》包括：输入模块、卷积神经网络模块、输出模块以及权重更新模块。卷积神经网络模块的片上学习利用忆阻器电导随着施加脉冲进行改变的特性实现突触功能，卷积核值或突触权重值储存在忆阻单元中；输入模块将输入信号转换成卷积神经网络模块所需的电压信号；卷积神经网络模块将输入电压信号经过逐层计算转换，并将结果传入输出模块得到网络的输出；权重更新模块根据输出模块的结果调整卷积神经网络模块中忆阻器的电导值，实现网络卷积核值或突触权重值的更新。前述现有方案采用的第二种片上训练的方式虽然能克服忆阻器非理想特性对神经网络权重写入的影响，但这种方式需要在单一芯片上不断训练迭代读写忆阻器的阻值，耗费大量的时间，不适用于芯片的批量部署。因此，将两种方式有效结合，是应对上述问题的解决思路之一。
[0005]综上，现有技术存在神经网络权重映射不准确导致识别精度低、迭代读写耗时较长导致难以实现批量部署的技术问题。

技术实现思路

[0006]本专利技术所要解决的技术问题在于：如何解决现有技术中存在的神经网络权重映射不准确导致识别精度低、迭代读写耗时较长导致难以实现批量部署的技术问题。
[0007]本专利技术是采用以下技术方案解决上述技术问题的：自适应优化感存算一体目标检测识别系统包括：
[0008]权重更新算法模块，用以获取预测误差，采用感知器策略，将预测误差转为忆阻器网络的权重更新步长，据以固定忆阻器网络的权重，以输出并读取训练样本；
[0009]预测误差硬件计算模块，用以利用预置比较器，根据训练样本中的电流信号处理得到忆阻器网络末端的预测电压，比较忆阻器网络末端的预测电压与标准参考电压，据以输出更新权重忆阻器网络的预测结构的适用判断结果，预测误差硬件计算模块与权重更新算法模块连接；
[0010]脉冲发生器电路模块，用以采用预置脉冲电路，处理得到忆阻器神经元调制信号，据以调制忆阻器网络的末端卷积层，以生成脉冲发生器电流信号；
[0011]脉冲发生器信号控制模块，包括：正向导通电路以及反向导通电路，用以根据适用判断结果，处理得到脉冲控制信号，据以控制脉冲发生器电路信号的启停及信号方向，脉冲发生器信号控制模块与脉冲发生器电路模块及预测误差硬件计算模块连接。
[0012]本专利技术在离线训练的神经网络权重映射到感存算一体化芯片后，该系统通过纯硬件的方式，优化忆阻器目标检测网络末端卷积层内神经元的权重，将预测误差转为电流电压信号，基于预测结果自适应调制忆阻器神经网络末端卷积层忆阻器电导值，快速优化忆阻器目标检测网络末端卷积层内神经元的权重，从而提升部署后感存算一体目标检测网络的识别精度，实现感存算一体化芯片批量化、快速部署，克服了传统感存算一体化芯片内忆阻器片上训练耗时的不足。
[0013]在更具体的技术方案中，权重更新算法模块包括：
[0014]忆阻器网络权重值固定模块，用以在神经网络权重到感存算一体化芯片内的忆阻器阵列的映射操作时，固定除忆阻器网络最后一层以外的所有权重值；以忆阻器网络最后一层权重W0和偏置b0；
[0015]待更新网络初始权重偏置处理模块，将当前的忆阻器神经网络最后一层权重W0和偏置b0，作为待更新网络的初始权重以及初始偏置，待更新网络初始权重偏置处理模块与忆阻器网络权重值固定模块连接；
[0016]训练样本选取模块，用以选取一个训练样本；
[0017]忆阻器网络输出读取模块，用以根据训练样本，读取忆阻器网络输出数据，忆阻器网络输出读取模块与训练样本选取模块连接：
[0018]循环读取模块，用以循环选取其余的训练样本，重复读取忆阻器网络输出数据，循环读取模块与忆阻器网络输出读取模块连接；
[0019]循环读取终止模块，用以在满足预置终止条件时，结束对忆阻器网络数据的循环读取操作。
[0020]本专利技术通过对感存算一体化芯片内权重的自适应优化，取代了传统离线神经网络权重映射的方法和片上训练的方法，本专利技术能够根据预测误差，硬件实现的方式自动调整神经网络最后一层的权重，优化预测结果。
[0021]在更具体的技术方案中，预置终止条件包括：直到所有输入输出对(X，y)都不满足：
[0022]若W
T
X+b>0且y＝
‑
1，则W＝W
‑
X，b＝b
‑
1；
[0023]若W
T
X+b＜0且y＝+1，则W＝W+X，b＝b+1；
[0024]式中，W为忆阻器神经网络权重，X为输入数据，y为对应的标签，b为忆阻器神经网络偏置。
[0025]在更具体的技术方案中，预测误差硬件计算模块包括：电流转电压单元电路以及电压比较单元电路；
[0026]电流转电压单元电路，用以根据忆阻器交叉阵列输出的电流信号，获取并输出预置区间电压值；电流信号经过第一电阻R1，输入到运算放大器的正极输入端，电阻R1两端分别通过第二电阻R2以及电容C1接地，运算放大器的负端连接运算放大器的输出端，运算放大器的输出端通过第三电阻R3输出转换电压信号V
out
；
[0027本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.自适应优化感存算一体目标检测识别系统，其特征在于，所述方法包括：权重更新算法模块，用以获取预测误差，采用感知器策略，将所述预测误差转为忆阻器网络的权重更新步长，据以固定所述忆阻器网络的权重，以输出并读取训练样本；预测误差硬件计算模块，用以利用预置比较器，根据所述训练样本中的电流信号处理得到所述忆阻器网络末端的预测电压，比较所述忆阻器网络末端的预测电压与标准参考电压，据以输出所述更新权重忆阻器网络的预测结构的适用判断结果，所述预测误差硬件计算模块与所述权重更新算法模块连接；脉冲发生器电路模块，用以采用预置脉冲电路，处理得到忆阻器神经元调制信号，据以调制所述忆阻器网络的末端卷积层，以生成脉冲发生器电流信号；脉冲发生器信号控制模块，包括：正向导通电路以及反向导通电路，用以根据所述适用判断结果，处理得到脉冲控制信号，据以控制所述脉冲发生器电路信号的启停及信号方向，所述脉冲发生器信号控制模块与所述脉冲发生器电路模块及所述预测误差硬件计算模块连接。2.根据权利要求1所述的自适应优化感存算一体目标检测识别系统，其特征在于，所述权重更新算法模块包括：忆阻器网络权重值固定模块，用以在神经网络权重到感存算一体化芯片内的忆阻器阵列的映射操作时，固定除忆阻器网络最后一层以外的所有权重值；以所述忆阻器网络最后一层权重W0和偏置b0；待更新网络初始权重偏置处理模块，将当前的所述忆阻器神经网络最后一层权重W0和偏置b0，作为待更新网络的初始权重以及初始偏置，所述待更新网络初始权重偏置处理模块与所述忆阻器网络权重值固定模块连接；训练样本选取模块，用以选取一个训练样本；忆阻器网络输出读取模块，用以根据所述训练样本，读取忆阻器网络输出数据，所述忆阻器网络输出读取模块与所述训练样本选取模块连接：循环读取模块，用以循环选取其余的所述训练样本，重复读取所述忆阻器网络输出数据，所述循环读取模块与所述忆阻器网络输出读取模块连接；循环读取终止模块，用以在满足预置终止条件时，结束对所述忆阻器网络数据的循环读取操作。3.根据权利要求1所述的自适应优化感存算一体目标检测识别系统，其特征在于，所述预置终止条件包括：直到所有输入输出对(X，y)都不满足：若W
T
X+b＞0且y＝
‑
1，则W＝W
‑
X＝b
‑
1；若W
T
X+b<0且y＝+1，则W＝W+X＝b+1式中，W为忆阻器神经网络权重，X为输入数据，y为对应的标签，b为忆阻器神经网络偏置。4.根据权利要求1所述的自适应优化感存算一体目标检测识别系统，其特征在于，所述预测误差硬件计算模块包括：电流转电压单元电路以及电压比较单元电路；所述电流转电压单元电路，用以根据忆阻器交叉阵列输出的电流信号，获取并输出预置区间电压值；所述电流信号经过第一电阻R1，输入到运算放大器的正极输入端，所述电阻R1两端分别通过第二电阻R2以及电容C1接地，所述运算放大器的负端连接所述运算放大器
的输出端，所述运算放大器的输出端通过第三电阻R3输出转换电压信号V
ou...

【专利技术属性】
技术研发人员：宋博，蔡斌，苗金水，张强，孙智涌，
申请(专利权)人：江淮前沿技术协同创新中心，
类型：发明
国别省市：