一种正负数兼容的存内运算方法、乘加运算装置及其应用制造方法及图纸

本发明专利技术涉及存储器技术领域，公开了一种正负数兼容的存内运算方法、乘加运算装置及其应用，其中方法包括基于由存储运算单元组成的存储阵列，对原输入数据和原权重选择进行差分、偏置配对处理运算或者全偏置处理运算，包括采用差分输入和偏置权重匹配或者差分权重和偏置输入匹配或偏置输入和偏置权重匹配进行乘法运算，并在此基础上进行乘加运算；本发明专利技术能够可以高效地完成包括负数乘法在内的存内计算，创新的电路结构设计能够获得更高的通用性，达到更好的计算性能和性能功耗比，有着切实意义上的实用价值。实意义上的实用价值。实意义上的实用价值。

【技术实现步骤摘要】
一种正负数兼容的存内运算方法、乘加运算装置及其应用


[0001]本专利技术涉及存储器术领域，具体涉及一种正负数兼容的存内运算方法、乘加运算装置及其应用。

技术介绍

[0002]存内计算被广泛应用于人工智能的矩阵运算加速，常见的有向量矩阵乘法，以及卷积运算。对于以计算密集且存储密集为特点的人工智能算法而言，存内运算被认为是突破现有计算机架构的新范式。
[0003]由于物理特性的影响，存内计算多处理的是非负数的计算。但实际人工智能算法中，为了追求更高的准确度，常常需要进行负数运算，如何高效地进行负数运算，是存内计算的关键。
[0004]现有的可以处理负数计算的存内结构器面积较大、计算方法较为复杂，计算应用规模受限，亟需改进。

技术实现思路

[0005]针对现有技术的不足，本专利技术提供一种正负数兼容的存内运算方法、装置及应用，相比于现有的技术能够在不增加面积成本的前提下，将计算性能提升了一倍，达到了更好的计算性能和性能功耗比。
[0006]本专利技术解决技术问题采用如下技术方案：
[0007]本专利技术提供一种正负数兼容的存内运算方法所述方法包括：
[0008]基于由存储运算单元组成的存储阵列，对原输入数据和原权重选择进行差分、偏置配对处理运算或者全偏置处理运算，其中，差分、偏置配对处理运算包括：
[0009]若将原输入数据配置为两路差分输入，则设定参考权重偏置，对原权重进行偏置处理得到偏置权重，基于偏置权重和参考权重偏置配置存储运算单元的阈值电压，分别采集差分输入与偏置权重和参考权重偏置的乘积信号，并以差值形式输出；
[0010]若将原权重配置为两路差分权重，则设定参考输入偏置，对原输入数据进行偏置处理得到偏置输入，基于两路差分权重配置一对存储运算单元的阈值电压，分别采集偏置输入和参考输入偏置与两路差分权重的乘积信号，并以差值形式输出；
[0011]全偏置处理运算包括：设定参考权重偏置和参考输入偏置，对原权重和原输入数据分别进行偏置处理得到偏置权重和偏置输入，基于偏置权重和参考权重偏置配置存储运算单元的阈值电压，分别采集偏置输入和参考输入偏置与偏置权重和参考权重偏置的乘积信号，分组作差后输出。
[0012]优选地，所述存储阵列为NOR Flash存储阵列；
[0013]所述原输入数据为待运算数字输入通过DAC模块转换的模拟信号；
[0014]所述以差值形式输出或分组作差后输出还包括将输出的模拟信号经ADC模块转换为数字信号进行输出；
[0015]所述配置存储运算单元的阈值电压具体包括：
[0016]首先对存储运算单元进行离线标定，获取其初始参数，得到各存储运算单元自身阈值电压V
TH
随编程操作的变化曲线；
[0017]根据偏置权重、参考权重偏置或者两路差分权重以及变化曲线配置对应存储运算单元的阈值电压。
[0018]优选地，所述参考权重偏置的设定标准为：原权重为正数权重时，偏置处理后的偏置权重大于参考权重偏置；原权重为负数权重时，偏置处理后的偏置权重小于参考权重偏置；
[0019]所述参考输入偏置的设定标准为：原输入数据为正数时，偏置处理后的偏置输入大于参考输入偏置；原输入数据为负数时，偏置处理后的偏置输入小于参考输入偏置。
[0020]优选地，所述基于偏置权重和参考权重偏置配置存储运算单元的阈值电压，分别采集差分输入与偏置权重和参考权重偏置的乘积信号具体包括：
[0021]匹配存储阵列配置偏置列，将两路差分输入分别接入偏置列中两个存储运算单元的输入端，并将两个存储运算单元的阈值电压均按照参考权重偏置配置，采集两个存储运算单元输出端电流信号并以差值形式输出作为差分输入与参考权重偏置的乘积信号；
[0022]将两路差分输入分别接入存储阵列中两个存储运算单元的输入端，并将两个存储运算单元的阈值电压均按照偏置权重配置，采集两个存储运算单元输出端电流信号并以差值形式输出作为差分输入与偏置权重的乘积信号。
[0023]优选地，所述基于偏置权重和参考权重偏置配置存储运算单元的阈值电压，分别采集差分输入与偏置权重和参考权重偏置的乘积信号，并以差值形式输出具体包括：
[0024]所述两路差分输入为基于待运算数字输入配置的两路数字输入信号通过DAC模块转换而得；
[0025]将两路差分输入分别接入存储阵列中两个存储运算单元的输入端，并将两个存储运算单元的阈值电压均按照偏置权重配置，采集两个存储运算单元输出端电流信号并以差值形式输出作为差分输入与偏置权重的乘积信号；
[0026]将两路数字输入信号通过数字电路计算差值；
[0027]对参考权重偏置进行模数转换后与两路数字输入信号的差值直接通过数字电路计算，得到偏置乘积信号；
[0028]将差分输入与偏置权重的乘积信号通过ADC电路转换为数字信号后，与偏置乘积信号通过数字电路进行差值运算并输出差值结果。
[0029]优选地，所述基于两路差分权重配置一对存储运算单元的阈值电压，分别采集偏置输入和参考输入偏置与两路差分权重的乘积信号，并以差值形式输出具体包括：
[0030]基于两路差分权重设置两个由浮栅场效应晶体管配置的存储运算单元的阈值电压；
[0031]将参考输入偏置同时接入两个存储运算单元输入端，并将两输出端相减后转换为数字信号后送入寄存器存储；
[0032]再将偏置输入同时接入两个存储运算单元输入端，并将两输出端相减后转换为数字信号后与寄存器中存储的信号通过数字电路进行差值运算并输出差值结果。
[0033]优选地，所述基于偏置权重和参考权重偏置配置存储运算单元的阈值电压，分别
采集偏置输入和参考输入偏置与偏置权重和参考权重偏置的乘积信号，分组作差后输出具体包括：
[0034]匹配存储阵列设置偏置列，并按照参考权重偏置配置偏置列中存储运算单元的阈值电压；
[0035]按照偏置权重配置存储阵列中存储运算单元的阈值电压；
[0036]将参考输入偏置分别接入存储阵列和偏置列中存储运算单元的输入端，并将两输出端相减后转换为数字信号后送入寄存器存储；
[0037]再将偏置输入同时接入存储阵列和偏置列中存储运算单元的输入端，并将两输出端相减后转换为数字信号后与寄存器中存储的信号通过数字电路进行差值运算并输出差值结果。
[0038]本专利技术还提供一种乘加运算装置，包括计算阵列、偏置列、DAC模块、差分模块和ADC模块；
[0039]所述计算阵列基于存储运算单元组成，包括匹配设置的第一计算子阵列和第二计算子阵列；其中第一计算子阵列和第二计算子阵列中位于同一行数上的存储运算单元均接入同一输入端，位于同一列数上的存储运算单元均接入同一输出端；
[0040]所述偏置列基于存储运算单元组成，包括分别匹配第一计算子阵列和第二计算子阵列设置的第一偏置列和第二偏置列，其中第一偏置列和第二偏置列中的存储运算单元的输出端均归一合并输出，输入本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种正负数兼容的存内运算方法，其特征在于，所述方法包括：基于由存储运算单元组成的存储阵列，对原输入数据和原权重选择进行差分、偏置配对处理运算或者全偏置处理运算，其中，差分、偏置配对处理运算包括：若将原输入数据配置为两路差分输入，则设定参考权重偏置，对原权重进行偏置处理得到偏置权重，基于偏置权重和参考权重偏置配置存储运算单元的阈值电压，分别采集差分输入与偏置权重和参考权重偏置的乘积信号，并以差值形式输出；若将原权重配置为两路差分权重，则设定参考输入偏置，对原输入数据进行偏置处理得到偏置输入，基于两路差分权重配置一对存储运算单元的阈值电压，分别采集偏置输入和参考输入偏置与两路差分权重的乘积信号，并以差值形式输出；全偏置处理运算包括：设定参考权重偏置和参考输入偏置，对原权重和原输入数据分别进行偏置处理得到偏置权重和偏置输入，基于偏置权重和参考权重偏置配置存储运算单元的阈值电压，分别采集偏置输入和参考输入偏置与偏置权重和参考权重偏置的乘积信号，分组作差后输出。2.根据权利要求1所述的一种正负数兼容的存内运算方法，其特征在于，所述存储阵列为NOR Flash存储阵列；所述原输入数据为待运算数字输入通过DAC模块转换的模拟信号；所述以差值形式输出或分组作差后输出还包括将输出的模拟信号经ADC模块转换为数字信号进行输出；所述配置存储运算单元的阈值电压具体包括：首先对存储运算单元进行离线标定，获取其初始参数，得到各存储运算单元自身阈值电压V
TH
随编程操作的变化曲线；根据偏置权重、参考权重偏置或者两路差分权重以及变化曲线配置对应存储运算单元的阈值电压。3.根据权利要求2所述的一种正负数兼容的存内运算方法，其特征在于，所述参考权重偏置的设定标准为：原权重为正数权重时，偏置处理后的偏置权重大于参考权重偏置；原权重为负数权重时，偏置处理后的偏置权重小于参考权重偏置；所述参考输入偏置的设定标准为：原输入数据为正数时，偏置处理后的偏置输入大于参考输入偏置；原输入数据为负数时，偏置处理后的偏置输入小于参考输入偏置。4.根据权利要求2所述的一种正负数兼容的存内运算方法，其特征在于，所述基于偏置权重和参考权重偏置配置存储运算单元的阈值电压，分别采集差分输入与偏置权重和参考权重偏置的乘积信号具体包括：匹配存储阵列配置偏置列，将两路差分输入分别接入偏置列中两个存储运算单元的输入端，并将两个存储运算单元的阈值电压均按照参考权重偏置配置，采集两个存储运算单元输出端电流信号并以差值形式输出作为差分输入与参考权重偏置的乘积信号；将两路差分输入分别接入存储阵列中两个存储运算单元的输入端，并将两个存储运算单元的阈值电压均按照偏置权重配置，采集两个存储运算单元输出端电流信号并以差值形式输出作为差分输入与偏置权重的乘积信号。5.根据权利要求2所述的一种正负数兼容的存内运算方法，其特征在于，所述基于偏置权重和参考权重偏置配置存储运算单元的阈值电压，分别采集差分输入与偏置权重和参考
权重偏置的乘积信号，并以差值形式输出具体包括：所述两路差分输入为基于待运算数字输入配置的两路数字输入信号通过DAC模块转换而得；将两路差分输入分别接入存储阵列中两个存储运算单元的输入端，并将两个存储运算单元的阈值电压均按照偏置权重配置，采集两个存储运算单元输出端电流信号并以差值形式输出作为差分输入与偏置权重的乘积信号；将两路数字输入信号通过数字电路计算差值；对参考权重偏置进行模数转换后与两路数字输入信号的差值直接通过数字电路计算，得到偏置乘积信号；将差分输入与偏置权重的乘积信号通过ADC电路转换为数字信号后，与偏置乘积信号通过数字电路进行差值运算并输出差值结果。6.根据权利要求2所述的一种正负数兼容的存内运算方法，其特征在于，所述基于两路差分权重配置一对存储运算单元的阈值电压，分别采集偏置输入和参考输入偏置与两路差分权重的乘积信号，并以差值形式输出具体包括：基于两路差分权重设置两个由浮栅场效应晶体管配置的存储运算单元的阈值电压；将参考输入偏置同时接入两个存储运算单元输入端，并将两输出端相减后转换为数字信号后送入寄存器存储；再将偏置输入同时接入两个存储运算单元输入端，并将两输出端相减后转换为数字信号后与寄存器中存储的信号通过数字电路进行差值运算并输出差值结果。7.根据权利要求2所述的一种正负数兼容的存内运算方法，其特征在于，所述基于偏置权重和参考权重偏置配置存储运算单元的阈值电压，分别采集偏置输入和参考输入偏置与偏置权重和参考权重偏置的乘积信号，分组作差后输出具体包括：匹配存储阵列设置偏置列，并按照参考权重偏置配置偏置列中存储运算单元的阈值电压；按照偏置权重配置存储阵列中存储运算单元的阈值电压；将参考输入偏置分别接入存储阵列和偏置列中存储运算单元的输入端，并将两输出端相减后转换为数字信号后送入寄存器存储；再将偏置输入同时接入存储阵列和偏置列中存储运算单元的输入端，将两输出端相减并转换为数字信号后与寄存器中存储的信号通过数字电路进行差值运算并输出差值结果。8.一种采用如权利要求1
‑
4任意一项所述的存内运算方法的乘加运算装置，其特征在于，包括计算阵...

【专利技术属性】
技术研发人员：盛荣华，陶临风，李政达，吕向东，任军，陈真，欧阳托日，唐伟童，
申请(专利权)人：恒烁半导体合肥股份有限公司，
类型：发明
国别省市：