【技术实现步骤摘要】
本专利技术涉及近似计算、高能效计算电路、神经网络等工程技术，特别公开一种面向卷积神经网络的基于误差互补偿的有符号近似乘加计算单元及其实现方法，属于计算、推算或计数的。
技术介绍
1、近几十年来，随着芯片制程工艺的进步，处理器的性能得到了巨大的发展，但大数据与人工智能等应用领域的兴起以及嵌入式、物联网等应用场景的出现，对低功耗、高能效计算单元提出了更高的要求。与此同时，图像分类、语音识别等人工智能应用具有一定的容错性，对数据进行处理时并不一定总是要进行精确的运算。因此，牺牲一部分计算精度以获取更高能效的近似计算正日渐得到重视。
2、人工神经网络中最成功的一类是卷积神经网络(convolutional neuralnetworks,cnn)，其是一种多层人工神经网络，每一层网络对前一层网络的输出执行乘法与求和运算以产生下一层网络的输入，网络结构可分为卷积层、池化层、激活层、全连接层和损失层等。cnn的主要计算来源于大量卷积层中的卷积运算，因此需要进行大量的乘法和加法运算。神经网络加速器的核心是计算单元，用于执行神经网络中的卷积、矩阵乘法、激活函数等运算。每个计算单元中都存在一个乘法器和累加单元(mac)，单个乘法器的性能提升可以显著提高整个加速器的性能，因此有必要对面向卷积神经网络的近似乘加计算单元进行设计。
3、cnn本身对一些较小的误差具有容忍性，同时卷积层的输出会对大量的乘法结果进行累加，因此只要产生误差的方差较小，累计误差就会收敛到平均值，从而不影响抽象特征的提取。为了实现误差方差最小，最简单的方法是
4、由于现阶段电路规模的飞速发展，传统的手工设计方法已经难以满足超大规模集成电路的协同设计要求，因此近年来已经出现了多种基于自动逻辑综合的电路设计方法，例如笛卡尔遗传算法和布尔矩阵分解等。布尔矩阵分解设计中，由于可以通过将输入矩阵分解为几个子电路，从而减小输入的数量来降低时间复杂度，比较适合对乘法器等大规模的近似电路进行设计，但现有布尔矩阵分解设计近似电路时较多考虑精度而忽略能效。对于近似加法器而言，其结构比较简单，因此很容易通过笛卡尔遗传算法得到误差偏向特定方向的近似加法器；使用布尔矩阵分解产生近似加法器时，由于需要产生压缩器电路和解压器电路再将其组合，对于小规模的加法器反而可能导致硬件复杂化，实际电路性能不及预期，因此布尔矩阵分解不适用于近似加法器的设计。此外，对于包含乘法运算和加法运算的近似乘加计算单元而言，近似乘法器的误差经过近似加法运算后会进一步累积和/或放大，最终影响近似乘加运算的精度，因此，有必要在电路设计时综合考虑近似乘法误差和近似加法误差。
5、综上，本专利技术旨在提出一种面向卷积神经网络的高能效近似乘加计算单元以克服上述缺陷。
技术实现思路
1、本专利技术的专利技术目的是针对上述
技术介绍
的不足，提供一种面向卷积神经网络的基于误差互补偿的有符号近似乘加计算单元，在考虑精度和性能折衷的衡量标准函数的约束下使用布尔矩阵分解设计近似乘法器，再根据近似乘法器误差特征使用笛卡尔遗传算法设计近似加法器，使得近似乘法器的误差和近似加法器的误差相互补偿，在提供高能效、占用较少硬件资源的同时，减小近似计算带来的误差对神经网络精度的影响，解决神经网络边缘端硬件部署功耗受限的技术问题，实现平衡计算硬件精度与能效的专利技术目的。
2、本专利技术为实现上述专利技术目的采用如下技术方案：
3、一种面向cnn的基于误差互补偿的有符号近似乘加计算单元，包括：符号位处理模块、子乘法器模块以及部分积累加模块；符号位处理模块，用于根据输入的两个定点有符号操作数的符号位获取乘加计算结果的符号位；子乘法器模块，包括：对两个操作数的数值高位进行精确乘法操作的精确乘法器，对一个操作数的数值高位和另一个操作数的数值低位进行近似乘法操作的近似乘法器以及对两个操作数的数值低位进行近似乘法操作的近似乘法器，近似乘法器在考虑精度和性能折衷的衡量标准函数的约束下通过布尔矩阵分解获取；部分积累加模块，包括：对子乘法器模块中各乘法器输出的部分积的数值高位进行精确加法操作的精确加法器、对子乘法器模块中各乘法器输出的部分积的数值低位进行近似加法操作的近似加法器，精确加法器的累加结果与近似加法器的累加结果拼接为乘加计算的数值部分，组合乘加计算结果的符号位和乘加计算的数值部分，获取近似乘加计算的最终结果，近似加法器通过笛卡尔遗传算法产生，笛卡尔遗传算法的适应度函数包含近似加法器误差分布与近似乘法器误差分布互补的数学项。
4、作为一种面向cnn的基于误差互补偿的有符号近似乘加计算单元的进一步优化方案，符号位处理模块根据输入的两个定点有符号操作数的符号位获取乘加计算结果的符号位，具体为：对输入的两个定点有符号操作数进行编码，每个定点有符号操作数的编码均包括：符号位、数值高位和数值低位，对两个输入操作数的符号位进行异或运算。
5、作为一种面向cnn的基于误差互补偿的有符号近似乘加计算单元的再进一步优化方案，考虑精度和性能折衷的衡量标准函数包括：衡量近似乘法运算误差大小的数学项和衡量近似乘法电路能效的数学项。
6、作为一种面向cnn的基于误差互补偿的有符号近似乘加计算单元的再进一步优化方案，笛卡尔遗传算法的适应度函数还包含衡量近似加法运算误差大小的数学项和衡量近似加法电路能效的数学项。
7、作为一种面向cnn的基于误差互补偿的有符号近似乘加计算单元的再进一步优化方案，考虑精度和性能折衷的衡量标准函数为其中，n为乘法运算的次数，yi为第i次乘法运算的精确结果，yi′为第i次乘法运算的近似结果，fet_num1为近似乘法器电路中晶体管的数目，α和β分别为近似乘法运算误差大小和近似乘法电路能效的权重，α+β＝1。
8、作为一种面向cnn的基于误差互补偿的有符号近似乘加计算单元的再进一步优化方案，笛卡尔遗传算法的适应度函数为其中，m为加法运算的次数，zj为第j次加法运算的精确结果，zj′为第j次加法运算的近似结果，fet_num2为近似加法器电路中晶体管的数目，d为近似加法器的期望误差分布，a、b和c分别为近似加法运算误差大小、近似加法器电路能效和近似加法器误差分布的权重，a+b+c＝1。
9、作为一种面向cnn的基于误差互补偿的有符号近似乘加计算单元的更进一步优化方案，部分积累加模块还包括；对子乘法器模块中各乘法器输出的部分积进行移位操作的移位电路。
10、作为一种面向cnn的基于误差互补偿的有符号近似乘加计算单元的更进一步优化方案，
11、当两个定点有符号操作数的计算位宽均为2n时，子乘法器模块中的所本文档来自技高网...
【技术保护点】
1.一种面向CNN的基于误差互补偿的有符号近似乘加计算单元，其特征在于，包括：
2.根据权利要求1所述一种面向CNN的基于误差互补偿的有符号近似乘加计算单元，其特征在于，所述符号位处理模块根据输入的两个定点有符号操作数的符号位获取乘加计算结果的符号位，具体为：对输入的两个定点有符号操作数进行编码，每个定点有符号操作数的编码均包括：符号位、数值高位和数值低位，对两个输入操作数的符号位进行异或运算。
3.根据权利要求2所述一种面向CNN的基于误差互补偿的有符号近似乘加计算单元，其特征在于，所述考虑精度和性能折衷的衡量标准函数包括：衡量近似乘法运算误差大小的数学项和衡量近似乘法电路能效的数学项。
4.根据权利要求3所述一种面向CNN的基于误差互补偿的有符号近似乘加计算单元，其特征在于，所述笛卡尔遗传算法的适应度函数还包含衡量近似加法运算误差大小的数学项和衡量近似加法电路能效的数学项。
5.根据权利要求3所述一种面向CNN的基于误差互补偿的有符号近似乘加计算单元，其特征在于，所述考虑精度和性能折衷的衡量标准函数为其中，n为乘法运算的次数，Y
6.根据权利要求4所述一种面向CNN的基于误差互补偿的有符号近似乘加计算单元，其特征在于，所述笛卡尔遗传算法的适应度函数为其中，m为加法运算的次数，Zj为第j次加法运算的精确结果，Zj′为第j次加法运算的近似结果，FET_num2为近似加法器电路中晶体管的数目，D为近似加法器的期望误差分布，a、b和c分别为近似加法运算误差大小、近似加法器电路能效和近似加法器误差分布的权重，a+b+c＝1。
7.根据权利要求1至6中任意一项所述一种面向CNN的基于误差互补偿的有符号近似乘加计算单元，其特征在于，所述部分积累加模块还包括；对子乘法器模块中各乘法器输出的部分积进行移位操作的移位电路。
8.根据权利要求1至6中任意一项所述一种面向CNN的基于误差互补偿的有符号近似乘加计算单元，其特征在于，
...【技术特征摘要】
1.一种面向cnn的基于误差互补偿的有符号近似乘加计算单元，其特征在于，包括：
2.根据权利要求1所述一种面向cnn的基于误差互补偿的有符号近似乘加计算单元，其特征在于，所述符号位处理模块根据输入的两个定点有符号操作数的符号位获取乘加计算结果的符号位，具体为：对输入的两个定点有符号操作数进行编码，每个定点有符号操作数的编码均包括：符号位、数值高位和数值低位，对两个输入操作数的符号位进行异或运算。
3.根据权利要求2所述一种面向cnn的基于误差互补偿的有符号近似乘加计算单元，其特征在于，所述考虑精度和性能折衷的衡量标准函数包括：衡量近似乘法运算误差大小的数学项和衡量近似乘法电路能效的数学项。
4.根据权利要求3所述一种面向cnn的基于误差互补偿的有符号近似乘加计算单元，其特征在于，所述笛卡尔遗传算法的适应度函数还包含衡量近似加法运算误差大小的数学项和衡量近似加法电路能效的数学项。
5.根据权利要求3所述一种面向cnn的基于误差互补偿的有符号近似乘加计算单元，其特征在于，所述考虑精度和性能折衷的...
【专利技术属性】
技术研发人员：刘波，徐星宇，韦庆文，张扬，蔡浩，杨军，
申请(专利权)人：东南大学，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。