System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 计算设备及其操作方法技术_技高网

计算设备及其操作方法技术

技术编号:41625211 阅读:2 留言:0更新日期:2024-06-13 02:25
公开了计算设备及其操作方法。所述计算设备包括:处理电路,被配置为:检测多个权重值中的权重值内的与权重值的范围相关的权重深度字段,并且检测多个激活值中的激活值内的与激活值的范围相关的激活深度字段;识别权重值中的第一操作数,并且识别激活值中的第二操作数;以及通过基于检测到的第一操作数和第二操作数执行运算,生成具有基于权重深度字段和激活深度字段确定的结果深度字段的输出值。

【技术实现步骤摘要】

公开涉及计算设备及其操作方法


技术介绍

1、深度学习模型或加速器计算复杂。深度学习模型和加速器利用定点和/或浮点数格式用于训练和推断操作的激活、权重和梯度,并且可实现用于图像分类和数据处理的深度学习模型的更快的训练和降低的功耗。


技术实现思路

1、提供本
技术实现思路
以简要的形式介绍在以下具体实施方式中进一步描述的构思的选择。本
技术实现思路
不旨在确定要求保护的主题的关键特征或必要特征,也不旨在用于帮助确定要求保护的主题的范围。

2、在一个总体方面,一种计算设备可包括:处理电路,被配置为检测多个权重值中的权重值内的与权重值的范围相关的权重深度字段,并且检测多个激活值中的激活值内的与激活值的范围相关的激活深度字段;识别权重值中的第一操作数,并且识别激活值中的第二操作数;以及通过基于识别的第一操作数和第二操作数执行运算,生成具有基于权重深度字段和激活深度字段确定的结果深度字段的输出值。

3、所述计算设备还可包括:第一缓冲器,被配置为存储权重值;以及第二缓冲器,被配置为存储激活值,其中,处理电路可包括:第一深度字段检测器,被配置为:在朝向权重值的最低有效位(lsb)的方向上,检测权重值的在权重值的最高有效位(msb)之后的位之中的第一个具有第一值的第一目标位;并且将从权重值的第二msb到第一目标位的位确定为权重深度字段;以及第二深度字段检测器,被配置为:在朝向激活值的最低有效位(lsb)的方向上,检测激活值的在激活值的最高有效位(msb)之后的位之中的第一个具有第一值的第二目标位;并且将从激活值的第二msb到第二目标位的位确定为激活深度字段。

4、处理电路可包括:第一深度字段检测器,被配置为:检测权重值的在权重值的最高有效位(msb)和第二msb之后的位之中的第一个具有第一值的第一目标位;并且将从权重值的第二msb到第一目标位的位确定为权重深度字段;以及第二深度字段检测器,被配置为:在朝向激活值的最低有效位(lsb)的方向上,检测激活值的在激活值的最高有效位(msb)和第二msb之后的位之中的第一个具有第一值的第二目标位;并且将从激活值的第二msb到第二目标位的位确定为激活深度字段。

5、处理电路可包括:第一位检查电路,被配置为确定在朝向权重值的lsb的方向上权重值的第一目标位的下一位是否具有第一值;以及第一掩蔽电路,被配置为:当所述下一位具有第一值时,将第一目标位的值从第一值改变为第二值,并且将第一操作数识别为包括具有第二值的第一目标位、所述下一位和所述下一位之后的位;以及当所述下一位具有第二值时,将所述下一位的值从第二值改变为第一值,将第一目标位的值从第一值改变为第二值,并且将第一操作数识别为包括具有第二值的第一目标位、具有第一值的所述下一位和所述下一位之后的位。

6、处理电路可包括:第二位检查电路,被配置为确定在朝向激活值的lsb的方向上激活值的第二目标位的下一位是否具有第一值;以及第二掩蔽电路,被配置为:当所述下一位具有第一值时,将第二目标位的值从第一值改变为第二值,并且识别包括具有第二值的第二目标位、所述下一位和所述下一位之后的位的第二操作数;以及当所述下一位具有第二值时,将所述下一位的值从第二值改变为第一值,将第二目标位的值从第一值改变为第二值,并且识别包括具有第二值的第二目标位、具有第一值的所述下一位和所述下一位之后的位的第二操作数。

7、处理电路还被配置为生成与检测到的权重深度字段和激活深度字段对应的相应转换值,对生成的相应转换值求和,并且使用求和的结果来确定输出数据的结果深度字段。

8、处理电路可包括:移位电路,被配置为:当权重值的尾数字段中的前导位和激活值的尾数字段中的前导位中的每个具有第二值时,对运算结果执行2位移位;当权重值的尾数字段中的前导位和激活值的尾数字段中的前导位中的一个具有第二值且另一个具有第一值时,对运算结果执行1位移位;以及当权重值的尾数字段中的前导位和激活值的尾数字段中的前导位中的每个具有第一值时,跳过对运算结果的移位。

9、处理电路可包括:编码器,被配置为从运算结果提取一部分位,并且使用提取的所述一部分位、结果深度字段、权重值的符号位和激活值的符号位来生成输出数据。

10、权重值和激活值可各自具有第一数字格式,并且其中,所述计算设备还可包括数字格式转换器,数字格式转换器被配置为将不同于第一数字格式的数字格式的原始权重值和不同于第一数字格式的数字格式的原始激活值分别转换为第一数字格式的权重值和第一数字格式的激活值,或者将另外的数字格式的原始权重值和原始激活值分别转换为第一数字格式的权重值和第一数字格式的激活值。

11、数字格式转换器还可被配置为:基于原始权重值的指数值和预设因子来检测权重值的权重深度字段,确定与通过原始权重值的指数值和预设因子之间的除法运算得到的第一余数对应的位,并且通过与第一余数对应的位和原始权重值的尾数位的一部分位来确定权重值的尾数字段;以及基于原始激活值的指数值和预设因子来检测激活值的激活深度字段,确定与通过原始激活值的指数值和预设因子之间的除法运算得到的第二余数对应的位,并且通过与第二余数对应的位和原始激活值的尾数位的一部分位来确定激活值的尾数字段。

12、在另一总体方面,一种计算设备可包括:处理电路,被配置为:检测多个权重值中的权重值内的与权重值的范围相关的权重深度字段;识别权重值中的操作数;基于识别的操作数和多个激活值中的激活值的尾数来执行运算,基于检测到的权重深度字段、权重值的底数值、激活值的指数和用于对运算结果进行移位的移位值来生成输出数据的指数;以及基于生成的指数和运算结果来生成输出数据。

13、处理电路可包括深度字段检测器,被配置为在朝向权重值的最低有效位(lsb)的方向上,检测权重值的在权重值的最高有效位(msb)和第二msb之后的位之中的第一个具有第一值的目标位,并且将从第二msb到目标位的位确定为权重深度字段。

14、深度字段检测器还可被配置为在第二msb第一个具有第一值时将第二msb确定为权重深度字段。

15、处理电路可包括:位检查电路,被配置为确定在朝向权重值的lsb的方向上权重值的目标位的下一位是否具有第一值;以及掩蔽电路,被配置为:当所述下一位具有第一值时,将目标位的值从第一值改变为第二值,并且将操作数识别为包括具有第二值的目标位、所述下一位和所述下一位之后的位;以及当所述下一位具有第二值时,将所述下一位的值从第二值改变为第一值,将目标位的值从第一值改变为第二值,并且将操作数识别为包括具有第二值的目标位、具有第一值的所述下一位和所述下一位之后的位。

16、处理电路还可被配置为:生成与检测到的权重深度字段对应的转换值,并且使用生成的转换值、k、根据权重值的尾数字段的前导位生成的值、所述移位值和激活值的指数来生成输出数据的指数,所述k是当底数值被表示为2的幂时的指数。

17、处理电路还可被配置为:将激活值的指数的符号应用于生成的转换值与所述k之间的相乘本文档来自技高网...

【技术保护点】

1.一种计算设备,包括:

2.根据权利要求1所述的计算设备,还包括:

3.根据权利要求1所述的计算设备,其中,

4.根据权利要求3所述的计算设备,其中,处理电路包括:

5.根据权利要求3所述的计算设备,其中,处理电路包括:

6.根据权利要求1所述的计算设备,其中,处理电路还被配置为:生成与检测到的权重深度字段和激活深度字段对应的相应转换值,对生成的相应转换值求和,并且使用求和的结果来确定输出数据的结果深度字段。

7.根据权利要求1所述的计算设备,其中,处理电路包括:

8.根据权利要求1所述的计算设备,其中,处理电路包括:

9.根据权利要求1至8中的任一项所述的计算设备,其中,权重值和激活值各自具有第一数字格式,并且

10.根据权利要求9所述的计算设备,其中,数字格式转换器还被配置为:

11.一种计算设备,包括:

12.根据权利要求11所述的计算设备,其中,

13.根据权利要求12所述的计算设备,其中,深度字段检测器还被配置为在第二MSB第一个具有第一值时将第二MSB确定为权重深度字段。

14.根据权利要求12所述的计算设备,其中,处理电路包括:

15.根据权利要求11所述的计算设备,其中,处理电路还被配置为:生成与检测到的权重深度字段对应的转换值,并且使用生成的转换值、k、根据权重值的尾数字段的前导位生成的值、所述移位值和激活值的指数来生成输出数据的指数,所述k是当底数值被表示为2的幂时的指数。

16.根据权利要求15所述的计算设备,其中,处理电路还被配置为:将激活值的指数的符号应用于生成的转换值与所述k之间的相乘结果,并且通过对符号被应用的相乘结果、激活值的指数、根据前导位生成的值和所述移位值求和来生成输出数据的指数。

17.根据权利要求16所述的计算设备,其中,当前导位具有第二值时,根据前导位生成的值对应于“-1”,并且当前导位具有第一值时,根据前导位生成的值对应于“0”。

18.根据权利要求11至17中的任一项所述的计算设备,其中,处理电路还被配置为:从运算结果提取一部分位,并且使用提取的所述一部分位和生成的指数来生成输出数据。

19.一种计算设备的操作方法,包括:

20.根据权利要求19所述的操作方法,

...

【技术特征摘要】

1.一种计算设备,包括:

2.根据权利要求1所述的计算设备,还包括:

3.根据权利要求1所述的计算设备,其中,

4.根据权利要求3所述的计算设备,其中,处理电路包括:

5.根据权利要求3所述的计算设备,其中,处理电路包括:

6.根据权利要求1所述的计算设备,其中,处理电路还被配置为:生成与检测到的权重深度字段和激活深度字段对应的相应转换值,对生成的相应转换值求和,并且使用求和的结果来确定输出数据的结果深度字段。

7.根据权利要求1所述的计算设备,其中,处理电路包括:

8.根据权利要求1所述的计算设备,其中,处理电路包括:

9.根据权利要求1至8中的任一项所述的计算设备,其中,权重值和激活值各自具有第一数字格式,并且

10.根据权利要求9所述的计算设备,其中,数字格式转换器还被配置为:

11.一种计算设备,包括:

12.根据权利要求11所述的计算设备,其中,

13.根据权利要求12所述的计算设备,其中,深度字段检测器还被配置为在第二msb第一个具有第一值时将第二msb确定为权重深度...

【专利技术属性】
技术研发人员:沈贤煜
申请(专利权)人:三星电子株式会社
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1