【技术实现步骤摘要】
一种加速组件、加速装置以及电子设备
本披露一般地涉及处理器
更具体的,本披露涉及一种加速单元、加速组件、加速装置、板卡以及电子设备。
技术介绍
目前,随着人工智能(AI,ArtificialIntelligence)和机器学习(MachineLearning)的快速发展,未来对超高性能处理器的需求将越来越大,同时大数据时代对数据的处理提出更高的需求。高性能处理器及集群需要完成海量数据的实时处理,在规定的时间内完成复杂模型的训练和推理等。ASIC(ApplicationSpecificIntegratedCircuit)是专用加速芯片,可以用于训练深度神经网络。ASIC可以在更短的时间内完成工作,比非并行处理超级计算机使用的数据中心基础架构少得多。然而,面对海量的数据时,单个ASIC性能再强大也难免势单力薄,为了获得更强大的算力,常用的方案采用多个ASIC加速芯片。但是,对于多个ASIC互连构成的多卡网络而言,超高的数据吞吐量对于ASIC的数据传输带宽带来了重大的挑战。因此如何设计芯片之间的互联方案以提高整个系统的计算能力,达到高效处理海量数据,成为了构建高性能处理器集群的关键技术问题。
技术实现思路
为了解决上述技术问题,本披露提供了一种能够提高计算能力的加速单元、加速组件、加速装置、板卡以及电子设备。在一个方面,本披露提供一种加速组件,包括多个加速单元,每个加速单元包括M个本单元加速卡,每个本单元加速卡包括内接端口,每个本单元加速卡通过内接端口与其他的本单元加速卡相连接,其中 ...
【技术保护点】
1.一种加速组件,其特征在于,包括多个加速单元,每个加速单元包括M个本单元加速卡,每个本单元加速卡包括内接端口,每个本单元加速卡通过内接端口与其他的本单元加速卡相连接,其中,/nM个本单元加速卡在逻辑上形成为L*N规模的加速卡矩阵,L和N为不小于2的整数,所述M个本单元加速卡中的至少一个包括外接端口,所述加速单元之间通过外接端口连接。/n
【技术特征摘要】
1.一种加速组件,其特征在于,包括多个加速单元,每个加速单元包括M个本单元加速卡,每个本单元加速卡包括内接端口,每个本单元加速卡通过内接端口与其他的本单元加速卡相连接,其中,
M个本单元加速卡在逻辑上形成为L*N规模的加速卡矩阵,L和N为不小于2的整数,所述M个本单元加速卡中的至少一个包括外接端口,所述加速单元之间通过外接端口连接。
2.根据权利要求1所述的加速组件,其特征在于,所述M个本单元加速卡在逻辑上形成为2*2、3*3或4*4的加速卡矩阵。
3.根据权利要求1所述的加速组件,其特征在于,每个本单元加速卡与其他至少一个本单元加速卡通过两条路径来连接。
4.根据权利要求1所述的加速组件,其特征在于,所述加速卡矩阵中处于四个角的对角本单元加速卡之间通过两条路径来连接。
5.根据权利要求1所述的加速组件,其特征在于,在加速单元中包括四个本单元加速卡时,每个本单元加速卡包括六个端口,并且其中每个本单元加速卡的四个端口为内接端口,用于与其他三个本单元加速卡连接;至少一个本单元加速卡的其余两个端口为外接端口,用于与外单元加速卡连接。
6.根据权利要求1所述的加速组件,其特征在于,所述内接端口和外接端口为SerDes端口。
7.根据权利要求1所述的加速组件,其特征在于,所述多个加速单元在逻辑上呈多层结构,每一层包括一个加速单元,每个加速单元的本单元加速卡通过外接端口与外单元加速卡相连接。
8.根据权利要求1所述的加速组件,其特征在于,所述多个加速单元具有相同的结构。
9.根据权利要求1所述的加速组件,其特征在于,所述加速单元配置为将所述加速单元的加速卡中的数据进行规约运算以得到规约结果。
10.根据权利要求1-9中任意一项所述的加速组件,其特征在于,所述加速组件配置为进行规约运算,包括:
将同一加速单元的加速卡中的数据进行第一规约运算以在每个加速单元中得到第一规约结果;
将多个加速单元中的第一规约结果进行第二规约运算,以得到第二规约结果。
11.一种加速装置,其特征在于,包括多个加速单元,每个加速单元包括M个本单元加速卡,每个本单元加速卡包括内接端口,每个本单元加速卡通过内接端口与其他的本单元加速卡相连接,其中,
M个本单元加速卡在逻辑上形成为L*N规模的加速卡矩阵,L和N为不小于2的整数,所述M个本单元加速卡中的至少一个包括外接端口,所述加速单元之间通过外接端口连接,所述多个加速单元在逻辑上呈多层结构,每一层包括一个加速单元,每个加速单元的本单元加速卡通过外接端口与外单元加速卡相连接,并且最后一个加速单元与第一个加速单元相连接,从而所述多个加速单元首尾相连形成环形结构。
12.根据权利要求11所述的加速装置,其特征在于,所述M个本单元加速卡在逻辑上形成为2*2、3*3或4*4的加速卡矩阵。
13.根据权利要求11所述的加速装置,其特征在于,每个本单元加速卡与其他至少一个本单元加速卡通过两条路径来连接。
14.根据权利要求11所述的加速装置,其特征在于,所述加速卡矩...
【专利技术属性】
技术研发人员:不公告发明人,
申请(专利权)人:中科寒武纪科技股份有限公司,
类型:新型
国别省市:北京;11
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。