System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本申请涉及芯片,特别是涉及一种预处理装置和ai芯片。
技术介绍
1、ai芯片(artificialintelligence chips)是用于处理人工智能应用的芯片,ai芯片能够加速机器学习、深度学习和其他ai算法的应用,提高计算机在图像识别、语音识别和自然语言处理等领域的性能。
2、ai芯片在运行过程中会产生大量的调试消息,这些调试消息对算子开发或性能优化具有重要的作用。但是由于ai芯片运行中产生的调试消息属性较多(即调试消息的类型较多)且调试消息数据量较大,基于该属性繁杂且数据量庞大的调试消息直接进行算子开发或性能优化存在较多问题。
3、因此,如何管理调试消息的属性、控制调试消息的数据量,以及灵活分发调试消息,成为芯片
亟待解决的技术问题之一。
技术实现思路
1、基于上述问题,本申请提供了一种预处理装置,用于管理ai芯片中调试消息的属性、控制调试消息的数据量,以及灵活分发调试消息,从而满足当前技术对ai芯片内部多类型的调试消息的使用需求。
2、本申请实施例公开了如下技术方案:
3、本申请第一方面公开了一种预处理装置,该预处理装置包括:消息预清洗模块、消息分类模块、消息整形模块和配置寄存器集合;
4、所述配置寄存器集合,用于设置调试消息的属性、清洗策略、分类方式和整形操作方式;
5、所述消息预清洗模块,用于根据所述调试消息的属性和所述清洗策略,清洗掉该消息预清洗模块接收到的第一调试消息中的字段,得到第二
6、所述消息分类模块,用于根据所述调试消息的属性和所述分类方式,对所述第二调试消息进行分类,得到第三调试消息;
7、所述消息整形模块,用于根据所述调试消息的属性和所述整形操作方式,对所述第三调试消息进行整形,得到第四调试消息。
8、在一种可选的实现方式中,所述装置还包括消息flush模块,所述配置寄存器集合还用于接收flush指令;
9、所述消息flush模块,用于根据所述flush指令,将目标调试消息flush到存储器;所述目标调试消息是所述第三调试消息和/或所述第四调试消息中的所述flush指令指示的调试消息。
10、在一种可选的实现方式中,所述装置同时支持预设数目个用户同时使用,所述配置寄存器集合还用于设置所述装置支持的用户的标识。
11、在一种可选的实现方式中,所述装置还包括消息接收模块;
12、所述消息接收模块,用于对接收到的多种初始调试消息进行格式变换,得到格式变换后的调试消息。
13、在一种可选的实现方式中,所述装置还包括消息流控模块;所述配置寄存器集合还用于设置流控策略;
14、所述消息流控模块,用于根据所述调试消息的属性和所述流控策略,对所述格式变换后的调试消息进行流量调节,得到所述第一调试消息。
15、在一种可选的实现方式中,所述装置还包括消息缓存模块,所述消息缓存模块用于存储所述第四调试消息。
16、在一种可选的实现方式中,所述装置还包括消息加密模块;所述配置寄存器集合还用于配置公钥信息;
17、所述消息加密模块,用于根据所述公钥信息对所述第四调试消息进行加密,得到密文。
18、在一种可选的实现方式中,所述配置寄存器集合还用于设置侧信道防护控制策略;
19、所述消息加密模块,还用于根据所述侧信道防护控制策略生成伪随机数据。
20、在一种可选的实现方式中,所述装置还包括消息发送模块,所述配置寄存器集合还用于设置消息发送策略;
21、所述消息发送模块,还用于根据所述消息发送策略将所述密文和所述伪随机数据发送到存储器。
22、在一种可选的实现方式中,所述消息分类模块包括第一消息分类单元、第二消息分类单元和第三消息分类单元;所述分类方式包括第一分类方式、第二分类方式和第三分类方式;
23、所述第一消息分类单元,用于根据所述调试消息的属性和所述第一分类方式,对所述第二调试消息进行分类,得到第一调试子信息;
24、所述第二消息分类单元,用于根据所述调试消息的属性和所述第二分类方式,对所述第一调试子信息进行分类,得到第二调试子信息;
25、所述第三消息分类单元,用于根据所述调试消息的属性和所述第三分类方式,对所述第二调试子信息进行分类,得到所述第三调试消息。
26、在一种可选的实现方式中,所述配置寄存器集合还用于显示flush操作的执行状态。
27、在一种可选的实现方式中,所述配置寄存器集合还用于配置所述装置支持的用户对应的至少一个存储器。
28、本申请第二方面公开了一种ai芯片,所述ai芯片包括多个处理器、预处理装置和总线互联网络;所述总线互联网络包括第一总线节点、第二总线节点和数据通路;所述预处理装置是第一方面所述的装置;
29、所述处理器,用于基于多个用户操作生成调试消息和业务数据,并将所述调试消息传输到所述第一总线节点,将所述业务数据传输到所述第二总线节点;
30、所述预处理装置,用于接收所述第一总线节点的多种调试消息,并对该多种调试消息进行处理,将处理后的调试消息通过所述数据通路分发到与每个所述用户对应的存储器
31、相较于现有技术,本申请具有以下有益效果:
32、本申请公开了一种预处理装置,包括消息预清洗模块、消息分类模块、消息整形模块和配置寄存器集合。其中,配置寄存器集合,用于设置调试消息的属性、清洗策略、分类方式和整形操作方式;消息预清洗模块,用于根据调试消息的属性和清洗策略,清洗掉该消息预清洗模块接收到的第一调试消息中的字段,得到第二调试消息;消息分类模块,用于根据调试消息的属性和分类方式,对第二调试消息进行分类,得到第三调试消息;消息整形模块,用于根据调试消息的属性和整形操作方式,对第三调试消息进行整形,得到第四调试消息。
33、当预处理装置安装于ai芯片中,通过预处理装置中已经设置好的消息属性、清洗策略、分类方式和整形操作方式,对ai芯片在运行过程中产生的属性繁琐且数据量庞大的调试消息进程属性设置、消息清洗、消息分类和消息整形,可以管理调试消息的属性、控制调试消息的数据量,以及灵活分发调试消息(对消息进行分类发送),从而满足当前技术对ai芯片内部多类型的调试消息的使用需求。
本文档来自技高网...【技术保护点】
1.一种预处理装置,其特征在于,所述装置包括:消息预清洗模块、消息分类模块、消息整形模块和配置寄存器集合;
2.根据权利要求1所述的装置,其特征在于,所述装置还包括消息flush模块,所述配置寄存器集合还用于接收flush指令;
3.根据权利要求2所述的装置,其特征在于,所述装置同时支持预设数目个用户同时使用,所述配置寄存器集合还用于设置所述装置支持的用户的标识。
4.根据权利要求1所述的装置,其特征在于,所述装置还包括消息接收模块;
5.根据权利要求1所述的装置,其特征在于,所述装置还包括消息流控模块;所述配置寄存器集合还用于设置流控策略;
6.根据权利要求1所述的装置,其特征在于,所述装置还包括消息缓存模块,所述消息缓存模块用于存储所述第四调试消息。
7.根据权利要求1所述的装置,其特征在于,所述装置还包括消息加密模块;所述配置寄存器集合还用于配置公钥信息;
8.根据权利要求7所述的装置,其特征在于,所述配置寄存器集合还用于设置侧信道防护控制策略;
9.根据权利要求8所述的装置,其
10.根据权利要求1所述的装置,其特征在于,所述消息分类模块包括第一消息分类单元、第二消息分类单元和第三消息分类单元;所述分类方式包括第一分类方式、第二分类方式和第三分类方式;
11.根据权利要求2所述的装置,其特征在于,所述配置寄存器集合还用于显示flush操作的执行状态。
12.根据权利要求1-11中任一项所述的装置,其特征在于,所述配置寄存器集合还用于配置所述装置支持的用户对应的至少一个存储器。
13.一种AI芯片,其特征在于,所述AI芯片包括多个处理器、预处理装置和总线互联网络;所述总线互联网络包括第一总线节点、第二总线节点和数据通路;所述预处理装置是权利要求1-12中任一项所述的装置;
...【技术特征摘要】
1.一种预处理装置,其特征在于,所述装置包括:消息预清洗模块、消息分类模块、消息整形模块和配置寄存器集合;
2.根据权利要求1所述的装置,其特征在于,所述装置还包括消息flush模块,所述配置寄存器集合还用于接收flush指令;
3.根据权利要求2所述的装置,其特征在于,所述装置同时支持预设数目个用户同时使用,所述配置寄存器集合还用于设置所述装置支持的用户的标识。
4.根据权利要求1所述的装置,其特征在于,所述装置还包括消息接收模块;
5.根据权利要求1所述的装置,其特征在于,所述装置还包括消息流控模块;所述配置寄存器集合还用于设置流控策略;
6.根据权利要求1所述的装置,其特征在于,所述装置还包括消息缓存模块,所述消息缓存模块用于存储所述第四调试消息。
7.根据权利要求1所述的装置,其特征在于,所述装置还包括消息加密模块;所述配置寄存器集合还用于配置公钥信息;
8.根...
【专利技术属性】
技术研发人员:韩崇飞,吴飞,崔駜雄,郭永磊,佘旭,
申请(专利权)人:北京燧原智能科技有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。