System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本申请涉及通信,尤其涉及一种数据处理方法及装置。
技术介绍
1、5g、云计算、ai、高性能计算、大数据等新技术催生出大量新兴应用,使数据呈现爆发式增长。分布式存储作为重要的数据基础设施,是海量数据的最佳选择。分布式存储的关键计算,例如,纠删、重删、压缩、协议处理等均由网络设备的cpu处理。但是,在高负荷场景下,上述关键计算将占用cpu的大量资源,成为性能提升的瓶颈。
2、为了提升网络设备性能,可将上述关键计算卸载至智能网卡上(例如,dpu卡、fpga卡等等)。智能网卡与cpu通过pcie接口互连,数据的收发过程采用dma方式。如此,可使cpu专职于调度和管理。
3、上述采用dma方式实现数据收发过程如图1所示,图1为现有智能网卡与cpu之间连接示意图。在图1中,cpu内的数据是以内存链的形式组织,例如,mbuf或bufferlist。存储数据的本地内存不连续,若采用dma方式发送至dpu,则cpu先将数据复制至连续内存中,再通过dma方式,将数据复制至dpu的内存中。dpu对数据处理完成后,通过dma方式,将处理后的数据发送至连续内存中,然后,cpu再从连续内存中将处理后的数据复制至本地内存。因此,整个数据收发过程中,存在多次内存拷贝,对智能网卡、cpu处理性能、带宽均有影响。
技术实现思路
1、有鉴于此,本申请提供了一种数据处理方法及装置,用以解决现有数据收发过程中,存在多次内存拷贝,对智能网卡、cpu处理性能、带宽均有影响的问题。
2、第一方
3、接收业务模块发送的第一内存块的第一属性信息以及第二内存块的第二属性信息,所述第一属性信息包括所述第一内存块的第一长度信息以及第一地址,所述第二属性信息包括所述第二内存块的第二长度信息以及第二地址;
4、获取与所述第一地址存在地址映射关系的第三地址,以及获取与所述第二地址存在映射关系的第四地址;
5、向dpu发送第一通知消息,所述第一通知消息包括所述第三地址、所述第一长度信息、所述第四地址以及所述第二长度信息,以使得所述dpu通过cxl方式,根据所述第三地址以及所述第一长度信息获取待处理数据,在对所述待处理数据进行处理后,再次通过所述cxl方式,根据所述第四地址以及所述第二长度信息,存储已处理数据;
6、其中,所述第一内存块用于存储待处理数据,所述第二内存块用于存储已处理数据。
7、第二方面,本申请提供了一种数据处理装置,所述装置应用于卸载处理模块,所述装置包括:
8、接收单元,用于接收业务模块发送的第一内存块的第一属性信息以及第二内存块的第二属性信息,所述第一属性信息包括所述第一内存块的第一长度信息以及第一地址,所述第二属性信息包括所述第二内存块的第二长度信息以及第二地址;
9、获取单元,用于获取与所述第一地址存在地址映射关系的第三地址,以及获取与所述第二地址存在映射关系的第四地址;
10、发送单元,用于向dpu发送第一通知消息,所述第一通知消息包括所述第三地址、所述第一长度信息、所述第四地址以及所述第二长度信息,以使得所述dpu通过cxl方式,根据所述第三地址以及所述第一长度信息获取待处理数据,在对所述待处理数据进行处理后,再次通过cxl方式,根据所述第四地址以及所述第二长度信息,存储已处理数据;
11、其中,所述第一内存块用于存储待处理数据,所述第二内存块用于存储已处理数据。
12、第三方面,本申请提供了另一种网络设备,包括处理器和机器可读存储介质,机器可读存储介质存储有能够被处理器执行的机器可执行指令,处理器被机器可执行指令促使执行本申请第二方面所提供的方法。
13、因此,应用本申请提供的数据处理方法及装置,卸载处理模块接收业务模块发送的第一内存块的第一属性信息以及第二内存块的第二属性信息,第一属性信息包括第一内存块的第一长度信息以及第一地址,第二属性信息包括第二内存块的第二长度信息以及第二地址;卸载处理模块获取与第一地址存在地址映射关系的第三地址,以及获取与第二地址存在映射关系的第四地址;卸载处理模块向dpu发送第一通知消息,该第一通知消息包括第三地址、第一长度信息、第四地址以及第二长度信息,以使得dpu通过cxl方式,根据第三地址以及第一长度信息获取待处理数据,在对待处理数据进行处理后,再次通过cxl方式,根据第四地址以及第二长度信息,存储已处理数据;其中,第一内存块用于存储待处理数据,第二内存块用于存储已处理数据。
14、如此,卸载处理模块将用于存储待处理数据以及用于存储已处理数据的内存块的物理地址、长度信息统一传输至dpu,使得dpu采用cxl方式实现与cpu之间的数据访问,并使用灵活的物理内存组织形式,避免了数据传输过程中的多次拷贝,提升处理带宽,降低处理时延。解决了现有数据收发过程中,存在多次内存拷贝,对智能网卡、cpu处理性能、带宽均有影响的问题。
本文档来自技高网...【技术保护点】
1.一种数据处理方法,其特征在于,所述方法应用于卸载处理模块,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
3.根据权利要求1所述的方法,其特征在于,所述第一地址、所述第二地址均为虚拟地址;
4.根据权利要求1所述的方法,其特征在于,所述向DPU发送第一通知消息之前,所述方法还包括:
5.根据权利要求1所述的方法,其特征在于,所述向DPU发送第一通知消息之前,所述方法还包括:
6.一种数据处理装置,其特征在于,所述装置应用于卸载处理模块,所述装置包括:
7.根据权利要求6所述的装置,其特征在于,所述接收单元还用于,接收所述DPU发送的第二通知消息;
8.根据权利要求6所述的装置,其特征在于,所述第一地址、所述第二地址均为虚拟地址;
9.根据权利要求6所述的装置,其特征在于,所述装置还包括:
10.根据权利要求9所述的装置,其特征在于,所述存储单元还用于,若所述第一地址对应的所述第三地址的数量为多个且多个第三地址之间为离散,则将所述第一地址对应的
...【技术特征摘要】
1.一种数据处理方法,其特征在于,所述方法应用于卸载处理模块,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
3.根据权利要求1所述的方法,其特征在于,所述第一地址、所述第二地址均为虚拟地址;
4.根据权利要求1所述的方法,其特征在于,所述向dpu发送第一通知消息之前,所述方法还包括:
5.根据权利要求1所述的方法,其特征在于,所述向dpu发送第一通知消息之前,所述方法还包括:
6.一种数据处理装置,其特征在于,所述装置应用于卸载处理模块...
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。