本申请涉及智驾技术领域,特别涉及一种数据处理方法、装置、电子设备及存储介质,其中,方法包括:采集多个数据处理节点的输出数据集,其中,输出数据集包括多个序列号对应的输出数据,每个序列号对应多个输出数据;从输出数据集中识别每个序列号对应的多个目标输出数据,并确定每个序列号对应的多个目标输出数据的时间序列关系;基于每个序列号对应的多个目标输出数据的时间序列关系,对每个序列号对应的多个目标输出数据的时间序列关系进行链式串联,并将链式串联结果存储至预设的链式表表单结构。由此,解决了数据事件序列采集和分析的需求匹配问题,有效加快了软件开发的迭代变更周期,提高了软件迭代开发效率。
【技术实现步骤摘要】
本申请涉及智驾,特别涉及一种数据处理方法、装置、电子设备及存储介质。
技术介绍
1、随着智驾技术的发展,更复杂的场景适应成为了重要的研究目标,多样化的数据源互补识别和处理成为应对复杂场景的有效手段之一。在多级处理系统中,确保时间序列的一致性和协同性成为了关键。为了有效应对复杂场景下的时间一致性和协同性挑战,基于时间序列的数据采集和分析成为了解决复杂问题的关键。然而,由于数据多源和处理环节的复杂性,时间序列对齐和分析存在诸多难以协调的困难。
2、相关技术中,为有效分析智驾过程多源数据和多级处理环节的协同性和一致性,通常采用的方式是在各级处理节点在彼此传递的数据中自行增加时间序列。
3、然而,相关技术中的方式存在需求的难以预知性的问题,对于新增的时间序列统计和采集需求需要增加新的时间序列采集埋点和数据结构,大大降低了功能开发和软件迭代的效率,亟需解决。
技术实现思路
1、本申请提供一种数据处理方法、装置、电子设备及存储介质,以解决数据事件序列采集和分析的需求匹配问题,有效加快了软件开发的迭代变更周期,提高了软件迭代开发效率。
2、本申请第一方面实施例提供一种数据处理方法,包括以下步骤:
3、采集多个数据处理节点的输出数据集,其中,所述输出数据集包括多个序列号对应的输出数据,每个序列号对应多个输出数据;
4、从所述输出数据集中识别所述每个序列号对应的多个目标输出数据,并确定所述每个序列号对应的多个目标输出数据的时间序列关系;p>5、基于所述每个序列号对应的多个目标输出数据的时间序列关系,对所述每个序列号对应的多个目标输出数据的时间序列关系进行链式串联,并将链式串联结果存储至预设的链式表表单结构。
6、根据本申请的一个实施例,所述确定所述每个序列号对应的多个目标输出数据的时间序列关系,包括:
7、获取所述每个序列号对应的多个目标输出数据中每个目标输出数据的发送时间戳和接收时间戳;
8、基于所述每个目标输出数据的发送时间戳和接收时间戳,按照时间先后顺序确定所述每个序列号对应的多个目标输出数据的时间序列关系。
9、根据本申请的一个实施例,在将所述链式串联结果存储至所述预设的链式表表单结构之后,还包括:
10、获取数据关键字段信息;
11、根据所述数据关键字段信息确定目标序列号,并对所述目标序列号对应的多个输出数据的纵向数据关联关系和/或横向数据关联关系进行可视化展示。
12、根据本申请的一个实施例,所述对所述目标序列号对应的多个输出数据的纵向数据关联关系和/或横向数据关联关系进行可视化展示,包括:
13、通过链式索引所述目标序列号对应的多个输出数据的上下游完整数据链条,且基于所述上下游完整数据链条,根据所述目标序列号对应的多个输出数据的时间发生顺序进行展示;所述上下游完整数据链条为数据从进入系统到离开系统的过程中,数据流经的每个模块之间的接收和发送的关联关系以及时间关系;
14、和/或,通过链式索引所述多个输出数据对应的汇聚节点的关键数据的时间信息,并根据所述时间信息在所述汇聚节点的非关键数据中进行横向展开,选取时间序列最接近的输出数据信息并向上游索引,且展示所述目标序列号对应的多个输出数据的横向数据关联关系。
15、根据本申请的一个实施例,所述每个输出数据的发送时间戳、接收时间戳和序列号存储于对应输出数据的数据结构,且所有输出数据的数据结构集成在预设的数据传输中间件的header负荷中。
16、根据本申请实施例的数据处理方法,从多个数据处理节点的输出数据集中识别每个序列号对应的多个目标输出数据,并确定每个序列号对应的多个目标输出数据的时间序列关系,对每个序列号对应的多个目标输出数据的时间序列关系进行链式串联,并将链式串联结果存储至预设的链式表表单结构。由此,解决了数据事件序列采集和分析的需求匹配问题,有效加快了软件开发的迭代变更周期,提高了软件迭代开发效率。
17、本申请第二方面实施例提供一种数据处理装置,包括:
18、采集模块,用于采集多个数据处理节点的输出数据集,其中,所述输出数据集包括多个序列号对应的输出数据,每个序列号对应多个输出数据;
19、时间序列关系确定模块,用于从所述输出数据集中识别所述每个序列号对应的多个目标输出数据,并确定所述每个序列号对应的多个目标输出数据的时间序列关系;
20、处理模块,用于基于所述每个序列号对应的多个目标输出数据的时间序列关系,对所述每个序列号对应的多个目标输出数据的时间序列关系进行链式串联,并将链式串联结果存储至预设的链式表表单结构。
21、根据本申请的一个实施例,所述时间序列关系确定模块,用于:
22、获取所述每个序列号对应的多个目标输出数据中每个目标输出数据的发送时间戳和接收时间戳;
23、基于所述每个目标输出数据的发送时间戳和接收时间戳,按照时间先后顺序确定所述每个序列号对应的多个目标输出数据的时间序列关系。
24、根据本申请的一个实施例,在将所述链式串联结果存储至所述预设的链式表表单结构之后,所述处理模块,还用于:
25、获取数据关键字段信息;
26、根据所述数据关键字段信息确定目标序列号,并对所述目标序列号对应的多个输出数据的纵向数据关联关系和/或横向数据关联关系进行可视化展示。
27、根据本申请的一个实施例,所述处理模块,用于:
28、通过链式索引所述目标序列号对应的多个输出数据的上下游完整数据链条,且基于所述上下游完整数据链条,根据所述目标序列号对应的多个输出数据的时间发生顺序进行展示;所述上下游完整数据链条为数据从进入系统到离开系统的过程中,数据流经的每个模块之间的接收和发送的关联关系以及时间关系;
29、和/或,通过链式索引所述多个输出数据对应的汇聚节点的关键数据的时间信息,并根据所述时间信息在所述汇聚节点的非关键数据中进行横向展开,选取时间序列最接近的输出数据信息并向上游索引,且展示所述目标序列号对应的多个输出数据的横向数据关联关系。
30、根据本申请的一个实施例,所述每个输出数据的发送时间戳、接收时间戳和序列号存储于对应输出数据的数据结构,且所有输出数据的数据结构集成在预设的数据传输中间件的header负荷中。
31、根据本申请实施例的数据处理装置,从多个数据处理节点的输出数据集中识别每个序列号对应的多个目标输出数据,并确定每个序列号对应的多个目标输出数据的时间序列关系,对每个序列号对应的多个目标输出数据的时间序列关系进行链式串联,并将链式串联结果存储至预设的链式表表单结构。由此,解决了数据事件序列采集和分析的需求匹配问题,有效加快了软件开发的迭代变更周期,提高了软件迭代开发效率。
32、本申请第三方面实施例提供一种电子设备,包括:存储器、处理器及存储在所述存储器上并本文档来自技高网
...
【技术保护点】
1.一种数据处理方法,其特征在于,包括以下步骤:
2.根据权利要求1所述的方法,其特征在于,所述确定所述每个序列号对应的多个目标输出数据的时间序列关系,包括:
3.根据权利要求1所述的方法,其特征在于,在将所述链式串联结果存储至所述预设的链式表表单结构之后,还包括:
4.根据权利要求3所述的方法,其特征在于,所述对所述目标序列号对应的多个输出数据的纵向数据关联关系和/或横向数据关联关系进行可视化展示,包括:
5.根据权利要求1-4中任一项所述的方法,其特征在于,所述每个输出数据的发送时间戳、接收时间戳和序列号存储于对应输出数据的数据结构,且所有输出数据的数据结构集成在预设的数据传输中间件的Header负荷中。
6.一种数据处理装置,其特征在于,包括:
7.根据权利要求6所述的装置,其特征在于,所述时间序列关系确定模块,用于:
8.根据权利要求6所述的装置,其特征在于,在将所述链式串联结果存储至所述预设的链式表表单结构之后,所述处理模块,还用于:
9.一种电子设备,其特征在于,包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述程序,以实现如权利要求1-5任一项所述的数据处理方法。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行,以用于实现如权利要求1-5任一项所述的数据处理方法。
...
【技术特征摘要】
1.一种数据处理方法,其特征在于,包括以下步骤:
2.根据权利要求1所述的方法,其特征在于,所述确定所述每个序列号对应的多个目标输出数据的时间序列关系,包括:
3.根据权利要求1所述的方法,其特征在于,在将所述链式串联结果存储至所述预设的链式表表单结构之后,还包括:
4.根据权利要求3所述的方法,其特征在于,所述对所述目标序列号对应的多个输出数据的纵向数据关联关系和/或横向数据关联关系进行可视化展示,包括:
5.根据权利要求1-4中任一项所述的方法,其特征在于,所述每个输出数据的发送时间戳、接收时间戳和序列号存储于对应输出数据的数据结构,且所有输出数据的数据结构集成在预设的数据传输中间件...
【专利技术属性】
技术研发人员:王茂斌,吴宏鹏,欧阳文彧,蒋超,马逸行,
申请(专利权)人:广州汽车集团股份有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。