System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 多数据源、多协议的数据分发方法、系统及存储介质技术方案_技高网

多数据源、多协议的数据分发方法、系统及存储介质技术方案

技术编号:41280233 阅读:16 留言:0更新日期:2024-05-11 09:31
本发明专利技术公开了多数据源、多协议的数据分发方法、系统及存储介质,涉及航天航空技术领域,本发明专利技术在需求分析和规划阶段,确定任务需求,在系统架构设计中,采用分布式架构,进行数据采集、处理、输出存储和分发层,结合负载均衡和冗余节点,确保系统的高可用性和可伸缩性,负载均衡算法根据节点的负载和权重分配请求,确保数据分发均匀,同时冗余节点提供了故障容忍性,以防止单点故障,数据标准化集成阶段,采用通用数据模型,将不同数据源的数据映射到该模型,实施数据集成层,将不同协议的数据转换为通用格式,保证数据一致性。

【技术实现步骤摘要】

本专利技术涉及航天航空,具体为多数据源、多协议的数据分发方法、系统及存储介质


技术介绍

1、数据分发服务dds(datadistributionservice)是对象管理组织(omg)在hla及corba等标准的基础上制定的新一代分布式实时通信中间件技术规范,dds采用发布/订阅体系架构,强调以数据为中心,提供丰富的qos服务质量策略,能保障数据进行实时、高效、灵活地分发,可满足各种分布式实时通信应用需求。dds信息分发中间件是一种轻便的、能够提供实时信息传送的中间件技术。

2、dds(datadistributionservice)数据分发服务技术最早应用于美国海军,用于解决舰船复杂网络环境中大量软件升级的兼容性问题,目前已经成为美国国防部的强制标准。2003年,dds被omg组织接受,并发布了专门为实时系统设计的数据分发/订阅标准。dds目前已经广泛应用于国防、民航、工业控制等领域,成为分布式实时系统中数据发布/订阅的标准解决方案。dds技术是基于以数据为核心的设计思想提出的,定义了描述网络环境下数据内容、交互行为和服务质量要求的标准。

3、然而传统的数据分发方法在处理多数据源、多协议数据分发时,由于通常涉及多个独立的数据分发系统,每个系统处理不同数据源和协议,会导致分散的数据管理和维护,增加系统的复杂性,同时因为每个数据源使用不同的协议和数据格式,在不同数据源之间的数据一致性无法保证,导致数据受损,因此亟需一种高质量高一致性的多数据源、多协议的数据分发方法来解决此类问题。


<b>技术实现思路

1、(一)解决的技术问题

2、针对现有技术的不足,本专利技术提供了多数据源、多协议的数据分发方法、系统及存储介质,解决现有技术中存在的每个系统处理不同数据源和协议,会导致分散的数据管理和维护,增加系统的复杂性的问题。

3、(二)技术方案

4、为实现以上目的,本专利技术通过以下技术方案予以实现,本专利技术提供了多数据源、多协议的数据分发方法,包括:

5、步骤1.需求分析规划,基于数据源确定太空卫星数据需求,包括遥感、导航、通信和空间天气数据,设目标为接近无损,即99.99%的可用性的数据一致性要求,涉及数据源种类包括:卫星遥感数据、遥感传感器数据、卫星导航数据、空间天气数据以及卫星通信数据,

6、步骤2.系统架构设计,基于分布式架构,设立数据采集,数据处理以及输出存储和分发层,加入负载均衡和冗余节点;

7、步骤3.进行数据标准化集成,将不同数据源的数据映射到通用数据模型,实施数据集成层,将数据从不同协议转换为通用格式;

8、步骤4.基于自适应数据传输协议,进行数据传输,适应不同协议特性;

9、步骤5.进行分布式数据管理,部署分布式云存储系统,提供数据冗余和备份支持;

10、步骤6.对数据质量和一致性进行控制,进行数据质量评估,自动检测和纠正数据质量问题;

11、步骤7.进行智能路由和负载均衡,基于智能负载均衡算法,根据数据源的状态和性能动态分配负载。

12、本专利技术进一步地设置为:所述步骤1中,信息采集协议上,卫星遥感数据使用自定义二进制协议传输,遥感传感器数据采用restfulhttp接口提供数据,卫星导航数据使用nmea协议传输位置信息,空间天气数据通过udp协议实时传输,卫星通信数据采用tcp/ip协议传输;

13、本专利技术进一步地设置为:所述步骤2中,系统架构设计步骤包括负载均衡,具体为:

14、进行负载均衡设计,定义节点数量n,即系统中可用节点数,包括主节点、备用节点;

15、定义请求处理速率,表示每个节点i可以处理的请求数量;

16、则节点权重为:,

17、其中k为调整因子;

18、采用动态负载均衡算法,根据节点i的负载和权重分配请求,选择负载最低的节点:

19、,其中即节点选择方式;

20、则节点i的负载计算方式为:

21、,其中表示当前的请求数量;

22、本专利技术进一步地设置为:所述步骤2中,系统架构设计步骤还包括冗余节点,具体为:

23、设系统中备用节点的数量为m,则系统数据可用性公式为:

24、,其中a即可用性,n表示节点数量;

25、定义故障检测时间间隔以及节点切换时间;

26、使用心跳检测算法,检测节点的存活状态,如果节点被检测为故障,系统将在节点切换时间后切换到备用节点;

27、本专利技术进一步地设置为:所述步骤3中,数据标准化集成步骤包括:

28、定义通用数据模型,包括系统中所有数据源的共享数据结构,作为数据标准参考点;

29、对每个数据源制定数据映射规则,将源数据字段映射到通用数据模型的对应字段;

30、针对每个数据源,实施数据转换和协议转换,将数据从不同协议和格式转换为通用格式;

31、创建数据集成层,负责接收、处理和分发标准化后的数据;

32、通过循环冗余校验对数据进行检测;

33、然后使用数据转发算法将标准化后的数据发送到系统的其他部分;

34、本专利技术进一步地设置为:所述步骤3中,数据映射规则制定方法为:

35、定义通用数据模型,包括系统中所有数据源的共享数据结构,通用数据模型包括字段名称和数据类型;

36、对于每个数据源列出数据字段和名称;

37、为每个源数据字段定义映射函数,将源数据字段映射到通用数据模型的对应字段;

38、设源数据字段为温度,而udm中的字段是温度,则映射规则表示为:

39、,其中f表示映射函数;

40、将制定的映射规则应用数据集成;

41、本专利技术进一步地设置为:所述步骤7中,智能路由和负载均衡方法为:

42、实时监测各个数据源的状态和性能参数,包括带宽利用率、延迟、处理能力;

43、基于监测到的数据源状态,定义负载均衡算法,决定将数据分配给哪个数据源;

44、使用负载均衡算法,动态分配数据传输请求到最合适的数据源;

45、设某个数据源的带宽利用率较低且延迟较低,将更多的数据传输请求分配给该数据源,具体为:

46、,

47、其中i表示数据源,表示需要分配给数据源i的负载,表示数据源i的权重,则表示数据源i的带宽利用率,表示数据源i的延迟;

48、持续监控数据源的状态和性能调整负载分配;

49、本专利技术还提供多数据源、多协议的数据分发系统,包括:

50、需求分析规划模块,用于确定系统的数据需求,包括不同数据源类型和一致性要求;

51、系统架构设计模块,负责整体系统的设计,包括数据采集、处理、输出存储和分发层,同时该模块还包括负载均衡和冗余节点的定义;

52、数据标准化集本文档来自技高网...

【技术保护点】

1.多数据源、多协议的数据分发方法,其特征在于,包括:

2.根据权利要求1所述的多数据源、多协议的数据分发方法,其特征在于,所述步骤1中,信息采集协议上,卫星遥感数据使用自定义二进制协议传输,遥感传感器数据采用RESTfulHTTP接口提供数据,卫星导航数据使用NMEA协议传输位置信息,空间天气数据通过UDP协议实时传输,卫星通信数据采用TCP/IP协议传输。

3.根据权利要求1所述的多数据源、多协议的数据分发方法,其特征在于,所述步骤2中,系统架构设计步骤包括负载均衡,具体为:

4.根据权利要求1所述的多数据源、多协议的数据分发方法,其特征在于,所述步骤2中,系统架构设计步骤还包括冗余节点,具体为:

5.根据权利要求1所述的多数据源、多协议的数据分发方法,其特征在于,所述步骤3中,数据标准化集成步骤包括:

6.根据权利要求1所述的多数据源、多协议的数据分发方法,其特征在于,所述步骤3中,数据映射规则制定方法为:

7.根据权利要求1所述的多数据源、多协议的数据分发方法,其特征在于,所述步骤7中,智能路由和负载均衡方法为:

8.多数据源、多协议的数据分发系统,其特征在于,包括:

9.一种终端设备,其特征在于,该设备包括:存储器、处理器及存储在存储器上并可在处理器上运行的多数据源、多协议的数据分发方法的控制程序,所述多数据源、多协议的数据分发方法的控制程序被处理器执行时实现如权利要求1-7中任一项所述的多数据源、多协议的数据分发方法。

10.一种存储介质,其特征在于,该介质应用于计算机,所述存储介质上存储有多数据源、多协议的数据分发方法的控制程序,所述多数据源、多协议的数据分发方法的控制程序被处理器执行时实现如权利要求1-7中任一项所述的多数据源、多协议的数据分发方法。

...

【技术特征摘要】

1.多数据源、多协议的数据分发方法,其特征在于,包括:

2.根据权利要求1所述的多数据源、多协议的数据分发方法,其特征在于,所述步骤1中,信息采集协议上,卫星遥感数据使用自定义二进制协议传输,遥感传感器数据采用restfulhttp接口提供数据,卫星导航数据使用nmea协议传输位置信息,空间天气数据通过udp协议实时传输,卫星通信数据采用tcp/ip协议传输。

3.根据权利要求1所述的多数据源、多协议的数据分发方法,其特征在于,所述步骤2中,系统架构设计步骤包括负载均衡,具体为:

4.根据权利要求1所述的多数据源、多协议的数据分发方法,其特征在于,所述步骤2中,系统架构设计步骤还包括冗余节点,具体为:

5.根据权利要求1所述的多数据源、多协议的数据分发方法,其特征在于,所述步骤3中,数据标准化集成步骤包括:

6.根据权利要求1所述...

【专利技术属性】
技术研发人员:王硕李达张伟祺李肇峰
申请(专利权)人:北京开运联合信息技术集团股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1