System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种通过Doris数据仓库进行时序数据分析的方法与终端技术_技高网

一种通过Doris数据仓库进行时序数据分析的方法与终端技术

技术编号:44217570 阅读:9 留言:0更新日期:2025-02-11 13:25
本发明专利技术涉及数据管理分析领域,尤其涉及一种通过Doris数据仓库进行时序数据分析的方法与终端,在Doris数据仓库前端模块的目录下,进行针对时序数据库的连接配置和数据转换配置,以建立Doris数据仓库与时序数据库的交互连接;通过Doris数据仓库查询时序数据库中的物联网时序数据,并通过时序数据库的计算引擎对所述时序数据进行分析,得到分析结果数据;将分析结果数据写回Doris数据仓库;使得Doris数据仓库能够查询时序数据库中的物联网时序数据以及使用时序数据库的计算引擎进行时序数据分析,技术人员仅通过对Doris数据仓库的操作,即可调用时序数据库进行其所擅长的降采样分析,在满足使用便利性的同时,提高数据存储分析的效率。

【技术实现步骤摘要】

本专利技术涉及数据管理分析,特别涉及一种通过doris数据仓库进行时序数据分析的方法与终端。


技术介绍

1、在新能源行业中,每时每刻都会接收到许多设备上报的物联网时序数据,比如充电桩设备会持续上报电流电压功率等物联数据。

2、基于业务需求,需要对这些物联数据进行存储与分析。目前,数据的存储与分析一般分为两个纬度,一个维度是时序数据的存储与分析,存储我们采用时序数据库tdengine,主要是展示设备上报的实时数据以及检索设定时间段的降采样数据;另一个维度是数据仓库的存储与分析,存储我们采用基于olap引擎的doris数据仓库,实现实时数据与离线数据的分析,满足报表与监控大屏的需求。

3、目前生产环境使用过程中,需求分析工作的侧重点多在报表与分析监控大屏上,导致数据仓库的分析任务比较重。这就导致许多数据分析的技术人员出于便利性的原因,习惯用数据仓库分析所有的业务需求,包括时序数据库擅长的降采样分析,导致数据仓库占用的资源比较多,相反更适合做时序数据分析的数据数据库使用频率不高。

4、因此,如何在满足使用便利性的同时,提高数据存储分析的效率。


技术实现思路

1、本专利技术所要解决的技术问题是:提供一种通过doris数据仓库进行时序数据分析的方法与终端,在满足使用便利性的同时,提高数据存储分析的效率。

2、为了解决上述技术问题,本专利技术采用的技术方案为:

3、一种时序数据分析的方法,包括步骤:

4、s1、在doris数据仓库前端模块的目录下,进行针对时序数据库的连接配置和数据转换配置,以建立doris数据仓库与时序数据库的交互连接;

5、s2、通过doris数据仓库查询时序数据库中的物联网时序数据,并通过时序数据库的计算引擎对所述时序数据进行分析,得到分析结果数据;

6、s3、将分析结果数据写回doris数据仓库。

7、一种通过doris数据仓库进行时序数据分析的方法,包括步骤:

8、s1、在doris数据仓库前端模块的目录下,进行针对时序数据库的连接配置和数据转换配置,以建立doris数据仓库与时序数据库的交互连接;

9、步骤s1包括步骤:

10、s11、在doris数据仓库前端模块的目录下,进行针对时序数据库的连接配置和数据转换配置;

11、所述连接配置包括在jdbcresource类中增加时序数据库类型,以及在jdbctable类与odbctable类中新增对jdbc的格式化解析;

12、s12、doris数据仓库启动时,扫描并读取预先拷贝到依赖包目录下的时序数据库原生启动包,并在创建catalog时指定时序数据库类型;

13、s13、doris数据仓库根据重构的jdbcresource向下匹配jdbctable与odbctable,创建与时序数据库的连接,并基于所述数据转换配置进行数据交互;

14、s2、通过doris数据仓库查询时序数据库中的物联网时序数据,并通过时序数据库的计算引擎对所述时序数据进行分析,得到分析结果数据;

15、s3、将分析结果数据通过doris的跨catalog插入写回doris数据仓库的原生表中。

16、为了解决上述技术问题,本专利技术采用的另一种技术方案为:

17、一种时序数据分析的终端,包括处理器、存储器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现以下步骤:

18、s1、在doris数据仓库前端模块的目录下,进行针对时序数据库的连接配置和数据转换配置,以建立doris数据仓库与时序数据库的交互连接;

19、s2、通过doris数据仓库查询时序数据库中的物联网时序数据,并通过时序数据库的计算引擎对所述时序数据进行分析,得到分析结果数据;

20、s3、将分析结果数据写回doris数据仓库。

21、一种通过doris数据仓库进行时序数据分析的终端,包括处理器、存储器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现以下步骤:

22、s1、在doris数据仓库前端模块的目录下,进行针对时序数据库的连接配置和数据转换配置,以建立doris数据仓库与时序数据库的交互连接;

23、步骤s1包括步骤:

24、s11、在doris数据仓库前端模块的目录下,进行针对时序数据库的连接配置和数据转换配置;

25、所述连接配置包括在jdbcresource类中增加时序数据库类型,以及在jdbctable类与odbctable类中新增对jdbc的格式化解析;

26、s12、doris数据仓库启动时,扫描并读取预先拷贝到依赖包目录下的时序数据库原生启动包,并在创建catalog时指定时序数据库类型;

27、s13、doris数据仓库根据重构的jdbcresource向下匹配jdbctable与odbctable,创建与时序数据库的连接,并基于所述数据转换配置进行数据交互;

28、s2、通过doris数据仓库查询时序数据库中的物联网时序数据,并通过时序数据库的计算引擎对所述时序数据进行分析,得到分析结果数据;

29、s3、将分析结果数据通过doris的跨catalog插入写回doris数据仓库的原生表中。

30、本专利技术的有益效果在于:本专利技术的一种时序数据分析的方法与终端,在doris数据仓库前端模块的目录下,进行针对时序数据库的连接配置和数据转换配置,以建立doris数据仓库与时序数据库的交互连接,使得doris数据仓库能够查询时序数据库中的物联网时序数据以及使用时序数据库的计算引擎进行时序数据分析,使得技术人员仅通过对doris数据仓库的操作,即可调用时序数据库进行其所擅长的降采样分析,在满足使用便利性的同时,提高数据存储分析的效率。

本文档来自技高网...

【技术保护点】

1.一种通过Doris数据仓库进行时序数据分析的方法,其特征在于,包括步骤:

2.根据权利要求1所述的一种通过Doris数据仓库进行时序数据分析的方法,其特征在于,步骤S11中针对时序数据库的连接配置包括步骤:

3.根据权利要求1所述的一种通过Doris数据仓库进行时序数据分析的方法,其特征在于,步骤S11中针对时序数据库的数据转换配置包括步骤:

4.根据权利要求1所述的一种通过Doris数据仓库进行时序数据分析的方法,其特征在于,所述时序数据库为TDengine时序数据库。

5.根据权利要求4所述的一种通过Doris数据仓库进行时序数据分析的方法,其特征在于,步骤S2包括步骤:

6.一种通过Doris数据仓库进行时序数据分析的终端,包括处理器、存储器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现以下步骤:

7.根据权利要求6所述的一种通过Doris数据仓库进行时序数据分析的终端,其特征在于,步骤S11中针对时序数据库的连接配置包括步骤:

8.根据权利要求6所述的一种通过Doris数据仓库进行时序数据分析的终端,其特征在于,步骤S11中针对时序数据库的数据转换配置包括步骤:

9.根据权利要求6所述的一种通过Doris数据仓库进行时序数据分析的终端,其特征在于,所述时序数据库为TDengine时序数据库。

10.根据权利要求9所述的一种通过Doris数据仓库进行时序数据分析的终端,其特征在于,步骤S2包括步骤:

...

【技术特征摘要】

1.一种通过doris数据仓库进行时序数据分析的方法,其特征在于,包括步骤:

2.根据权利要求1所述的一种通过doris数据仓库进行时序数据分析的方法,其特征在于,步骤s11中针对时序数据库的连接配置包括步骤:

3.根据权利要求1所述的一种通过doris数据仓库进行时序数据分析的方法,其特征在于,步骤s11中针对时序数据库的数据转换配置包括步骤:

4.根据权利要求1所述的一种通过doris数据仓库进行时序数据分析的方法,其特征在于,所述时序数据库为tdengine时序数据库。

5.根据权利要求4所述的一种通过doris数据仓库进行时序数据分析的方法,其特征在于,步骤s2包括步骤:

6.一种通过doris数据仓库进行时序数据分析的终...

【专利技术属性】
技术研发人员:石立林林少中李国伟
申请(专利权)人:福建时代星云科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1