System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种雨量监测点的降雨数据分析方法、装置、设备及介质制造方法及图纸_技高网

一种雨量监测点的降雨数据分析方法、装置、设备及介质制造方法及图纸

技术编号:43817176 阅读:3 留言:0更新日期:2024-12-27 13:30
本申请公开了一种雨量监测点的降雨数据分析方法、装置、设备及介质,其中方法包括:确定目标雨量监测点的测站编码,并通过flink CDC接入目标雨量监测点的雨量数据;通过flink对雨量数据进行计算,以更新目标雨量监测点的状态数据;基于测站编码,将状态数据写入到doris的明细表中,以得到目标雨量监测点的降雨场次明细数据;基于测站编码,将状态数据写入到doris的汇聚表中,以得到目标雨量监测点的降雨场次统计数据。通过引入flink流式计算和doris存算一体框架,改变了传统关系型数据库统计分析的方式,计算性能上得到了很大的提升,实时性和稳定性等到了保障。

【技术实现步骤摘要】

本申请涉及雨量数据处理领域,具体涉及一种雨量监测点的降雨数据分析方法、装置、设备及介质


技术介绍

1、水利行业中通用统计降雨量的方式主要是按时间维度整点统计,如整1小时、3小时、6小时、12小时、日降雨量(早8点到第二天早8点),计算方式上相对简单,只需按照时间范围分测站进行累加统计即可。

2、上述传统降雨统计方式无法满足现在水利业务场景数据分析的要求,具体来讲,在流域防洪和城市内涝分析等水利业务场景,更关注一个完整的降雨过程,包括雨开始下的具体时间点,雨停的具体时间点,降雨量是多少,以及上述三种数据跟流域防洪中监测点流量或者城市内涝点水位的关系。

3、现有的将与统计方式采用传统关系库进行降雨场次的统计,需要多层嵌套循环进行统计分析,而且雨量监测数据数据量巨大,传统关系库无法支持这种数据量级的运算规模。


技术实现思路

1、为了解决上述问题,本申请提出了一种雨量监测点的降雨数据分析方法、装置、设备及介质,其中方法包括:

2、确定目标雨量监测点的测站编码,并通过flink cdc接入目标雨量监测点的雨量数据;通过flink对所述雨量数据进行计算,以更新所述目标雨量监测点的状态数据;基于所述测站编码,将所述状态数据写入到doris的明细表中,以得到所述目标雨量监测点的降雨场次明细数据;基于所述测站编码,将所述状态数据写入到doris的汇聚表中,并利用函数对所述状态数据进行统计分析,以得到所述目标雨量监测点的降雨场次统计数据。

3、在一个示例中,所述通过flink cdc接入目标雨量监测点的雨量数据,具体包括:确定所述目标雨量监测点对应的雨量表监测数据的mysql binlog日志为开启状态;通过flink sql语句,创建flink流式执行环境,并创建第一临时表,并配置所述第一临时表的库表信息;创建flink执行环境上kafka对应的第二临时表,并配置kafka的配置信息,执行数据插入对应的flink sql,以完成mysql雨量数据到kafka的全增量同步工作。

4、在一个示例中,所述通过flink对所述雨量数据进行计算,以更新所述目标雨量监测点的状态数据,具体包括:接收到来自于雨量监测点的新发送的雨量数据之后,根据所述测站编码,确定所述目标雨量监测点新发送的雨量数据;获取所述目标雨量监测点的状态数据,所述状态数据包括测站编码、降雨持续时间、累计降雨量、降雨开始时间、降雨结束时间;通过对比所述状态数据与所述新发送的雨量数据,对所述状态数据进行更新。

5、在一个示例中,所述通过对比所述状态数据与所述新发送的雨量数据,对所述状态数据进行更新,具体包括:读取所述目标雨量监测站的初始状态数据,并判断初始状态数据是否为空;若所述初始状态数据为空,则将所述新发送的雨量数据填入所述初始状态数据;若所述初始状态数据不为空,则在所述新发送的雨量数据中获取采集时间,以及所述初始状态数据中的降雨结束时间;通过对比所述采集时间以及所述降雨结束时间,对所述初始状态数据进行更新。

6、在一个示例中,所述通过对比所述采集时间以及所述降雨结束时间,对所述初始状态数据进行更新,具体包括:若所述采集时间与所述降雨结束时间之差低于预设时间阈值,则基于所述新发送的雨量数据,更新所述初始状态数据中的降雨持续时间、累计降雨量以及降雨结束时间;若所述采集时间与所述降雨结束时间之差高于所述预设时间阈值,则在将所述初始状态数据保存后,初始化状态数据,并基于所述新发送的雨量数据更新初始化后的状态数据。

7、在一个示例中,所述基于所述测站编码,将所述状态数据写入到doris的明细表中,以得到所述目标雨量监测点的降雨场次明细数据,具体包括:获取所述目标雨量监测点的当前状态数据;将所述当前状态数据写入到doris的明细表中;所述明细表的字段包括:测站编码、降雨开始时间、降雨结束时间、降雨持续时间、累计降雨量;其中,测站编码、降雨开始时间、降雨结束时间组成联合主键。

8、在一个示例中,所述基于所述测站编码,将所述状态数据写入到doris的汇聚表中,并利用函数对所述状态数据进行统计分析,以得到所述目标雨量监测点的降雨场次统计数据,具体包括:获取所述目标雨量监测点的当前状态数据;将所述当前状态数据写入到doris的汇聚表中;所述汇聚表的字段包括:测站编码、连续降雨场次、最长降雨持续时间、最大雨量值;基于测站编码以及当前状态数据,利用求和函数统计所述目标雨量监测点的连续降雨场次;基于测站编码以及当前状态数据,利用求最大值函数统计所述目标雨量监测点的最长降雨持续时间和最大降雨量。

9、本申请还提供了一种雨量监测点的降雨数据分析装置,包括:数据接入模块,确定目标雨量监测点的测站编码,并通过flink cdc接入目标雨量监测点的雨量数据;数据计算模块,通过flink对所述雨量数据进行计算,以更新所述目标雨量监测点的状态数据;明细表模块,基于所述测站编码,将所述状态数据写入到doris的明细表中,以得到所述目标雨量监测点的降雨场次明细数据;汇聚表模块,基于所述测站编码,将所述状态数据写入到doris的汇聚表中,并利用函数对所述状态数据进行统计分析,以得到所述目标雨量监测点的降雨场次统计数据。

10、本申请还提供了一种雨量监测点的降雨数据分析设备,包括:至少一个处理器;以及,与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行上述任意一个示例所述的方法。

11、本申请还提供了一种非易失性计算机存储介质,存储有计算机可执行指令,其特征在于,所述计算机可执行指令设置为执行上述任意一个示例所述的方法。

12、通过本申请提出的方法能够带来如下有益效果:

13、1、在降雨统计方式上做出了创新性改变,更加真实的反应一场降雨过程,有利于对降雨的精准分析。

14、2、本方法引入flink流式计算和doris存算一体框架,改变了传统关系型数据库统计分析的方式,计算性能上得到了很大的提升,实时性和稳定性等到了保障。

15、3、本方法具有很好的适配性,对存放在不同类型数据库中雨量监测数据都可以进行统计分析。

本文档来自技高网...

【技术保护点】

1.一种雨量监测点的降雨数据分析方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,所述通过flink CDC接入目标雨量监测点的雨量数据,具体包括:

3.根据权利要求1所述的方法,其特征在于,所述通过flink对所述雨量数据进行计算,以更新所述目标雨量监测点的状态数据,具体包括:

4.根据权利要求3所述的方法,其特征在于,所述通过对比所述状态数据与所述新发送的雨量数据,对所述状态数据进行更新,具体包括:

5.根据权利要求4所述的方法,其特征在于,所述通过对比所述采集时间以及所述降雨结束时间,对所述初始状态数据进行更新,具体包括:

6.根据权利要求5所述的方法,其特征在于,所述基于所述测站编码,将所述状态数据写入到doris的明细表中,以得到所述目标雨量监测点的降雨场次明细数据,具体包括:

7.根据权利要求5所述的方法,其特征在于,所述基于所述测站编码,将所述状态数据写入到doris的汇聚表中,并利用函数对所述状态数据进行统计分析,以得到所述目标雨量监测点的降雨场次统计数据,具体包括:

8.一种雨量监测点的降雨数据分析装置,其特征在于,包括:

9.一种雨量监测点的降雨数据分析设备,其特征在于,包括:

10.一种非易失性计算机存储介质,存储有计算机可执行指令,其特征在于,所述计算机可执行指令设置为执行如权利要求1-7中任意一项权利要求所述的方法。

...

【技术特征摘要】

1.一种雨量监测点的降雨数据分析方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,所述通过flink cdc接入目标雨量监测点的雨量数据,具体包括:

3.根据权利要求1所述的方法,其特征在于,所述通过flink对所述雨量数据进行计算,以更新所述目标雨量监测点的状态数据,具体包括:

4.根据权利要求3所述的方法,其特征在于,所述通过对比所述状态数据与所述新发送的雨量数据,对所述状态数据进行更新,具体包括:

5.根据权利要求4所述的方法,其特征在于,所述通过对比所述采集时间以及所述降雨结束时间,对所述初始状态数据进行更新,具体包括:

6.根据权利要求5所述的方法,...

【专利技术属性】
技术研发人员:曲建龙牛月华徐强房爱印尹曦萌
申请(专利权)人:山东浪潮智水数字科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1