一种流数据系统的负载评估以及过载判定方法技术方案

技术编号:10231494 阅读:219 留言:0更新日期:2014-07-18 09:09
本发明专利技术公开了一种流数据系统的负载评估以及过载判定方法,通过量化流数据系统处理单位数据元组消耗的时间,进而动态计算评估流数据的实时负载,判断是否过载。本发明专利技术克服了现有流数据系统因数据流具有抖动、不确定等特性,其数据特性无法预测,数据率不断变化,从而造成流数据系统负载不稳定的缺陷。本发明专利技术提出的流数据系统负载的评估及系统过载判定方法,对于流数据系统性能优化具有重要的意义。值得推广应用。

【技术实现步骤摘要】
【专利摘要】本专利技术公开了,通过量化流数据系统处理单位数据元组消耗的时间,进而动态计算评估流数据的实时负载,判断是否过载。本专利技术克服了现有流数据系统因数据流具有抖动、不确定等特性,其数据特性无法预测,数据率不断变化,从而造成流数据系统负载不稳定的缺陷。本专利技术提出的流数据系统负载的评估及系统过载判定方法,对于流数据系统性能优化具有重要的意义。值得推广应用。【专利说明】
本专利技术涉及数据库领域,主要解决流数据系统过载的判定问题,专利技术了一种过载判定的方法。
技术介绍
数据呈现海量、实时、多样等新特征,流数据系统在应对数据新特征与挑战中有着诸多优势:1,数据单遍扫描,不存储全部的原始数据,节省了存储资源;2,数据处理结果存储在内存中,处理与访问均在内存中进行,提高了分析与访问的时效性;3,流数据采取数据摘要表征原始数据特性,适应了数据的新特征与趋势。数据流具有抖动、不确定等特性,其数据特性无法预测,数据率不断变化,因而造成流数据系统负载不稳定。系统负载的评估及系统过载判定对于流数据系统性能优化都有重要的意义。
技术实现思路
本专利技术所要解决的技术问题是提出了,以克服现有流数据系统的因数据特性无法预测,数据率不断变化,造成流数据系统负载不稳定的缺陷。为了解决上述技术问题,本专利技术提出了,包括以下步骤:计算流数据系统负载,所述流数据系统负载按以下公式计算:【权利要求】1.,其特征在于,包括以下步骤: 计算流数据系统负载,所述流数据系统负载按以下公式计算: 2.根据权利要求1所述的流数据系统的负载评估以及过载判定方法,其特征在于,所述第j个算子的S」参数由以下步骤获取: 系统启动,系统定时周期T1,在第一个周期内统计获取参数Sk ; 初始化算子j处理的数据数值为O,初始化算子j输出的数据元组数%值为O ; 每当输入算子j 一个数据元组,Mj自增I ; 每当算子j输出一个数据元组,Nj自增I ; 定时周期Tl到达,计算算子j的选择率SfN/Mj。3.根据权利要求2所述的流数据系统的负载评估以及过载判定方法,其特征在于,所述第k个算子的Ck参数由以下步骤获取: 系统启动,系统定时周期T1,在第一个周期内统计获取参数Ck; 初始化算子k处理的数据元组数目Mk值为O,初始化参数Ck值为O ; 每当输入算子k 一个数据元组,Mk自增I ; 用数据元组处理结束的时间减去输入算子的时间计算处理时间tk ; 根据下式更新Ck 4.根据权利要求3所述的流数据系统的负载评估以及过载判定方法,其特征在于,系统是否过载的动态判定方法如下: 设置定时周期T1 ; 初始化每条流的数据率Vi值为O,i取值区间为; 当数据元组到达,判断所属的数据流,并将对应的Vi自增I ; 定时周期T1到达,计算系统负载 【文档编号】G06F17/30GK103927349SQ201410133278【公开日】2014年7月16日 申请日期:2014年4月3日 优先权日:2014年4月3日 【专利技术者】王菲 申请人:华中科技大学本文档来自技高网...
一种流数据系统的负载评估以及过载判定方法

【技术保护点】
一种流数据系统的负载评估以及过载判定方法,其特征在于,包括以下步骤:计算流数据系统负载,所述流数据系统负载按以下公式计算:L=Σi=1NViLci]]>其中N为输入流数据系统的数据流数目;Vi为第i条数据流的数据率,i取值区间为[1,N];Lci为第i条数据流对流数据系统的负载系数;所述负载系数Lci为流数据系统处理第i条数据流中单位元组消耗的时间,i取值区间为[1,N];负载系数Lci由以下公式计算得到:Lci=Σk=1n(Πj=1k-1Sj)Ck]]>所述Sj为处理第i条数据流的第j个算子输出的结果数和输入的数据数目之间的比值,即算子的选择率;所述Ck为第k个算子处理单个数据元组消耗的时间;所述Sj、Ck参数都在系统启动后的一个周期内计算得到。

【技术特征摘要】

【专利技术属性】
技术研发人员:王菲
申请(专利权)人:华中科技大学
类型:发明
国别省市:湖北;42

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1