业务流量的限流方法、装置及系统制造方法及图纸

技术编号:23404570 阅读:26 留言:0更新日期:2020-02-22 16:29
本申请公开了一种业务流量的限流方法、装置及系统,涉及流量控制技术领域,可实现集群智能限流,提高业务流量限流的效率和准确性。其中方法包括:发送携带有用户业务操作数据和操作环境数据的业务请求,以使得在集群需要集中处理并发的业务请求时,根据各个用户业务操作数据和操作环境数据,参照所述集群中服务器处理历史相似数据时各自对应所能承受的最大业务流量,限制所述服务器各自处理的业务流量;接收所述业务请求对应的业务服务。本申请适用于业务流量的限流。

Flow limiting method, device and system of business flow

【技术实现步骤摘要】
业务流量的限流方法、装置及系统
本申请涉及流量控制
,尤其是涉及到一种业务流量的限流方法、装置及系统。
技术介绍
为了保证业务服务线上系统高可用,目前可采用人工配置的传统限流方式。具体可预先人工编写代码配置固定的限流参数,例如通过服务器的CPU性能、服务器磁盘阵列等信息配置一个固定的最大流量。当接收到大量并发的业务请求后,根据该限流参数进行业务流量限流,以减少服务器处理大量并发请求的情况。然而,针对某些业务服务的业务流量变化存在着明显的区域性和时间性特点,并且服务器可承受的流量是动态的。因此需要人工根据实际情况经常更改限流参数,使得传统限流方式不够灵活,不能充分利用服务器资源,且每次更改都需要人工重新编码,影响业务流量限流的效率,以及会增加人工成本。
技术实现思路
有鉴于此,本申请提供了一种业务流量的限流方法、装置及系统,主要目的在于解决目前传统的限流方式会影响业务流量限流的效率,以及会增加人工成本的技术问题。依据本申请的一个方面,提供了一种业务流量的限流方法,可应用于客户端侧,该方法包括:发送携带有用户业务操作数据和操作环境数据的业务请求,以使得在集群需要集中处理并发的业务请求时,根据各个用户业务操作数据和操作环境数据,参照所述集群中服务器处理历史相似数据时各自对应所能承受的最大业务流量,限制所述服务器各自处理的业务流量;接收所述业务请求对应的业务服务。可选的,所述最大业务流量是通过对抗神经网络模型计算得到的,所述方法还包括:采集用户历史的业务操作数据和操作环境数据并上传,以便创建所述对抗神经网络模型对应的训练集和测试集。可选的,若在发送所述业务请求之后的预设时长未接收到返回的业务服务,则所述方法还包括:查询同样能够获取到所述业务服务的其他集群服务器信息;依据所述其他集群服务器信息,重新发送所述业务请求。可选的,在接收所述业务请求对应的业务服务之后,所述方法还包括:输出接收到的业务服务。依据本申请的另一方面,提供了另一种业务流量的限流方法,可应用于服务端侧,该方法包括:接收并发的业务请求,所述业务请求中携带有用户业务操作数据和操作环境数据;在集群需要集中处理并发的业务请求时,根据各个用户业务操作数据和操作环境数据,参照所述集群中服务器处理历史相似数据时各自对应所能承受的最大业务流量,限制所述集群中服务器各自处理的业务流量。可选的,参照所述最大业务流量,限制所述集群中服务器各自处理的业务流量,具体包括:向所述集群中服务器转发所述并发的业务请求,并使得所述集群中服务器处理的业务流量小于或等于各自对应的所述最大业务流量。可选的,所述方法还包括:接收各个客户端上传的各个用户的历史业务操作数据和历史操作环境数据;按照所述历史业务操作数据和历史操作环境数据,创建训练集和测试集;基于对抗神经网络算法利用所述训练集训练生成器,并利用所述测试集训练判决器,若生成器通过所述判决器的校验,则将通过校验的生成器确定为对抗神经网络模型,所述对抗神经网络模型用于计算得到所述最大业务流量。可选的,所述按照所述历史业务操作数据和历史操作环境数据,创建训练集和测试集,具体包括:查询携带有所述历史业务操作数据和历史操作环境数据的历史并发业务请求被集中处理时集群中服务器的负载信息;依据所述负载信息,分析集群中服务器在集中处理所述历史并发业务请求时,各自对应所能承受的历史最大业务流量;将所述历史业务操作数据和历史操作环境数据作为样本特征数据,及将所述历史最大业务流量作为与所述样本特征数据对应的样本标签数据,创建所述训练集和所述测试集。可选的,用于限制集群中服务器业务流量处理的所述最大业务流量的计算过程,具体包括:将所述各个用户业务操作数据和操作环境数据输入到所述对抗神经网络模型,获取集群中服务器处理历史相似数据时各自对应所能承受的最大业务流量。可选的,在所述基于对抗神经网络算法利用所述训练集训练生成器,并利用所述测试集训练判决器之前,所述方法还包括:对所述训练集和所述测试集进行稀疏矩阵处理;所述基于对抗神经网络算法利用所述训练集训练生成器,并利用所述测试集训练判决器,具体包括:基于对抗神经网络算法利用稀疏矩阵处理后的训练集训练生成器,并利用稀疏矩阵处理后的测试集训练判决器。可选的,若生成器未通过所述判决器的校验,则所述方法还包括:继续对生成器和判决器进行训练,每次训练后利用新判决器校验新生成器,直至新生成器通过新判决器的校验,并将通过校验的新生成器确定为所述对抗神经网络模型。可选的,在所述按照所述历史业务操作数据和历史操作环境数据,创建训练集和测试集之前,所述方法还包括:对所述历史业务操作数据和历史操作环境数据进行去重和去脏的无效数据过滤;所述按照所述历史业务操作数据和历史操作环境数据,创建训练集和测试集,具体包括:按照过滤后的历史业务操作数据和历史操作环境数据,创建训练集和测试集。依据本申请的又一方面,提供了一种业务流量的限流装置,可应用于客户端侧,该装置包括:发送模块,用于发送携带有用户业务操作数据和操作环境数据的业务请求,以使得在集群需要集中处理并发的业务请求时,根据各个用户业务操作数据和操作环境数据,参照所述集群中服务器处理历史相似数据时各自对应所能承受的最大业务流量,限制所述服务器各自处理的业务流量;接收模块,用于接收所述业务请求对应的业务服务。可选的,所述最大业务流量是通过对抗神经网络模型计算得到的,所述装置还包括:采集模块,用于采集用户历史的业务操作数据和操作环境数据;所述发送模块,还用于上传所述采集模块采集到的用户历史的业务操作数据和操作环境数据,以便创建所述对抗神经网络模型对应的训练集和测试集。可选的,所述装置还包括:查询模块;所述查询模块,用于若在发送所述业务请求之后的预设时长未接收到返回的业务服务,则查询同样能够获取到所述业务服务的其他集群服务器信息;所述发送模块,还用于依据所述其他集群服务器信息,重新发送所述业务请求。可选的,所述装置还包括:输出模块,用于输出接收到的业务服务。依据本申请的再一方面,提供了一种业务流量的限流装置,可应用于服务端侧,该装置包括:接收模块,用于接收并发的业务请求,所述业务请求中携带有用户业务操作数据和操作环境数据;限制模块,用于在集群需要集中处理并发的业务请求时,根据各个用户业务操作数据和操作环境数据,参照所述集群中服务器处理历史相似数据时各自对应所能承受的最大业务流量,限制所述集群中服务器各自处理的业务流量。可选的,所述限制模块,具体用于向所述集群中服务器转发所述并发的业务请求,并使得所述集群中服务器处理的业务流量小于或等于各自对应的所述最大业务流量。可选的,所述装置还包括:创建模块和训练模块;接收本文档来自技高网...

【技术保护点】
1.一种业务流量的限流方法,其特征在于,包括:/n发送携带有用户业务操作数据和操作环境数据的业务请求,以使得在集群需要集中处理并发的业务请求时,根据各个用户业务操作数据和操作环境数据,参照所述集群中服务器处理历史相似数据时各自对应所能承受的最大业务流量,限制所述服务器各自处理的业务流量;/n接收所述业务请求对应的业务服务。/n

【技术特征摘要】
1.一种业务流量的限流方法,其特征在于,包括:
发送携带有用户业务操作数据和操作环境数据的业务请求,以使得在集群需要集中处理并发的业务请求时,根据各个用户业务操作数据和操作环境数据,参照所述集群中服务器处理历史相似数据时各自对应所能承受的最大业务流量,限制所述服务器各自处理的业务流量;
接收所述业务请求对应的业务服务。


2.根据权利要求1所述的方法,其特征在于,所述最大业务流量是通过对抗神经网络模型计算得到的,所述方法还包括:
采集用户历史的业务操作数据和操作环境数据并上传,以便创建所述对抗神经网络模型对应的训练集和测试集。


3.一种业务流量的限流方法,其特征在于,包括:
接收并发的业务请求,所述业务请求中携带有用户业务操作数据和操作环境数据;
在集群需要集中处理并发的业务请求时,根据各个用户业务操作数据和操作环境数据,参照所述集群中服务器处理历史相似数据时各自对应所能承受的最大业务流量,限制所述集群中服务器各自处理的业务流量。


4.一种业务流量的限流装置,其特征在于,包括:
发送模块,用于发送携带有用户业务操作数据和操作环境数据的业务请求,以使得在集群需要集中处理并发的业务请求时,根据各个用户业务操作数据和操作环境数据,参照所述集群中服务器处理历史相似数据时各自对应所能承受的最大业务流量,限制所述服务器各自处理的业务流...

【专利技术属性】
技术研发人员:单健锋江鹏辉
申请(专利权)人:浙江口碑网络技术有限公司
类型:发明
国别省市:浙江;33

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1