一种用于并发访问请求的限流方法、装置以及系统制造方法及图纸

本申请提供一种限流方法，包括：接收并发访问请求，所述并发访问请求中包括不同优先级的访问请求；根据当前过滤等级，对所述并发访问请求进行过滤；对过滤后的所述并发访问请求进行限流监测；根据所述限流监测的结果，调整当前过滤等级；其中，所述过滤等级包括对不同优先级的访问请求采取的过滤措施。本申请还同时提供一种限流装置以及一种用于并发访问请求的限流系统。由于对所述访问请求进行优先级的划分，根据实际情况对不同优先级的访问请求进行了不同的过滤处理，且能够根据并发访问请求的变化情况实时调整过滤措施，因此，对所述访问请求做到了差异化控制，保障了优先级高的访问能够最大程度的进入应用处理阶段。

【技术实现步骤摘要】
一种用于并发访问请求的限流方法、装置以及系统
本专利技术涉及互联网
，具体涉及一种用于并发访问请求的限流方法、装置以及一种用于并发访问请求的限流系统。本申请同时提供一种相应的电子设备。
技术介绍
近年来，随着互联网技术的飞速发展，各种各样的互联网服务相继出现，人们的生活已经与互联网密不可分。现有的互联网服务广泛采用客户端-服务器模式，处于网络上的成千上万的客户端通过网络向服务器提出服务请求或者称为访问请求，服务器则根据访问请求进行处理，并返回处理结果。其中服务器可以是一台具体的物理服务器，也可以是多种物理服务器组合形成的处理某类应用请求的虚拟服务器。当服务器接收到大量的并发用户访问请求时，为了保障服务器运行的稳定，通常采用限流的方式防止服务器因瞬间涌入大量的并发访问请求而造成服务器崩溃的问题。目前，存在多种成熟的限流算法，例如，计数法、令牌桶、漏桶，同时也有很多基于上述算法实现的限流中间件，例如开源中间件Hystrix。在具体应用中，通常根据服务器的性能参数动态地改变限流中间件的限流阈值，以实现限流的目的。但目前采用的限流方法对服务器接收的访问请求是一视同仁的，并不能做到差异化控制，而不同的应用请求往往存在重要程度的差异，上述限流方法并不能优先保障重要程度高的访问请求进入应用处理的阶段，无法保障服务器对用户访问请求的合理调用。
技术实现思路
本申请提供一种用于并发访问请求的限流方法，该限流方法能够优先保障重要程度高的访问请求被服务器接收。本申请同时提供一种用于并发访问请求的限流装置，以及一种用于并发访问请求的限流系统。本申请提供的限流方法，包括：接收并发访问请求，所述并发访问请求中包括不同优先级的访问请求；根据当前过滤等级，对所述并发访问请求进行过滤；对过滤后的所述并发访问请求进行限流监测；根据所述限流监测的结果，调整当前过滤等级；其中，所述过滤等级包括对不同优先级的访问请求采取的过滤措施。优选的，所述对过滤后的所述并发访问请求进行限流监测，包括：获取所述过滤后的并发访问请求的请求日志；判断所述请求日志中是否包含被应用系统拒绝的信息；若是，则所述限流监测的结果为限流被触发；若否，则所述限流监测的结果为未被限流。优选的，所述过滤等级按照以下方式进行设置：每个过滤等级对应于并发访问请求的优先级N，以及过滤比例M；对于优先级级别低于所述优先级N的并发访问请求，全部被过滤，对于所述优先级N的并发访问请求，则根据所述过滤比例M进行过滤，对于优先级级别高于所述优先级N的并发访问请求，则不过滤；所述过滤等级按照优先级N和过滤比例M，从低到高分级；所述过滤等级对应的优先级越高，则过滤等级越高；对于对应相同优先级N的过滤等级，则过滤比例M越高，过滤等级越高。优选的，所述根据所述限流监测的结果，调整当前过滤等级，包括：若所述限流监测的结果为限流被触发，则调整过滤等级，具体是将当前过滤等级向上调整一级，并更新该过滤等级为当前过滤等级。优选的，为所述限流监测设置固定时间长度的监测周期，在每个监测周期结束时根据该监测周期中所述限流监测的结果，进行所述调整过滤等级的步骤。优选的，所述根据所述并发访问请求的监测结果，调整当前过滤等级，包括：若所述限流监测的结果未被限流，则进一步判断所述当前过滤等级的维持时间是否大于预设的时间阈值；若所述判断结果为是，则将所述过滤等级向下调整一级，并更新该过滤等级为当前过滤等级。优选的，所述根据所述当前过滤等级，对所述并发访问请求进行过滤，包括：判断各个访问请求对应的优先级；根据所述当前过滤等级对应的优先级N以及过滤比例M，对所述不同优先级的访问请求进行过滤。优选的，包括以恒定的速率产生令牌的步骤，所述令牌提供给过滤后的所述访问请求，获得令牌的访问请求能够被应用系统接收。本申请还提供一种用于并发访问请求的限流装置，包括：访问请求接收单元，用于接收并发访问请求，所述并发访问请求中包括不同优先级的访问请求；过滤单元，用于根据当前过滤等级，对所述访问请求进行过滤；限流监测单元，用于对过滤后的所述并发访问请求进行限流监测；过滤等级调整单元，用于接收所述限流监测单元输出的限流监测的结果，并根据所述限流监测的结果，调整当前过滤等级；其中，所述过滤等级包括对不同优先级的访问请求采取的过滤措施。本申请还提供一种用于并发访问请求的限流系统，包括：若干客户端，限流组件，状态扫描器，限流状态机，以及应用系统；所述客户端用于发送并发访问请求；所述限流组件，用于对过滤后的所述并发访问请求进行限流；所述状态扫描器，用于对过滤后的所述并发访问请求进行限流监测；所述限流状态机，用于根据所述状态扫描器的限流监测情况确定和调整当前的过滤等级，并根据所述过滤等级，对所述并发访问请求进行过滤；所述应用系统用于接收所述访问请求，对访问请求进行处理。优选的，所述限流状态机包括预先设定的与过滤等级一一对应的若干个过滤状态，每个过滤状态包括如下参数：状态标识、当前状态的上一级状态、当前状态的下一级状态、优先级等级、过滤比例。优选的，所述限流组件采用发放令牌方式进行限流。优选的，所述限流组件包括令牌工厂、令牌桶、令牌分发判断单元；所述令牌工厂用于按照设定速率产生令牌；所述令牌桶用于接收所述令牌工厂产生的令牌，并存放所述令牌；所述令牌分发判断单元用于接收来自访问请求的令牌分发申请，并从所述令牌桶获取令牌并为申请令牌的访问请求配送令牌；若所述令牌桶已经没有令牌，则拒绝为所述访问请求发放令牌。优选的，所述状态扫描器对过滤后的所述并发访问请求进行限流监测，具体包括：获取所述过滤后的并发访问请求的请求日志；判断所述请求日志中是否包含被应用系统拒绝的信息；若是，则所述限流监测的结果为限流被触发；若否，则所述限流监测的结果为未被限流。优选的，所述状态扫描器用于根据所述限流监测情况确定和调整当前的过滤等级，包括；若所述限流监测的结果为限流被触发，则将当前过滤等级向上调整一级，并更新该过滤等级为当前过滤等级；若所述限流监测的结果为未被限流，则进一步判断所述当前过滤等级的维持时间是否大于预设的时间阈值；若所述判断结果为是，则将所述过滤等级向下调整一级，并更新该过滤等级为当前过滤等级。本申请还提供一种电子设备，包括：处理器；存储器，用于存储用于并发访问请求的限流程序，所述程序在被所述处理器读取执行时，执行如下步骤：接收并发访问请求，所述并发访问请求中包括不同优先级的访问请求；根据当前过滤等级，对所述并发访问请求进行过滤；对过滤后的所述并发访问请求进行限流监测；根据所述限流监测的结果，调整当前过滤等级；其中，所述过滤等级包括对本文档来自技高网...

【技术保护点】
1.一种用于并发访问请求的限流方法，其特征在于，包括：/n接收并发访问请求，所述并发访问请求中包括不同优先级的访问请求；/n根据当前过滤等级，对所述并发访问请求进行过滤；/n对过滤后的所述并发访问请求进行限流监测；/n根据所述限流监测的结果，调整当前过滤等级；/n其中，所述过滤等级包括对不同优先级的访问请求采取的过滤措施。/n

【技术特征摘要】
1.一种用于并发访问请求的限流方法，其特征在于，包括：
接收并发访问请求，所述并发访问请求中包括不同优先级的访问请求；
根据当前过滤等级，对所述并发访问请求进行过滤；
对过滤后的所述并发访问请求进行限流监测；
根据所述限流监测的结果，调整当前过滤等级；
其中，所述过滤等级包括对不同优先级的访问请求采取的过滤措施。


2.根据权利要求1所述的用于并发访问请求的限流方法，其特征在于，所述对过滤后的所述并发访问请求进行限流监测，包括：
获取所述过滤后的并发访问请求的请求日志；
判断所述请求日志中是否包含被应用系统拒绝的信息；
若是，则所述限流监测的结果为限流被触发；
若否，则所述限流监测的结果为未被限流。


3.根据权利要求1所述的用于并发访问请求的限流方法，其特征在于，所述过滤等级按照以下方式进行设置：
每个过滤等级对应于并发访问请求的优先级N，以及过滤比例M；对于优先级级别低于所述优先级N的并发访问请求，全部被过滤，对于所述优先级N的并发访问请求，则根据所述过滤比例M进行过滤，对于优先级级别高于所述优先级N的并发访问请求，则不过滤；
所述过滤等级按照优先级N和过滤比例M，从低到高分级；所述过滤等级对应的优先级越高，则过滤等级越高；对于对应相同优先级N的过滤等级，则过滤比例M越高，过滤等级越高。


4.根据权利要求2所述的用于并发访问请求的限流方法，其特征在于，所述根据所述限流监测的结果，调整当前过滤等级，包括：
若所述限流监测的结果为限流被触发，则调整过滤等级，具体是将当前过滤等级向上调整一级，并更新该过滤等级为当前过滤等级。


5.根据权利要求4所述的用于并发访问请求的限流方法，其特征在于，为所述限流监测设置固定时间长度的监测周期，在每个监测周期结束时根据该监测周期中所述限流监测的结果，进行所述调整过滤等级的步骤。


6.根据权利要求2所述用于并发访问请求的限流方法，其特征在于，所述根据所述并发访问请求的监测结果，调整当前过滤等级，包括：
若所述限流监测的结果未被...

【专利技术属性】
技术研发人员：叶帅，孙会业，
申请(专利权)人：口碑上海信息技术有限公司，
类型：发明
国别省市：上海;31