基于令牌漏桶进行限流的方法、装置和设备制造方法及图纸

本申请实施例公开了一种基于令牌漏桶进行限流的方法、装置和设备，该方法包括：获取被监控设备中的性能指标和令牌漏桶当前的限流阀值，该令牌漏桶的限流阀值为该令牌漏桶的令牌放入速率，该令牌漏桶用于控制该被监控设备内应用的访问请求流量不超出该限流阀值；如果该被监控设备的性能指标中的第一性能指标与第一性能指标的阀值的关系满足限流阀值调整条件，则根据该令牌漏桶当前的限流阀值，按照该限流阀值调整条件对应的限流阀值调整方式，调整令牌漏桶的限流阀值。

【技术实现步骤摘要】
基于令牌漏桶进行限流的方法、装置和设备
本申请涉及计算机网络领域，尤其涉及一种基于令牌漏桶进行限流的方法、装置和设备。
技术介绍
在现有的限流方案中，通常采用固定配置的方式对接口进行限流，以防止访问流量过大导致计算机设备的系统崩溃。但是，在设置的限流值后，往往在未达到计算机设备的系统性能就对用户的访问进行限流，从而造成系统资源的浪费。亟需一种方案，既能够进行限流，又能够充分利用系统资源，减少系统资源浪费。
技术实现思路
本申请实施例的目的是提供一种基于令牌漏桶进行限流的方法、装置和设备，以既能够达到限流的目的，又能够充分利用系统资源，减少系统资源浪费。为解决上述技术问题，本申请实施例是这样实现的：第一方面，提出了一种基于令牌漏桶进行限流的方法，该方法包括：获取被监控设备中的性能指标和令牌漏桶当前的限流阀值，该令牌漏桶的限流阀值为该令牌漏桶的令牌放入速率，该令牌漏桶用于控制该被监控设备内应用的访问请求流量不超出该限流阀值；如果该被监控设备的性能指标中的第一性能指标与第一性能指标的阀值的关系满足限流阀值调整条件，则根据该令牌漏桶当前的限流阀值，按照该限流阀值调整条件对应的限流阀值调整方式，调整令牌漏桶的限流阀值。第二方面，提出了一种限流装置，该装置包括：获取单元，获取被监控设备中的性能指标和令牌漏桶当前的限流阀值，该令牌漏桶的限流阀值为该令牌漏桶的令牌放入速率，该令牌漏桶用于控制该被监控设备内应用的访问请求流量不超出该限流阀值；调整单元，如果该被监控设备的性能指标中的第一性能指标与第一性能指标的阀值的关系满足限流阀值调整条件，则根据该令牌漏桶当前的限流阀值，按照该限流阀值调整条件对应的限流阀值调整方式，调整令牌漏桶的限流阀值。第三方面，提出了一种电子设备，该电子设备包括：处理器；以及被安排成存储计算机可执行指令的存储器，该可执行指令在被执行时使该处理器执行以下操作：获取被监控设备的性能指标和令牌漏桶当前的限流阀值，该令牌漏桶用于控制该被监控设备内应用的访问请求流量不超出该限流阀值；如果该被监控设备的性能指标中的第一性能指标与第一性能指标的阀值的关系满足限流阀值调整条件，则根据该令牌漏桶当前的限流阀值，按照该限流阀值调整条件对应的限流阀值调整方式，调整令牌漏桶的限流阀值。第四方面，提出了一种计算机可读存储介质，该计算机可读存储介质存储一个或多个程序，该一个或多个程序当被包括多个应用程序的电子设备执行时，使得该电子设备执行以下操作：获取被监控设备的性能指标和令牌漏桶当前的限流阀值，该令牌漏桶用于控制该被监控设备内应用的访问请求流量不超出该限流阀值；如果该被监控设备的性能指标中的第一性能指标与第一性能指标的阀值的关系满足限流阀值调整条件，则根据该令牌漏桶当前的限流阀值，按照该限流阀值调整条件对应的限流阀值调整方式，调整令牌漏桶的限流阀值。由以上本申请实施例提供的技术方案可见，本申请实施例通过根据被监控设备的性能指标要求，调整令牌漏桶的限流阀值，以使得被监控设备的性能指标达到预设的性能指标要求，从而既能够达到限流的目的，又能够充分利用系统资源，减少系统资源浪费。附图说明为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请中记载的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。图1是本申请的一个实施例基于令牌漏桶进行限流的方法流程图。图2是本申请的一个实施例限流阀值调整的具体流程示意图。图3是本申请的一个实施例电子设备的结构示意图。图4是本申请的一个实施例限流装置的结构示意图。具体实施方式为了使本
的人员更好地理解本申请中的技术方案，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都应当属于本申请保护的范围。图1是本申请的一个实施例基于令牌漏桶进行限流的方法流程图。图1的方法由限流装置执行。该方法可包括：S102，获取被监控设备的性能指标和令牌漏桶当前的限流阀值。其中，该令牌漏桶的限流阀值为该令牌漏桶的令牌放入速率，该令牌漏桶用于控制该被监控设备内应用的访问请求流量不超出该限流阀值。应理解，在本申请实施例中，被监控设备内应用的访问请求流量，可以是被监控设备各应用的访问请求流量，或者是被监控设备指定应用的访问请求流量，或者是被监控设备各应用对指定接口的访问请求流量，或者是被监控设备指定应用对指定接口的访问请求流量，等等。应理解，本申请实施例中，限流装置可以部署在被监控设备上，也可以部署在能够管理调整令牌漏桶的第三方装置上。此外，应理解，限流装置所监控的设备，可以只有一个，例如限流装置所在的设备；也可以有多个，例如，限流装置所在的集群网络中的全部或部分单机设备，等等。被监控设备，可以包括计算机设备、移动终端等设备。应理解，在本申请实施例中，该性能指标为该被监控设备当前的瞬时性能指标或该被监控设备在当前时刻之前预定时间内的平均性能指标。S104，如果该被监控设备的性能指标中的第一性能指标与第一性能指标的阀值的关系满足限流阀值调整条件，则根据该令牌漏桶当前的限流阀值，按照该限流阀值调整条件对应的限流阀值调整方式，调整令牌漏桶的限流阀值。应理解，第一性能指标可以是被监控设备中的任意一个性能指标。应理解，在被监控设备中可包括多个性能指标，具体可包括软件性能指标和/或硬件性能指标。如果其中任一个性能指标满足限流阀值调整条件，或者说其中任一个性能指标满足限流阀值调整条件没有达到预设的性能指标要求，则可进行限流阀值的调整。可选地，在本申请实施例中，性能指标可包括以下的一种或多种：cpu使用率、内存使用率、网络输入输出(input/output，IO)吞吐率、设备负载。本申请实施例中，通过根据被监控设备的性能指标要求，调整令牌漏桶的限流阀值，以使得被监控设备的性能指标达到预设的性能指标要求，从而既能够达到限流的目的，又能够充分利用被监控设备的系统资源，减少系统资源浪费。可选地，在步骤S104之前，该方法还可包括：获取限流阀值调整方式。具体地，在获取限流阀值调整方式时，可获取限流阀值调整方式中的相关参数，例如调整比例或调整幅度等。当然，应理解，限流阀值调整时，可包括提升限流阀值和降低限流阀值。在实际的应用中，提升限流阀值和降低限流阀值时的调整比例或调整幅度，可以相同，也可以不同。可选地，在本申请实施例中，该限流阀值调整条件包括：第一性能指标高于第一性能指标的上限阈值；或者第一性能指标低于第一性能指标的下限阈值。应理解，在本申请实施例中，可预先为被监控设备的性能指标规定上限阈值和下限阈值。也就是说，在调整令牌漏桶的限流阀值的时候，需要将性能指标控制在下限阈值和上限阈值之间。以CPU使用率为例，可设置CPU使用率的下限阈值为5％，CPU使用率的上限阈值为80％，等等。当然，此处的5％和80％仅仅是举例说明，在实际的应用中，可能设置其它的数值，本申请实施例对此不作限制。应理解，根据性能指标本文档来自技高网...

【技术保护点】
一种基于令牌漏桶进行限流的方法，该方法包括：获取被监控设备中的性能指标和令牌漏桶当前的限流阀值，所述令牌漏桶的限流阀值为所述令牌漏桶的令牌放入速率，所述令牌漏桶用于控制所述被监控设备内应用的访问请求流量不超出所述限流阀值；如果所述被监控设备的性能指标中的第一性能指标与第一性能指标的阀值的关系满足限流阀值调整条件，则根据所述令牌漏桶当前的限流阀值，按照所述限流阀值调整条件对应的限流阀值调整方式，调整令牌漏桶的限流阀值。

【技术特征摘要】
1.一种基于令牌漏桶进行限流的方法，该方法包括：获取被监控设备中的性能指标和令牌漏桶当前的限流阀值，所述令牌漏桶的限流阀值为所述令牌漏桶的令牌放入速率，所述令牌漏桶用于控制所述被监控设备内应用的访问请求流量不超出所述限流阀值；如果所述被监控设备的性能指标中的第一性能指标与第一性能指标的阀值的关系满足限流阀值调整条件，则根据所述令牌漏桶当前的限流阀值，按照所述限流阀值调整条件对应的限流阀值调整方式，调整令牌漏桶的限流阀值。2.如权利要求1所述的方法，其特征在于，所述限流阀值调整条件包括：第一性能指标高于第一性能指标的上限阈值；或者第一性能指标低于第一性能指标的下限阈值。3.如权利要求2所述的方法，其特征在于，按照所述限流阀值调整条件对应的限流阀值调整方式，调整令牌漏桶的限流阀值，包括：如果第一性能指标高于第一性能指标的上限阈值，则在第一预定时间内按照预定减少比例降低令牌漏桶的限流阀值，直至第一性能指标不高于第一性能指标的上限阈值；或者如果第一性能指标高于第一性能指标的上限阈值，则在第一预定时间内按照预定减少幅度降低令牌漏桶的限流阀值，直至第一性能指标不高于第一性能指标的上限阈值。4.如权利要求2所述的方法，其特征在于，按照所述限流阀值调整条件对应的限流阀值调整方式，调整令牌漏桶的限流阀值，包括：如果第一性能指标高于第一性能指标的上限阈值，则在第一预定时间内按照预定减少比例降低令牌漏桶的限流阀值，直至第一性能指标不高于第一性能指标的上限阈值，或者直至所述令牌漏桶的限流阀值不高于所述令牌漏桶的下限阀值；或者如果第一性能指标高于第一性能指标的上限阈值，则在第一预定时间内按照预定减少幅度降低令牌漏桶的限流阀值，直至第一性能指标不高于第一性能指标的上限阈值，或者直至所述令牌漏桶的限流阀值不高于所述令牌漏桶的下限阀值。5.如权利要求2所述的方法，其特征在于，按照所述限流阀值调整条件对应的限流阀值调整方式，调整令牌漏桶的限流阀值，包括：如果第一性能指标低于第一性能指标的下限阈值，则在第二预定时间内按照预定增加比例提高令牌漏桶的限流阀值，直至第一性能指标不低于第一性能指标的下限阈值；或者如果第一性能指标低于第一性能指标的下限阈值，则在第二预定时间内按照预定增加幅度提高令牌漏桶的限流阀值，直至第一性能指标不低于第一性能指标的下限阈值。6.如权利要求2所述的方法，其特征在于，按照所述限流阀值调整条件对应的限流阀值调整方式，调整令牌漏桶的限流阀值，包括：如果第一性能指标低于第一性能指标的下限阈值，则在第二预定时间内按照预定增加比例提高令牌漏桶的限流阀值，直至第一性能指标不低于第一性能指标的下限阈值，或者直至所述令牌漏桶的限流阀值不高于所述令牌漏桶的上限阀值；或者如果第一性能指标低于第一性能指标的下限阈值，则在第二预定时间内...

【专利技术属性】
技术研发人员：康家邦，
申请(专利权)人：阿里巴巴集团控股有限公司，
类型：发明
国别省市：开曼群岛,KY