【技术实现步骤摘要】
本专利技术涉及分布式限流，具体涉及一种基于分布式缓存策略的限流方法及系统。
技术介绍
1、在数字化和网络化迅速发展的当今社会，数据流量管理成为了网络服务提供商和企业面临的一大挑战。特别是在云服务、视频流媒体、在线游戏和电子商务等领域，如何有效地管理和控制流量，以避免网络拥堵和服务降级，已成为保持竞争力和用户满意度的关键因素。
2、现有技术的限流方法主要集中于单节点限流和集中式限流两大类。单节点限流通常在本地服务器或应用层面实施，例如使用漏桶算法或令牌桶算法控制进入系统的请求速率。集中式限流策略则在中央服务器或专用的限流服务上进行管理，以统一调度整个网络或系统的请求处理能力。在分布式和高动态网络环境中依然存在一些不足：（1）缺乏灵活性和可扩展性：单节点和集中式限流技术难以灵活应对大规模或地理分布广泛的网络环境。在需要动态调整限流策略以响应实时网络状态变化的场景中，这些技术存在一定的局限。（2）单点故障问题：在集中式限流方案中，所有决策和数据处理都依赖于中心节点，一旦中心节点故障，整个系统的限流功能可能直接失效。（3）处理延迟：在处理跨区域流量时，集中式系统可能因数据传输和处理延迟而无法实时响应流量变化，从而影响服务质量和用户体验。
3、因此，亟需提供一种基于分布式缓存策略的限流方法及系统，用于实现对大规模和高变化性的网络流量的准确限流。
技术实现思路
1、有鉴于此，有必要提供一种基于分布式缓存策略的限流方法及系统，用以解决现有技术中存在的单节点限流和集中式限流
2、一方面，为了解决上述技术问题，本专利技术提供了一种基于分布式缓存策略的限流方法，应用于分布式缓存系统，所述分布式缓存系统包括多个缓存分区；所述方法包括：
3、获取各所述缓存分区的实时流量和历史流量；
4、将所述实时流量和所述历史流量输入至流量预测模型中，获得下一时刻的预测流量；
5、基于所述预测流量确定所述缓存分区的限流参数，并基于所述限流参数对下一时刻的流量进行限流。
6、在一种可能的实现方式中，所述基于所述预测流量确定所述缓存分区的限流参数，包括：
7、基于流量控制器配置所述缓存分区的流量类句柄，所述流量类句柄中包括预设流速配置；
8、基于所述预测流量调整所述预设流速配置，获得所述限流参数。
9、在一种可能的实现方式中，所述方法还包括：
10、获取所述实时流量的业务重要性和服务级别协议，并将所述业务重要性和所述服务级别协议输入至优先级确定模型中，获得流量优先级。
11、在一种可能的实现方式中，所述方法还包括：
12、获取待响应请求的响应时间、所述分布式缓存系统的吞吐量和用户满意度；
13、基于所述响应时间、所述吞吐量和所述用户满意度判断所述流量预测模型是否需要重新训练；
14、若是，则基于所述历史流量对所述流量预测模型进行重新训练。
15、在一种可能的实现方式中，在所述基于所述预测流量确定所述缓存分区的限流参数之前，还包括：
16、获取待响应请求的请求类型和预期访问频率，基于所述请求类型和所述预期访问频率确定所述多个缓存分区的分区参数；
17、基于所述实时流量和所述分布式缓存系统的系统负载对所述分区参数进行优化，获得优化分区参数。
18、在一种可能的实现方式中，所述基于所述实时流量和所述系统负载对所述分区参数进行优化，获得优化参数，包括：
19、基于所述实时流量和所述系统负载确定所述缓存分区的需求负载；
20、获取所述缓存分区的负载阈值，并基于所述负载阈值和所述需求负载判断是否需要对所述缓存分区进行调整；
21、若是，则基于负载均衡算法优化所述分区参数，获得所述优化参数。
22、在一种可能的实现方式中，所述方法还包括：
23、获取所述缓存分区的缓存命中率和响应时间，并基于所述缓存命中率和所述响应时间确定第一缓存评估结果；
24、获取用户反馈和行为分析，并基于所述用户反馈和所述行为分析确定第二缓存评估结果；
25、基于所述第一缓存评估结果和所述第二缓存评估结果确定是否需要调整分区参数，若是，则对所述分区参数进行调整。
26、在一种可能的实现方式中，所述分布式缓存系统还包括多个数据中心，所述数据中心和所述缓存分区的对应关系为一对多，则所述方法还包括：
27、获取待响应请求的源ip地址和用户id；
28、基于所述源ip地址和所述用户id确定所述待响应请求的地理位置；
29、基于所述地理位置确定所述多个数据中心中的目标数据中心。
30、在一种可能的实现方式中，所述缓存分区包括本地缓存和分布式缓存；
31、所述缓存分区的读取策略为：优先从所述本地缓存读取数据，未命中时退回所述分布式缓存；所述缓存分区的写入策略为：写入时更新策略。
32、本专利技术还提供了一种基于分布式缓存策略的限流系统，应用于分布式缓存系统，所述分布式缓存系统包括多个缓存分区；所述基于分布式缓存策略的限流系统包括：
33、缓存分区流量获取单元，用于获取各所述缓存分区的实时流量和历史流量；
34、流量预测单元，用于将所述实时流量和所述历史流量输入至流量预测模型中，获得下一时刻的预测流量；
35、限流单元，用于基于所述预测流量确定所述缓存分区的限流参数，并基于所述限流参数对下一时刻的流量进行限流。
36、本专利技术的有益效果是：本专利技术提供的基于分布式缓存策略的限流方法，通过获取缓存分区的实时流量和历史流量，并基于实时流量和历史流量确定下一时刻的预测流量，通过流量预测模型对快速变化的网络环境的流量进行预测，得到了准确的预测流量，进而可基于预测流量确定缓存分区的限流参数，实现对下一时刻流量的准确限流，能够显著提高分布式缓存系统的流量管理效率和效果，为现代网络服务提供更灵活和高效的支持。
本文档来自技高网...【技术保护点】
1.一种基于分布式缓存策略的限流方法，其特征在于，应用于分布式缓存系统，所述分布式缓存系统包括多个缓存分区；所述方法包括：
2.根据权利要求1所述的基于分布式缓存策略的限流方法，其特征在于，所述基于所述预测流量确定所述缓存分区的限流参数，包括：
3.根据权利要求1所述的基于分布式缓存策略的限流方法，其特征在于，所述方法还包括：
4.根据权利要求1所述的基于分布式缓存策略的限流方法，其特征在于，所述方法还包括：
5.根据权利要求1所述的基于分布式缓存策略的限流方法，其特征在于，在所述基于所述预测流量确定所述缓存分区的限流参数之前，还包括：
6.根据权利要求5所述的基于分布式缓存策略的限流方法，其特征在于，所述基于所述实时流量和所述系统负载对所述分区参数进行优化，获得优化参数，包括：
7.根据权利要求5所述的基于分布式缓存策略的限流方法，其特征在于，所述方法还包括：
8.根据权利要求1-7任意一项所述的基于分布式缓存策略的限流方法，其特征在于，所述分布式缓存系统还包括多个数据中心，所述数据中心和所述缓
9.根据权利要求1所述的基于分布式缓存策略的限流方法，其特征在于，所述缓存分区包括本地缓存和分布式缓存；
10.一种基于分布式缓存策略的限流系统，其特征在于，应用于分布式缓存系统，所述分布式缓存系统包括多个缓存分区；所述基于分布式缓存策略的限流系统包括：
...【技术特征摘要】
1.一种基于分布式缓存策略的限流方法，其特征在于，应用于分布式缓存系统，所述分布式缓存系统包括多个缓存分区；所述方法包括：
2.根据权利要求1所述的基于分布式缓存策略的限流方法，其特征在于，所述基于所述预测流量确定所述缓存分区的限流参数，包括：
3.根据权利要求1所述的基于分布式缓存策略的限流方法，其特征在于，所述方法还包括：
4.根据权利要求1所述的基于分布式缓存策略的限流方法，其特征在于，所述方法还包括：
5.根据权利要求1所述的基于分布式缓存策略的限流方法，其特征在于，在所述基于所述预测流量确定所述缓存分区的限流参数之前，还包括：
6.根据权利要求5所述的基于分布式缓存策略的限流方法，其...
【专利技术属性】
技术研发人员：柯志杰，董建军，徐斌，何怀兵，胡亚林，王骏涛，石薇，
申请(专利权)人：武汉大数据产业发展有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。