【技术实现步骤摘要】
本专利技术涉及计算机数据领域，特别是涉及一种基于协程的动态调度微服务网关方法及系统。
技术介绍
1、在现代软件开发中，微服务架构由于其高度的解耦和可伸缩性，已经成为企业应用开发的主流。当前的微服务架构中，网关作为系统的入口，承担着请求路由、负载均衡、安全认证等重要功能。传统的微服务网关系统通常采用多线程模型来处理并发请求，在硬件服务器性能不够的场景下，这种方法在处理大量并发连接时存在一些限制和不足。
2、多线程模型在处理并发请求时，通过创建多个线程来分别处理不同的任务。网络线程与业务线程分离的问题也日益突出，这一方面出现了如下问题：a.增加了系统复杂性：需要管理两种不同类型的线程池；b.线程间通信量急剧上升：网络线程和业务线程之间的数据传递需要额外的同步机制；c.延迟增加：请求在网络线程和业务线程之间传递会引入额外的延迟。
3、而多线程模型自身的局限性也较大：a.资源被大量占用：每个线程都需要独立的栈空间，当并发量大时，会消耗大量系统资源；b.上下文切换成本高：频繁的线程切换会导致较高的cpu开销；c.扩展性受限：线程数量增加会导致系统性能下降。
4、同时，在实际应用场景中，后台服务的某些接口，特别是涉及复杂数据处理或历史数据查询的接口，其执行时间可能远远超过常规请求。例如，历史报表数据查询可能需要10秒或更长时间来完成。这种长时间执行的接口在微服务网关中处理时面临着显著的挑战。如果微服务网关不对不同业务场景的接口实施差异化的超时策略，那么执行时间过长的接口请求可能会因超时而失败，尤其是在高并
5、在这种情况下，当业务请求大规模超时不可用时，在高并发情况下，微服务网关的请求队列容易被快速填满，导致系统拒绝服务，现有的处理方式将请求无差别丢弃：当队列满时，简单地丢弃新到达的请求，可能会丢失重要的高优先级请求；低优先级请求可能长时间占用队列资源，影响整体系统效率。
技术实现思路
1、本专利技术的目的是为了克服上述
技术介绍
的不足，提供一种基于协程的动态调度微服务网关方法及系统，使其通过引入协程模型、合并网络和业务处理线程、实现动态优先级调度机制以及差异化超时策略等创新方法，本专利技术能够显著提升网关性能，降低系统延迟，并在高负载情况下智能管理请求队列，确保关键业务的正常运行。
2、本专利技术提供的一种基于协程的动态调度微服务网关方法，包括如下步骤：步骤一、创建协程池处理网络请求，网关接受网络请求并将网络请求加入请求队列，分配一个空闲协程处理转发该网络请求；步骤二、识别请求类型并为该网络请求分配预设的静态优先级，并以静态优先级和配置的初步动态优先级为基础，结合请求频率、响应时间和系统负载这些特征调整动态优先级；步骤三、实时收集协程运行中的请求频率、响应时间、队列长度、系统负载和接口执行数据，并根据数据运行状况，通过计算超时阈值，采用超时差异化策略、低优先级丢弃策略和数据状态更新这些措施减少协程处理延迟。
3、在上述技术方案中，所述步骤二中，所述调整动态优先级是基于综合特征和岭回归模型计算动态优先级，具体过程如下：配置接口的静态优先级、请求频率、响应时间和系统负载各个特征的动态优先级权重；分别计算静态优先级、请求频率、响应时间和系统负载单个特征的贡献值；根据静态优先级、请求频率、响应时间和系统负载的单个特征贡献值计算组合特征值；基于静态优先级、请求频率、响应时间和系统负载各自的系数和组合特征值，使用岭回归模型计算平均响应时间并作为动态优先级拟合系数；基于静态优先级、请求频率、响应时间和系统负载各自的系数及配置的各自的动态优先级权重输出网络请求的动态优先级。
4、在上述技术方案中，所述步骤二中，基于岭回归的动态优先级计算公式如下：,其中，表示动态优先级，表示截距项，表示静态优先级，表示请求频率，表示响应时间，表示系统负载，表示静态优先级特征的回归系数，表示请求频率特征的回归系数，表示响应时间特征的回归系数，表示系统负载特征的回归系数，表示误差项。
5、在上述技术方案中，所述步骤三中，所述计算超时阈值的具体过程如下：根据接口的历史监控数据，基于daubechies的小波分解计算各个接口的超时时间；基于daubechies小波分解后获得的多元数据，itransformer模型反向重构得到最终超时阈值。
6、在上述技术方案中，所述步骤三中计算超时阈值引入的daubechies小波分解具体过程如下：获取接口历史监控数据，采用daubechies小波分解对各种类型的历史监控数据进行拆分；将daubechies小波分解的层数固定为预设值；对每个参数序列进行离散小波变换，得到各种尺度的近似系数和细节系数，将近似系数和细节系数的步长设置为t；分析各尺度的近似系数和细节系数，识别各类型参数特征,参数特征数量设置为n。
7、在上述技术方案中，所述步骤三中计算超时阈值引入的daubechies小波分解算法如下：输入：输入回溯时间序列；输入长度 t；预测长度 s；变量数 n；令牌维度 d；itransformer块数量 l；小波分解级别 j；则对于变量，执行以下步骤：1），提取第n个变量的时间序列；2）= wavelet_daubechies（x_nlevel=j）；3）x[:n]= concat（[]）连接分解后的系数；4）x = x.transpose。
8、在上述技术方案中，所述步骤三中计算超时阈值采用的itransformer算法的具体过程如下：通过embedding模型转换daubechies小波分解后的多元数据并输入至trmblock获得序列值；使用多层感知器在最后一个维度上嵌入序列值到变量tokens；对于变量tokens循环执行如下操作：采用第一层归一化和自注意力机制更新上一层输出值获得第一更新值；采用第一前馈网络序列表示第一更新值并广播到每个变量token；采用第二层归一化和第二前馈网络更新每个变量token获得第二更新值；在序列表上采用第三层归一化减少变量差异；使用多层感知机处理并输出最终变量，转置最终变量并将转置结果作为预测结果。
9、在上述技术方案中，所述步骤三中，所述超时差异化策略的具体过程如下：根据接口历史监控数据和预期执行时间，将接口分类为快速接口、普通接口和长时间执行接口；通过计算超时阈值，为各种类别的接口设置对应的初始超时时间，并根据实时监控数据动态调整；当每个接口执行时间接近超时阈值时，触发预警并考虑延长超时时间或将请求转移到长时间执行队列。
10、在上述技术方案中，所述步骤三中，所述低优先级丢弃策略的具体过程如下：当检测到队列长度接近设定值的一定比例值时，启动低优先级丢弃策略；根据当前系统状态，动态设置一个优先级阈值；计算新到达请求的动态优先级；比较请求本文档来自技高网...
【技术保护点】
1.一种基于协程的动态调度微服务网关方法，其特征在于：包括如下步骤：
2.根据权利要求1所述的基于协程的动态调度微服务网关方法，其特征在于：所述步骤二中，所述调整动态优先级是基于综合特征和岭回归模型计算动态优先级，具体过程如下：
3.根据权利要求2所述的基于协程的动态调度微服务网关方法，其特征在于：所述步骤二中，基于岭回归的动态优先级计算公式如下：
4.根据权利要求3所述的基于协程的动态调度微服务网关方法，其特征在于：所述步骤三中，所述计算超时阈值的具体过程如下：
5.根据权利要求4所述的基于协程的动态调度微服务网关方法，其特征在于：所述步骤三中计算超时阈值引入的Daubechies小波分解具体过程如下：
6.根据权利要求5所述的基于协程的动态调度微服务网关方法，其特征在于：所述步骤三中计算超时阈值引入的Daubechies小波分解算法如下：
7.根据权利要求6所述的基于协程的动态调度微服务网关方法，其特征在于：所述步骤三中计算超时阈值采用的iTransformer算法的具体过程如下：
8.根据权
9.根据权利要求8所述的基于协程的动态调度微服务网关方法，其特征在于：所述步骤三中，所述低优先级丢弃策略的具体过程如下：
10.一种基于协程的动态调度微服务网关系统，具有计算机程序，其特征在于：该计算机程序能够执行如权利要求1~9中任一项所述的基于协程的动态调度微服务网关方法。
...【技术特征摘要】
1.一种基于协程的动态调度微服务网关方法，其特征在于：包括如下步骤：
2.根据权利要求1所述的基于协程的动态调度微服务网关方法，其特征在于：所述步骤二中，所述调整动态优先级是基于综合特征和岭回归模型计算动态优先级，具体过程如下：
3.根据权利要求2所述的基于协程的动态调度微服务网关方法，其特征在于：所述步骤二中，基于岭回归的动态优先级计算公式如下：
4.根据权利要求3所述的基于协程的动态调度微服务网关方法，其特征在于：所述步骤三中，所述计算超时阈值的具体过程如下：
5.根据权利要求4所述的基于协程的动态调度微服务网关方法，其特征在于：所述步骤三中计算超时阈值引入的daubechies小波分解具体过程如下：
6.根据权利要求5所述的基于协...
【专利技术属性】
技术研发人员：潘进，蔡夏丰，张清，梁穆清，汪凯，徐泽宇，胡郑斌，
申请(专利权)人：长江证券股份有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。