【技术实现步骤摘要】
本专利技术涉及的是一种计算资源配置领域的技术，具体是一种面向动态性特征的微服务应用优化资源管理系统及方法。
技术介绍
1、微服务应用的解耦带来了复杂的微服务应用依赖结构。如图1所示的微服务应用的典型dag结构中每个节点为一个微服务，每个边为微服务之间的调用依赖关系。大多数微服务应用都呈现树状结构，其中每个下游微服务只有一个上游微服务调用它。少数微服务应用程序的少量微服务可能具有大于1的入度。此外，工业界微服务应用通常有多个不同的调用图，如图1(b)和(c)所示。不同的调用图源自不同的用户请求模式，例如，用户在电子商务应用中对综合或最低价格推荐的不同选择。其中，每个调用图只包含整个微服务应用依赖图的一部分，不同的调用图可能拥有相同的微服务。现有面向动态微服务应用的资源管理及快速qos保证存在如下挑战：1)如何根据微服务间的调用关系、顺序等，通过监控负载来提前确定每一个微服务的真实待处理负载，并作出相应提前资源调整；2)选择恰当的资源调整输入指标，来快速感知动态性导致的微服务负载变化，并使用其决策微服务资源分配量；3)对于资源调整过程中的排队请求，如何使用恰当过量资源进行快速清除，在满足qos恢复时间目标的基础上，减少总资源使用。
技术实现思路
1、本专利技术针对现有技术无法快速发现微服务应用的动态性发生、无法准确确定每个微服务的真实待处理负载，以快速做出相应的资源调整决策以及无法快速处理由于微服务动态性造成的请求排队，从而不能快速恢复微服务应用的qos目标的不足，提出一种面向动态性特
2、本专利技术是通过以下技术方案实现的：
3、本专利技术涉及一种面向动态性特征的微服务应用优化资源管理系统，包括：基于网络的负载监控器、感知阻塞的负载更新器和资源高效的请求清空器，当微服务应用出现负载和调用图动态性时，负载监控器根据对于每个微服务的网络监控数据，解析得到网络流量和网络包，通过机器学习中的线性回归技术预测得到监控负载；负载更新器根据监控负载和通过微服务间的调用关系和调用顺序构建的阻塞图，计算每个微服务的真实待处理负载，并为其分配相应资源量；请求清空器根据负载更新器输出的每个微服务的真实负载及当前资源分配信息，计算在剩余qos恢复时间内每个微服务的过量负载，并为每个微服务分配过量资源，实现快速恢复应用的qos目标。
4、本专利技术涉及一种基于上述系统的面向动态性特征的微服务应用优化资源管理方法，包括：
5、1)负载监控器每秒周期性地收集所有微服务的网络指标，使用收集的指标通过线性回归模型预测每个微服务的监控负载大小，并将预测得到的监控负载输出至负载更新器。
6、所述的网络指标包括：网络流量、网络包接收数量。
7、2)负载更新器根据每个微服务的监控负载和当前资源分配情况，按照广度优先搜索的顺序更新负载阻塞图的节点和边的权重，提前获取每个微服务的真实待处理负载，并为其分配相应资源量，减少qos违反时间，具体包括：
8、2.1)负载更新器根据来自微服务应用依赖图的微服务间的调用关系和调用顺序构建微服务应用的负载阻塞图，并初始化图的节点权重和边权重。
9、2.2)负载更新器结合当前每个微服务的资源分配和监控负载，基于构建的负载阻塞图，进行真实待处理负载的提前更新。
10、2.3)负载更新器根据步骤2.2更新的真实负载，通过线性回归技术预测得到每个微服务需要的cpu资源量并相应进行分配。
11、3)请求请空器根据步骤2中负载更新器决策得到的每个微服务的真实负载，并结合每个微服务的请求排队时间、资源不足量，通过排队理论计算每个微服务的总请求排队量，并为每个微服务再次分配过量资源，以在恢复时间目标内恢复应用qos并保证资源效率。
12、技术效果
13、本专利技术通过网络监测快速获取微服务的监控负载大小、基于监控负载、资源分配以及微服务间的阻塞关系，提前更新微服务的真实负载大小并基于真实负载、排队时间及资源不足量，确定需要给微服务分配的过量资源大小以快速恢复微服务应用qos目标，相比现有技术，本专利技术能够更快地恢复应用的qos目标，并保证计算资源分配效率。
本文档来自技高网...【技术保护点】
1.一种面向动态性特征的微服务应用优化资源管理系统，其特征在于，包括：基于网络的负载监控器、感知阻塞的负载更新器和资源高效的请求清空器，当微服务应用出现负载和调用图动态性时，负载监控器根据对于每个微服务的网络监控数据，解析得到网络流量和网络包，通过机器学习中的线性回归技术预测得到监控负载；负载更新器根据监控负载和通过微服务间的调用关系和调用顺序构建的阻塞图，计算每个微服务的真实待处理负载，并为其分配相应资源量；请求清空器根据负载更新器输出的每个微服务的真实负载及当前资源分配信息，计算在剩余QoS恢复时间内每个微服务的过量负载，并为每个微服务分配过量资源，实现快速恢复应用的QoS目标。
2.根据权利要求1所述的面向动态性特征的微服务应用优化资源管理系统，其特征是，所述的负载监控器包括：网络监控单元及监控负载预测单元，其中：网络监控单元根据每个微服务的网络IP及端口信息，定期监控并统计每对微服务间的网络包和网络流量大小，得到每个微服务的上级流入网络带宽以及每秒网络包数量，监控负载预测单元根据网络监控信息，使用线性回归模型进行预测，得到每个微服务的监控负载。
3
4.根据权利要求1所述的面向动态性特征的微服务应用优化资源管理系统，其特征是，所述的请求清空器包括：过量负载计算单元及过量资源预测和分配单元，其中：过量负载计算单元根据剩余QoS恢复时间、微服务资源不足量、请求排队时间信息，进行过量负载计算处理，得到每个微服务的过量负载计算结果，过量资源预测和分配单元根据过量负载信息，使用线性回归模型进行过量资源量预测处理，得到过量资源量结果并相应进行资源分配。
5.一种基于权利要求1-4中任一所述系统的面向动态性特征的微服务应用优化资源管理方法，其特征在于，包括：
6.根据权利要求5所述的面向动态性特征的微服务应用优化资源管理方法是，在初始构建状态下，阻塞图中的节点权重为每个微服务可以支持的负载大小，由其当前状态下的资源分配量通过线性模型进行预测获得，阻塞图中的边权重为微服务间传递的负载大小，由每个微服务支持的负载大小及监测的负载大小根据阻塞关系进行简单计算构建出；
7.根据权利要求5所述的面向动态性特征的微服务应用优化资源管理方法是，所述的构建微服务应用负载阻塞图，具体构建过程为：
8.根据权利要求5所述的面向动态性特征的微服务应用优化资源管理方法是，所述的微服务j的阻塞率为：其中：MonitorLoadi是从基于网络的负载监控器中获取得到，ActualLoadi将由更新机制对于每个微服务更新获得，并在开始时等于MonitorLoadi，HandleLoadi为每个微服务可以处理的负载，其通过使用线性回归模型从其相应的微服务的资源分配中进行预测得到，由于可处理负载可能高于监控负载，阻塞率是真实负载除以可处理负载和监控负载的最小值；此外，在微服务应用出现动态性时，一些微服务的负载可能反而会降低，从而导致阻塞率可能会比1小，在这个时候，本方法将阻塞率视为1；
9.根据权利要求5所述的面向动态性特征的微服务应用优化资源管理方法是，所述的每个微服务的总请求排队量，具体过程为：
10.根据权利要求5所述的面向动态性特征的微服务应用优化资源管理方法是，当QoS违反被消除后，过量分配的资源会被及时回收以确保高资源效率；
...【技术特征摘要】
1.一种面向动态性特征的微服务应用优化资源管理系统，其特征在于，包括：基于网络的负载监控器、感知阻塞的负载更新器和资源高效的请求清空器，当微服务应用出现负载和调用图动态性时，负载监控器根据对于每个微服务的网络监控数据，解析得到网络流量和网络包，通过机器学习中的线性回归技术预测得到监控负载；负载更新器根据监控负载和通过微服务间的调用关系和调用顺序构建的阻塞图，计算每个微服务的真实待处理负载，并为其分配相应资源量；请求清空器根据负载更新器输出的每个微服务的真实负载及当前资源分配信息，计算在剩余qos恢复时间内每个微服务的过量负载，并为每个微服务分配过量资源，实现快速恢复应用的qos目标。
2.根据权利要求1所述的面向动态性特征的微服务应用优化资源管理系统，其特征是，所述的负载监控器包括：网络监控单元及监控负载预测单元，其中：网络监控单元根据每个微服务的网络ip及端口信息，定期监控并统计每对微服务间的网络包和网络流量大小，得到每个微服务的上级流入网络带宽以及每秒网络包数量，监控负载预测单元根据网络监控信息，使用线性回归模型进行预测，得到每个微服务的监控负载。
3.根据权利要求1所述的面向动态性特征的微服务应用优化资源管理系统，其特征是，所述的负载更新器包括：负载阻塞图构建单元、真实负载更新单元以及资源量预测和分配单元，其中：负载阻塞图构建单元根据微服务间的调用关系、调用顺序信息，进行阻塞图的子结构构建并聚合处理，得到微服务应用的负载阻塞图，真实负载更新单元根据负载监控器获取的监控负载、负载阻塞图、微服务的现有资源分配信息，进行按照图的广度优先搜索的微服务阻塞率计算和真实负载更新处理，得到所有微服务的真实负载，资源量预测和分配单元根据真实负载，使用线性回归模型进行每个微服务的所需资源量预测，得到资源量后并进行相应分配。
4.根据权利要求1所述的面向动态性特征的微服务应用优化资源管理系统，其特征是，所述的请求清空器包括：过量负载计算单元及过量资源预测和分配...
【专利技术属性】
技术研发人员：陈全，过敏意，史久琛，仝志欣，张行，
申请(专利权)人：上海交通大学，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。