一种可扩展负载均衡系统和方法技术方案

本发明专利技术提供一种可扩展负载均衡系统，包括负载均衡服务器和与所述负载均衡服务器互联的多个应用服务器，所述负载均衡服务器用于接收业务请求并提取业务请求所对应的应用标识，根据当前的应用标识到应用服务器的映射表将业务请求转发到相应的应用服务器，同时接收应用服务器反馈的资源使用信息并更新所述应用标识到应用服务器的映射表；所述应用服务器则用于接收和处理从负载均衡服务器转发而来的业务请求，以及实时收集本应用服务器的资源使用信息，并将其反馈到负载均衡服务器。本发明专利技术能够支持细粒度的资源调度，有助于充分利用各服务器的处理能力。

【技术实现步骤摘要】

本专利技术涉及移动互联网和云计算平台
，具体地说，本专利技术涉及。
技术介绍
目前，随着业务量的提高，WEB访问量和数据流量的快速增长，移动互联网络和云计算网络的各个核心部分所需的处理能力和计算强度也相应地增大，使得单一的服务器设备难以承担这种不断增长的任务需求。在此情况下，如果扔掉现有设备去做大量的硬件升级，将造成现有资源的浪费，而且如果再面临下一次业务量的提升时，这又将导致再一次硬件升级的高额成本投入，甚至性能再卓越的设备也不能满足当前业务量增长的需求。而网络负载均衡技术提供了一种廉价、有效、和透明的方法来扩展网络设备和服务器的带宽、增加吞吐量和加强网络数据处理能力，从而提高整个网络的灵活性和可用性。传统负载均衡技术包含两个方面的含义:一方面，是将单个重负载任务分担到多个节点设备上做并行处理，结束后，再将结果汇总，返回给用户；另一方面，是将大量的并发访问或数据流量分担到多台节点设备上分别处理，以减少用户等待响应的时间。后者主要针对Web服务器、FTP服务器、企业关键应用服务器等网络应用。图1示出了一个典型的传统负载均衡方案的架构图。以常见的HTTP请求为例，业务处理的最前端是反向代理服务器。反向代理服务器将请求转发到适当的服务器，如邮件服务器、Web服务器以及流媒体服务器等。在这种方案中，每一台服务器只提供相对固定的服务，例如，图1中Web服务器I只负责处理站点I的请求，Web服务器2只负责处理站点B的请求。在移动互联网或云计算环境下，前端系统往往需要响应海量的小应用请求，这些应用在不同时期的访问量不同，甚至在同一天的不同时间段也具有不同的访问量。而现有的负载均衡方案使用应用服务器为单元进行资源调度，且每台应用服务器只能运行相对固定的应用，这种负载均衡方案应用到移动互联网或云计算环境下时，显然无法充分利用各服务器的处理能力。
技术实现思路
因此，本专利技术的目的是克服现有技术的不足，提供一种能够充分利用各服务器的处理能力的负载均衡解决方案。本专利技术提供了一种可扩展负载均衡系统，包括负载均衡服务器和与所述负载均衡服务器互联的多个应用服务器，所述负载均衡服务器用于接收业务请求并提取业务请求所对应的应用标识，根据当前的应用标识到应用服务器的映射表将业务请求转发到相应的应用服务器，同时接收应用服务器反馈的资源使用信息并更新所述应用标识到应用服务器的映射表；所述应用服务器则用于接收和处理从负载均衡服务器转发而来的业务请求，以及实时收集本应用服务器的资源使用信息，并将其反馈到负载均衡服务器。其中，所述负载均衡服务器还用于根据各应用服务器的资源使用信息，向各应用服务器发出迁移应用的指令，所述应用服务器还用于接收负载均衡服务器的迁移应用的指令，终止正在运行的应用程序或者启动并初始化新的应用程序。其中，所述业务请求为HTTP请求，所述负载均衡服务器从所述HTTP请求的独立域名、子域名或者子目录中提取相应的应用标识。本专利技术还提供了一种基于上述可扩展负载均衡系统的负载均衡方法，包括下列步骤:I)负载均衡服务器接收业务请求并提取业务请求所对应的应用标识，根据当前的应用标识到应用服务器的映射表将业务请求转发到相应的应用服务器；2)应用服务器接收和处理从负载均衡服务器转发而来的业务请求；3)应用服务器实时收集本应用服务器的资源使用信息并将其反馈到负载均衡服务器；4)负载均衡服务器接收应用服务器反馈的资源使用信息并更新所述应用标识到应用服务器的映射表。其中，所述步骤I)还包括:负载均衡服务器根据当前的应用标识到应用服务器的映射表中的各应用服务器对于相应应用标识的权重值，利用加权轮询算法将业务请求转发到应用服务器；所述步骤4)还包括，负载均衡服务器根据应用服务器反馈的资源使用信息，在应用标识到应用服务器的映射表中赋予或更新各应用服务器对于相应应用标识的权重值。其中，所述负载均衡方法还包括步骤:5)当一个应用服务器A的资源使用率超过预先设定的上限时，负载均衡服务器将该应用服务器A正在运行的一个或多个应用迁移到其它空闲的应用服务器上，以使各应用服务器负载的资源使用率保持在预先设定的平衡值附近。其中，所述步骤5)中，所述空闲的应用服务器是当前负载值小于平衡值的应用服务器。其中，所述负载均衡方法还包括步骤:6)当一个应用服务器B的资源使用率低于预先设定的下限时，负载均衡服务器将该应用服务器B正在运行的所有应用迁移到其它空闲的应用服务器上，然后使所述应用服务器B休眠。其中，对于某一待迁移应用，优选已运行该应用且服务器负载小于平衡值的其它应用服务器作为迁移目标，当已运行该应用的其它应用服务器的负载均超过平衡值时，选择未运行该待迁移应用、且其服务器负载小于平衡值的应用服务器作为迁移目标。与现有技术相比，本专利技术具有下列技术效果:1、本专利技术能够支持细粒度的资源调度，有助于充分利用各服务器的处理能力。2、本专利技术能够在不降低服务质量的前提下，最大化利用应用服务器的处理能力。3、本专利技术能够在不降低服务质量的前提下，自动调整活跃的应用服务器的数量，使得活跃的应用服务器的数量最少。4、本专利技术特别适合于支持移动互联网或云计算环境下的海量应用部署。【附图说明】以下，结合附图来详细说明本专利技术的实施例，其中:图1不出了一种典型的传统负载均衡方案的架构图；图2示出了本专利技术一个实施例的负载均衡系统的构架图；图3示出了本专利技术一个实施例中从HTTP请求中提取应用ID的流程图；图4不出了本专利技术一个实施例的负载均衡系统的一个前端处理时序图；图5示出了本专利技术一个实施例的负载均衡系统的另一个前端处理时序图；图6示出了本专利技术一个实施例中的资源分裂操作的流程图；图7示出了本专利技术一个实施例中的资源合并操作的流程图。【具体实施方式】图2示出了本专利技术一个实施例的负载均衡系统的构架图，该负载均衡系统包括负载均衡服务器和与所述负载均衡服务器互联的多个应用服务器(应用服务器可以为大于I的任意数目)，应用服务器还可以与数据库服务器连接，以用于处理某些需要数据库支持的业务请求。其中，负载均衡服务器主要负责提取出业务请求所对应的应用ID，并将业务请求转发到相应的应用服务器，同时接收应用服务器提交的资源使用反馈信息，根据应用服务器的资源使用反馈信息，动态调整转发策略；资源使用反馈信息包括:处理器、内存的使用率。应用服务器则负责接收从负载均衡服务器转发而来的业务请求，将业务请求转发到相应的应用进程或者线程，并将响应信息直接返回到客户端，同时，实时收集本应用服务器的资源使用信息，并将资源使用信息反馈到负载均衡服务器以便进行资源调度，应用服务器还可接收负载均衡服务器的指令，终止正在运行的应用程序或者启动并初始化新的应用程序。为叙述方便，下文以HTTP请求为例进行说明，但本领域技术人员易于理解，相应处理步骤和策略均不限于该实例中所描述的网络协议。本实施例的负载均衡系统不仅可应用于基于HTTP协议的WEB服务，也适用于FTP、流媒体、Email等网络业务。只要业务请求当中包含主机、域名信息，且应用服务器支持负载信息反馈和进程管理，原则上便可加入本实施例的负载均衡系统，因此本专利技术具有很强的可扩展性。参考图2，负载均衡系统包括负载均衡服务器Stl、应用服务器Svl?Sv4，应用服务器Svl?Sv4本文档来自技高网...

【技术保护点】
一种可扩展负载均衡系统，包括负载均衡服务器和与所述负载均衡服务器互联的多个应用服务器，所述负载均衡服务器用于接收业务请求并提取业务请求所对应的应用标识，根据当前的应用标识到应用服务器的映射表将业务请求转发到相应的应用服务器，同时接收应用服务器反馈的资源使用信息并更新所述应用标识到应用服务器的映射表；所述应用服务器则用于接收和处理从负载均衡服务器转发而来的业务请求，以及实时收集本应用服务器的资源使用信息，并将其反馈到负载均衡服务器。

【技术特征摘要】
1.一种可扩展负载均衡系统，包括负载均衡服务器和与所述负载均衡服务器互联的多个应用服务器，所述负载均衡服务器用于接收业务请求并提取业务请求所对应的应用标识，根据当前的应用标识到应用服务器的映射表将业务请求转发到相应的应用服务器，同时接收应用服务器反馈的资源使用信息并更新所述应用标识到应用服务器的映射表；所述应用服务器则用于接收和处理从负载均衡服务器转发而来的业务请求，以及实时收集本应用服务器的资源使用信息，并将其反馈到负载均衡服务器。2.根据权利要求1所述的可扩展负载均衡系统，其特征在于，所述负载均衡服务器还用于根据各应用服务器的资源使用信息，向各应用服务器发出迁移应用的指令，所述应用服务器还用于接收负载均衡服务器的迁移应用的指令，终止正在运行的应用程序或者启动并初始化新的应用程序。3.根据权利要求1或2所述的可扩展负载均衡系统，其特征在于，所述业务请求为HTTP请求，所述负载均衡 服务器从所述HTTP请求的独立域名、子域名或者子目录中提取相应的应用标识。4.一种基于权利要求1所述的可扩展负载均衡系统的负载均衡方法，包括下列步骤: 1)负载均衡服务器接收业务请求并提取业务请求所对应的应用标识，根据当前的应用标识到应用服务器的映射表将业务请求转发到相应的应用服务器； 2)应用服务器接收和处理从负载均衡服务器转发而来的业务请求； 3)应用服务器实时收集本应用服务器的资源使用信息并将其反馈到负载均衡服务器； 4)负载均衡服务器接收应用服务器反馈的资源使用信息...

【专利技术属性】
技术研发人员：李彦君，张国清，谢健清，
申请(专利权)人：中国科学院计算技术研究所，
类型：发明
国别省市：北京;11