确定服务器场容量和性能制造技术

一种用于确定服务器场容量的数据处理系统实现：确定指示包括多个虚拟机的服务器场的利用状态的第一操作参数；确定第一操作参数落在执行服务器场的容量测试的第一操作值范围内；对服务器场进行容量测试以通过以下方式来确定容量估计：迭代地将多个虚拟机中的在活动状态下操作的虚拟机配置为在休眠状态下操作，直到第一操作参数达到与第一操作值范围相关联的上限阈值为止，并且监控多个虚拟机的性能；修改服务器场的配置参数以根据容量估计调整可利用计算容量的量；以及基于经更新的配置参数来操作服务器场。参数来操作服务器场。参数来操作服务器场。

【技术实现步骤摘要】
【国外来华专利技术】确定服务器场容量和性能

技术介绍

[0001]服务器场是服务器的逻辑集合，这些服务器协同工作以向服务器场的一个或多个客户或租户提供一项或多项服务。这些服务可以包括支持一个或多个网络(web)应用程序或其他此类服务。服务器场可以包括多个服务器并且每个服务器可以被配置为运行一个或多个虚拟机。每个虚拟机可以向服务器场的特定租户提供服务。与场相关联的服务器的确切数量和服务器提供的虚拟机的数量可以是服务器场的估计容量和租户对该容量的预期需求的一个因素。服务器场提供商通常会提供超出预期容量的过剩计算容量，以便在一个或多个虚拟机遇到问题并需要脱机和/或一个或多个租户的需求激增的情况下无缝地支持租户需求。此外，系统可能尚未经过全面测试以了解系统在高容量下的表现如何，因此与支持此类激增所需的容量相比可能维持的过剩容量。然而，维持这种过剩的计算能力是昂贵的。因此，需要改进的系统和方法来确定服务器场应维持多少过剩容量而不损害由服务器场支持的服务所提供的用户体验。

技术实现思路

[0002]根据本公开的示例数据处理系统可以包括处理器和存储可执行指令的计算机可读介质。指令在执行时使处理器执行操作，包括：确定指示包括多个虚拟机的服务器场的利用状态的第一操作参数；确定所述第一操作参数落在执行所述服务器场的容量测试的第一操作值范围内；对所述服务器场进行容量测试以通过以下方式来确定容量估计：迭代地将所述多个虚拟机中的在活动状态下操作的虚拟机配置为在休眠状态下操作直到所述第一操作参数达到与所述第一操作值范围相关联的上限阈值为止，并且监控所述多个虚拟机的性能；修改所述服务器场的配置参数以基于所述容量估计来调整可利用计算容量的量；以及基于经更新的配置参数来操作所述服务器场。
[0003]在数据处理系统中实现的用于确定服务器场容量的示例方法包括：确定指示包括多个虚拟机的服务器场的利用状态的第一操作参数；确定所述第一操作参数落在执行所述服务器场的容量测试的第一操作值范围内；对所述服务器场进行容量测试以通过以下方式来确定容量估计：迭代地将所述多个虚拟机中的在活动状态下操作的虚拟机配置为在休眠状态下操作直到所述第一操作参数达到与所述第一操作值范围相关联的上限阈值为止，并且监控所述多个虚拟机的性能；修改所述服务器场的配置参数以基于所述容量估计来调整可利用计算容量的量；以及基于经更新的配置参数来操作所述服务器场。
[0004]其上存储有指令的示例计算机可读存储介质。指令在执行时使可编程设备的处理器执行以下功能：确定指示包括多个虚拟机的服务器场的利用状态的第一操作参数；确定所述第一操作参数落在执行所述服务器场的容量测试的第一操作值范围内；对所述服务器场进行容量测试以通过以下方式来确定容量估计：迭代地将所述多个虚拟机中的在活动状态下操作的虚拟机配置为在休眠状态下操作直到所述第一操作参数达到与所述第一操作值范围相关联的上限阈值为止，并且监控所述多个虚拟机的性能；修改所述服务器场的配置参数以基于所述容量估计来调整可利用计算容量的量；以及基于经更新的配置参数来操
作所述服务器场。
[0005]提供本
技术实现思路
是为了以简化形式介绍概念的选择，这些概念将在下面的详细描述中进一步描述。本
技术实现思路
不旨在识别要求保护的主题的关键特征或基本特征，也不旨在用于限制要求保护的主题的范围。此外，要求保护的主题不限于解决本公开的任何部分中提到的任何或所有缺点的实施方案。
附图说明
[0006]附图描绘了根据本教导的一种或多种实施方案，仅作为示例而非限制。在附图中，相同的附图标记表示相同或相似的元件。此外，应当理解，附图不一定按比例绘制。
[0007]图1图示了示例计算环境100，其中可以实现本文所公开的技术。
[0008]图2A
‑
2I示出了来自服务器场的虚拟机可以如何根据本文提供的技术轮换进入和退出服务的示例。
[0009]图3是示出可以如何确定前述示例的服务器场的可用容量330的示图。
[0010]图4A是示出可以如何针对服务器场的每个虚拟机收集健康状况信息的示图。
[0011]图4B是示出可以如何基于存储在数据存储库420中的虚拟机健康状况信息来更新场配置信息的示图。
[0012]图5是示出可由服务器场实现的示例负载平衡器的示图。
[0013]图6是示出场的利用率随时间变化的图的示图。
[0014]图7A和图7B示出了可由轮换管理器实施的两种安全措施的示例。
[0015]图8是用于确定服务器场的容量限制的示例过程的流程图。
[0016]图9是说明示例软件架构的框图，其各个部分可结合本文所述的各种硬件架构使用，其可实现本文所述的任何特征。
[0017]图10是示出示例机器的组件的框图，该示例机器被配置为从机器可读介质读取指令并执行本文描述的任何特征。
具体实施方案
[0018]在下面的详细描述中，通过示例的方式阐述了许多具体细节，以便提供对相关教导的透彻理解。然而，很明显，可以在没有这些细节的情况下实践本教导。在其他情况下，众所周知的方法、程序、组件和/或电路已在相对较高的层次上进行了描述，但没有详细说明，以避免不必要地混淆本教导的各个方面。
[0019]提供了用于解决确定服务器场的实际容量的技术问题的技术。服务器场可以包括许多虚拟机，这些虚拟机保持在活动状态，在活动状态下虚拟机能够处理来自租户的请求。传入的请求可以在这些虚拟机之间分发以平衡每个虚拟机上的负载。预定量的计算容量被预留保留以防一个或多个虚拟机遇到问题并且需要暂时脱机以进行修复，从而使得剩余的虚拟机不会过载。该预留容量(在此也称为“不可利用容量”)通常是估计值，并且可能会预留远多于所需的容量。
[0020]本文提供的技术提供了一种针对通过引入休眠状态来确定服务器场容量的改进估计的技术问题的技术解决方案，其中服务器场的多个虚拟机中的一个或多个虚拟机可以暂时置于该休眠状态。处于休眠状态的虚拟机被维持在就绪和健康状况，其中虚拟机可以
在必要时立即返回到活动状态。负载平衡器将传入的请求分配给剩余的虚拟机，以测试它们在利用率提高的情况下的性能。如果响应此容量测试没有出现问题，则预留的容量可以减少并可供由服务器场使用。然而，如果响应于容量测试确实出现问题，则先前被置于休眠状态的虚拟机可以立即返回到处理来自租户的请求的虚拟机轮换中，以降低服务器场中服务器的利用率。这种方法的一个技术优势是可以测试虚拟机的高利用率而不会对用户体验产生负面影响，因为在容量测试期间检测到性能问题时，处于休眠状态的虚拟机会立即恢复服务。另一个技术优势是服务器场的资源可以更高效地使用，而作为预留容量保留的场容量更少。本文提供的技术的这些和其他技术益处将从以下示例中显而易见。
[0021]图1图示了示例计算环境100，其中可以实现本文所公开的技术。计算环境100可包括基于web的服务提供者110，其可实施本文公开的技术以预测由基于web的服务提供者提供的服务的用户的实际容量需求。计算环境100还可以包括客户端设备105本文档来自技高网...

【技术保护点】

【技术特征摘要】
【国外来华专利技术】1.一种数据处理系统，包括：处理器；以及计算机可读介质，所述计算机可读介质存储可执行指令，以用于使所述处理器执行操作，所述操作包括：确定指示包括多个虚拟机的服务器场的利用状态的第一操作参数；确定所述第一操作参数落在执行对所述服务器场的容量测试的第一操作值范围内；对所述服务器场进行容量测试以通过以下方式来确定容量估计：迭代地将所述多个虚拟机中的在活动状态下操作的虚拟机配置为在休眠状态下操作直到所述第一操作参数达到与所述第一操作值范围相关联的上限阈值为止，并且监控所述多个虚拟机的性能；修改所述服务器场的配置参数以基于所述容量估计来调整可利用计算容量的量；以及基于经更新的配置参数来操作所述服务器场。2.如权利要求1所述的数据处理系统，其中，所述第一操作参数是中央处理单元(CPU)使用参数，其指示由所述多个虚拟机对CPU使用的量。3.如权利要求1所述的数据处理系统，其中，所述第一操作参数是存储器使用参数，其指示所述多个虚拟机正在使用多少存储器。4.如权利要求1所述的数据处理系统，其中，所述第一操作参数是延迟参数，其指示所述多个虚拟机在处理请求时所经历的延迟程度。5.如权利要求1所述的数据处理系统，其中，为了对所述服务器场进行容量测试，所述计算机可读介质包括使所述处理器执行以下操作的指令：检测所述第一操作参数已经超过不可超过阈值；以及响应于检测到所述第一操作参数已经超过不可超过阈值，将被配置为在所述休眠状态下操作的所有虚拟机重新配置为在所述活动状态下操作。6.如权利要求1所述的数据处理系统，其中，为了对所述服务器场进行容量测试，所述计算机可读介质包括使所述处理器执行以下操作的指令：检测导致所述服务器场无法为用户请求提供服务的事件的发生；以及响应于检测到所述事件的发生，将被配置为在所述休眠状态下操作的所有虚拟机重新配置为在所述活动状态下操作。7.如权利要求1所述的数据处理系统，其中，为了对所述服务器场进行容量测试，所述计算机可读介质包括使所述处理器执行以下操作的指令：监控被配置为在所述休眠状态下操作的虚拟机的健康和可利用性；以及响应于检测到影响处于所述休眠状态的虚拟机的健康...

【专利技术属性】
技术研发人员：A，
申请(专利权)人：微软技术许可有限责任公司，
类型：发明
国别省市：