System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种执行调用请求的方法及装置制造方法及图纸_技高网

一种执行调用请求的方法及装置制造方法及图纸

技术编号:41699349 阅读:2 留言:0更新日期:2024-06-19 12:33
本发明专利技术实施例提供一种执行调用请求的方法及装置,包括:根据函数调用请求中指示的目标函数,确定多个第一函数容器实例对应的总体性能表现;任一第一函数容器实例为运行过目标函数的函数容器实例;总体性能表现用于表征运行过同一函数的多个函数容器实例的整体性能情况;若总体性能表现满足第一预设条件,则从多个第一函数容器实例中选取至少一个资源超卖函数容器实例;将单例性能表现满足第二预设条件的资源超卖函数容器实例,确定为目标函数容器实例;单例性能表现用于表征单个函数容器实例的性能情况;将函数调用请求发送至目标函数容器实例。通过合理的使用资源超卖函数实例来实现在不影响函数性能的前提下降低资源开销成本。

【技术实现步骤摘要】

本专利技术涉及云计算,尤其涉及一种执行调用请求的方法及装置


技术介绍

1、无服务器计算平台是一种快速发展的云应用架构平台。无服务器计算平台不需要用户配置和管理资源,可以根据用户需求自动扩展,大大提高开发效率。管理运营无服务器计算平台的关键是合理调度用户的函数。在无服务器计算平台中,用户的函数一般在容器中运行,这些容器通常被部署在虚拟机服务器中。运行无服务器计算平台的目标是减少计算资源的部署。

2、目前,可以选用资源超卖策略来运营无服务器计算平台。具体来说,根据函数的历史资源使用情况来配置函数,从而可以降低函数的计算资源的部署,提高服务器内函数容器实例的数量,将函数容器实例部署的更加密集,但是这样会导致影响函数的性能表现。

3、综上,如何在满足用户的函数性能的前提下减少计算资源的部署,是当前亟需解决的技术问题。


技术实现思路

1、本专利技术实施例提供一种执行调用请求的方法及装置,用以解决现有技术中在减少计算资源的部署的过程中会影响函数性能的问题。

2、第一方面,本专利技术实施例提供一种执行调用请求的方法,包括:根据函数调用请求中指示的目标函数,确定多个第一函数容器实例对应的总体性能表现;任一第一函数容器实例为运行过目标函数的函数容器实例;总体性能表现用于表征运行过同一函数的多个函数容器实例的整体性能情况;若总体性能表现满足第一预设条件,则从多个第一函数容器实例中选取至少一个资源超卖函数容器实例;将单例性能表现满足第二预设条件的资源超卖函数容器实例,确定为目标函数容器实例;单例性能表现用于表征单个函数容器实例的性能情况;将函数调用请求发送至目标函数容器实例。

3、上述技术方案中,函数容器实例分为两种类型,分别是资源超卖函数容器实例和非资源超卖函数容器实例。若第一函数容器实例对应的总体性能表现满足第一预设条件,则说明第一函数容器实例对应的总体性能表现较好,可以选择资源超卖函数容器实例来降低资源开销成本。若第一函数容器实例对应的总体性能表现不满足第一预设条件,为了实现不影响函数性能表现,则可以选择非资源超卖函数容器实例来满足用户对函数的性能表现要求。因此,通过合理的使用资源超卖函数实例来实现在不影响函数性能的前提下降低资源开销成本。

4、可选的,还包括:若总体性能表现不满足第一预设条件,则从多个第一函数容器实例中选取至少一个非资源超卖函数容器实例,作为目标函数容器实例;将函数调用请求发送至目标函数容器实例。

5、上述技术方案中,无服务器计算平台将函数调用请求路由到非资源超卖函数容器实例去执行,则无服务器计算平台会根据用户预先设定的资源配置来配置函数,从而可以满足用户对函数的性能表现要求。

6、可选的,根据函数调用请求中指示的目标函数,确定多个第一函数容器实例对应的总体性能表现,包括:根据函数调用请求中指示的目标函数,获取预设历史时段内运行过目标函数的多个第一函数容器实例的历史性能数据;根据多个第一函数容器实例的历史性能数据,确定多个第一函数容器实例对应的总体性能表现。

7、上述技术方案中,机器学习模块通过获取预设历史时段内运行过目标函数的多个第一函数容器实例的历史性能数据,可以确定多个第一函数容器实例对应的总体性能表现,从而便于后续根据多个第一函数容器实例对应的总体性能表现确定目标函数容器实例。

8、可选的,任一资源超卖函数容器实例的单例性能表现是通过以下方式确定:每间隔预设时段,获取任一资源超卖函数容器实例在预设时段内的运行指标数据;将运行指标数据输入至机器学习模块,得到任一资源超卖函数容器实例最新的单例性能表现。

9、上述技术方案中,通过周期性的更新资源超卖函数容器实例的单例性能表现,从而可以实现资源超卖函数容器实例可以快速的获取单例性能表现,不会影响后续确定目标函数容器实例的速度。

10、可选的,运行指标数据包括容器内指标数据和容器间指标数据;其中,容器内指标数据包括cpu利用率、内存利用率和并发请求数;容器间指标数据包括cpu争夺信息和网络读写状况。

11、可选的,网络读写状况包括容器内接收字节数、容器内发送字节数、所在服务器内接收字节数、所在服务器内发送字节数;cpu争夺信息包括容器内最后一级缓存遗漏和所在服务器最后一级缓存遗漏。

12、可选的,机器学习模块包括中继单元和机器学习模型;中继单元用于收集任一资源超卖函数容器实例在预设时段内的n个运行指标数据;中继单元还用于向机器学习模型发送推理请求,推理请求包括任一资源超卖函数容器实例的n个运行指标数据;机器学习模型根据推理请求,得到任一资源超卖函数容器实例最新的单例性能表现。

13、可选的,将单例性能表现满足第二预设条件的资源超卖函数容器实例,确定为目标函数容器实例,包括:从单例性能表现满足第二预设条件的资源超卖函数容器实例中确定最近一次被调用的资源超卖函数容器实例为目标函数容器实例;从多个第一函数容器实例中选取至少一个非资源超卖函数容器实例,作为目标函数容器实例,包括:从多个第一函数容器实例中选取最近一次被调用的非资源超卖函数容器实例,作为目标函数容器实例。

14、可选的,机器学习模型通过以下方式训练:针对任一资源超卖函数容器实例,获取资源超卖函数容器实例在预设时段内的m个运行指标数据和对应的m个运行结果;根据在线分层采样算法,从m个运行结果中随机采样n/2个负结果和n/2个正结果;m大于n;将n/2个负结果及对应的运行指标数据、n/2个正结果及对应的运行指标数据作为训练数据,输入至机器学习模型进行训练;机器学习模型为随机森林模型。

15、上述技术方案中,通过使用在线数据对机器学习模型进行训练,使机器学习模型能够随着用户的在线调用进行更新。从而可以实现及时根据系统的运行状况做出反应。

16、第二方面,本专利技术实施例提供一种执行调用请求的装置,包括:获取单元,用于根据函数调用请求中指示的目标函数,确定多个第一函数容器实例对应的总体性能表现;任一第一函数容器实例为运行过目标函数的函数容器实例;总体性能表现用于表征运行过同一函数的多个函数容器实例的整体性能情况;处理单元,用于若总体性能表现满足第一预设条件,则从多个第一函数容器实例中选取至少一个资源超卖函数容器实例;将单例性能表现满足第二预设条件的资源超卖函数容器实例,确定为目标函数容器实例;单例性能表现用于表征单个函数容器实例的性能情况;将函数调用请求发送至目标函数容器实例。

17、可选的,处理单元还用于:若总体性能表现不满足第一预设条件,则从多个第一函数容器实例中选取至少一个非资源超卖函数容器实例,作为目标函数容器实例;将函数调用请求发送至目标函数容器实例。

18、可选的,获取单元具体用于:根据函数调用请求中指示的目标函数,获取预设历史时段内运行过目标函数的多个第一函数容器实例的历史性能数据;根据多个第一函数容器实例的历史性能数据,确定多个第一函数容器实例对应的总体性能表现。

19、可本文档来自技高网...

【技术保护点】

1.一种执行调用请求的方法,其特征在于,包括:

2.如权利要求1所述的方法,其特征在于,还包括:

3.如权利要求1所述的方法,其特征在于,所述根据函数调用请求中指示的目标函数,确定多个第一函数容器实例对应的总体性能表现,包括:

4.如权利要求1至3任一项所述的方法,其特征在于,任一资源超卖函数容器实例的单例性能表现是通过以下方式确定:

5.如权利要求4所述的方法,其特征在于,所述运行指标数据包括容器内指标数据和容器间指标数据;其中,所述容器内指标数据包括CPU利用率、内存利用率和并发请求数;所述容器间指标数据包括CPU争夺信息和网络读写状况。

6.如权利要求5所述的方法,其特征在于,所述网络读写状况包括容器内接收字节数、容器内发送字节数、所在服务器内接收字节数、所在服务器内发送字节数;

7.如权利要求4所述的方法,其特征在于,所述机器学习模块包括中继单元和机器学习模型;

8.如权利要求4所述的方法,其特征在于,所述将单例性能表现满足第二预设条件的资源超卖函数容器实例,确定为目标函数容器实例,包括:

9.如权利要求7所述的方法,其特征在于,所述机器学习模型通过以下方式训练:

10.一种执行调用请求的装置,其特征在于,包括:

...

【技术特征摘要】

1.一种执行调用请求的方法,其特征在于,包括:

2.如权利要求1所述的方法,其特征在于,还包括:

3.如权利要求1所述的方法,其特征在于,所述根据函数调用请求中指示的目标函数,确定多个第一函数容器实例对应的总体性能表现,包括:

4.如权利要求1至3任一项所述的方法,其特征在于,任一资源超卖函数容器实例的单例性能表现是通过以下方式确定:

5.如权利要求4所述的方法,其特征在于,所述运行指标数据包括容器内指标数据和容器间指标数据;其中,所述容器内指标数据包括cpu利用率、内存利用率和并发请求数;所述容器间指标数据包括cpu...

【专利技术属性】
技术研发人员:李苏毅王威陈广镇杨军卢道和李成博黄润良李俊彬
申请(专利权)人:深圳前海微众银行股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1