一种基于预测信息的在线缓存调度方法及装置制造方法及图纸

本发明专利技术所提供的一种基于预测信息的在线缓存调度方法及装置，所述方法包括：当接收到对目标数据的第一请求时，获得所述第一请求的请求时刻；更新所在服务器集群在所述请求时刻下的调度成本信息，并获取对目标数据的第二请求对应的预测到来时间；根据所述调度成本信息和所述预测到来时间估算运行预设预测调度算法的最坏竞争比；若所述最坏竞争比小于或等于预设阈值，则运行所述预设预测调度算法，得到最优调度决策。本发明专利技术利用预测的每个请求的下一次到来时间得到最坏竞争比，在最坏竞争比小于或等于预设阈值时，可以由预设预测调度算法计算出最优的调度决策，实现了较低的调度成本。本。本。

【技术实现步骤摘要】
一种基于预测信息的在线缓存调度方法及装置


[0001]本专利技术涉及缓存调度
，尤其涉及的是一种基于预测信息的在线缓存调度方法及装置。

技术介绍

[0002]当前社会移动数据服务越来越广泛，且数据量越来越庞大，从而移动网络的体量也越来越大，因此数据服务也越来越重要。当前最广泛使用的数据传递网络是Content Delivery Network(CDN)，它维护一个缓存服务器集群，对于客户端请求，经过一定的算法计算得到最优的缓存服务器来进行服务，以求尽可能低的总成本。但是当前CDN服务中的服务器集群的拓扑结构过于集中化以至于不能满足一些关键服务，并且随着越来越多的应用部署，CDN需要扩张更多的缓存资源来增强服务。为满足这些要求，对传统CDN的扩展不仅需要增强可达性，而且要兼顾服务效率，即服务时延。
[0003]当前，边缘计算越来越流行，由于边缘网络更靠近用户，如果用边缘网络来做CDN的扩展，便可以提供更快且适应性高的数据服务给用户，即基于边缘计算的CDN。在这样的CDN架构下，数据缓存架构是基于TTL的，因此设计一个低服务成本和传输成本的缓存结构是非常有必要的，即不仅要降低总的数据传输的成本，也要降低总的服务成本。而这个问题就是CDN的缓存调度问题，它对基于边缘计算的CDN网络是非常重要的。
[0004]然而，目前针对CDN的缓存调度问题，调度决策依然达不到最低的调度成本。
[0005]因此，现有技术存在缺陷，有待改进与发展。

技术实现思路

[0006]本专利技术要解决的技术问题在于，针对现有技术的上述缺陷，提供一种基于预测信息的在线缓存调度方法及装置，旨在解决现有技术中针对CDN的缓存调度问题，调度决策依然达不到较低的调度成本的问题。
[0007]本专利技术解决技术问题所采用的技术方案如下：
[0008]一种基于预测信息的在线缓存调度方法，所述方法包括：
[0009]当接收到对目标数据的第一请求时，获得所述第一请求的请求时刻；
[0010]更新所在服务器集群在所述请求时刻下的调度成本信息，并获取对目标数据的第二请求对应的预测到来时间；
[0011]根据所述调度成本信息和所述预测到来时间估算运行预设预测调度算法的最坏竞争比；
[0012]若所述最坏竞争比小于或等于预设阈值，则运行所述预设预测调度算法，得到最优调度决策。
[0013]可选地，所述第一请求包括请求的目标服务器和请求时刻，所述预测到来时间由预测器对目标服务器上第二请求的到来时刻进行预测得到。
[0014]可选地，根据所述调度成本信息和所述预测到来时间估算运行预设预测调度算法
的最坏竞争比，包括：
[0015]根据所述预测到来时间得到所述第二请求的实际到来时间所处的时刻阈值范围，所述时刻阈值范围包括：第一时刻阈值范围、第二时刻阈值范围和第三时刻阈值范围；
[0016]估算所述实际到来时间处于所述第一时刻阈值范围时运行预设预测调度算法的第一竞争比；
[0017]估算所述实际到来时间处于所述第二时刻阈值范围时运行预设预测调度算法的第二竞争比；
[0018]估算所述实际到来时间处于所述第三时刻阈值范围时运行预设预测调度算法的第三竞争比；
[0019]将所述第一竞争比、所述第二竞争比和所述第三竞争比中的最大值作为最坏竞争比；
[0020]其中，所述第一时刻阈值范围为所述请求时刻至所述预测到来时间之间的时刻；所述第二时刻阈值范围为所述预测到来时间至常量时刻之间的时刻，所述常量时刻由所述预测到来时间与常量时长之和得到，所述常量时长为预先计算得到，存储所述常量时长的目标数据所需的存储成本等于服务器间的传输成本；所述第三时刻阈值范围为大于所述常量时刻。
[0021]可选地，根据所述调度成本信息和所述预测到来时间估算运行预设预测调度算法的最坏竞争比之后，还包括：
[0022]若所述最坏竞争比大于预设阈值，则运行预设反应式缓存算法。
[0023]可选地，所述调度成本信息包括：运行所述预设反应式缓存算法所产生的第一总调度成本、运行所述预设预测调度算法所产生的第二总调度成本，以及OPT算法所产生的调度成本下界。
[0024]可选地，所述预设预测调度算法包括：第一条件下的第一子条件调度策略和第二子条件调度策略，及第二条件下的第三子条件调度策略、第四子条件调度策略和第五子条件调度策略；
[0025]所述第一条件为：在所述请求时刻下，数据存活服务器数量大于1，所述数据存活服务器数量为所在服务器集群中当前缓存有所述目标数据的服务器数量；
[0026]所述第一子条件调度策略的运行步骤包括：
[0027]若所述预测到来时间处于预设第一时长范围，则缓存所述目标数据直至达到所述预测到来时间，所述预设第一时间范围为所述请求时刻至所述常量时刻之间的时间；
[0028]确定所述预测到来时间下的数据存活服务器数量；
[0029]若当前数据存活服务器数量大于1，则删除所述目标数据，并更新所述数据存活服务器数量；
[0030]若当前数据存活服务器数量等于1，则确定当前服务器对应的缓存成本编号，所述缓存成本编号是所在服务器集群中的服务器按照缓存成本由小到大的顺序进行排序后得到；
[0031]若当前服务器对应的缓存成本编号为第一个编号，则执行所述第三子条件调度策略；
[0032]若当前服务器对应的缓存成本编号不为第一个编号，则执行所述第四子条件调度
策略；
[0033]所述第二子条件调度策略的运行步骤包括：
[0034]若所述预测到来时间处于预设第二时长范围，则删除所述目标数据，并更新所述第二数值；所述预设第二时间范围为大于所述常量时刻的时间。
[0035]可选地，所述第二条件为：在所述请求时刻下，数据存活服务器数量等于1；
[0036]所述第三子条件调度策略的运行步骤包括：
[0037]若当前服务器对应的缓存成本编号为第一个编号，则缓存所述目标数据直至达到所述第二请求的实际到来时间；
[0038]所述第四子条件调度策略的运行步骤包括：
[0039]若当前服务器对应的缓存成本编号不为第一个编号，且所述预测到来时间处于预设第三时长范围，则缓存所述目标数据直至达到所述预测到来时间，同时实时监测所述数据存活服务器数量；
[0040]若当前时刻处于所述请求时刻和所述预测到来时间之间，且所述数据存活服务器数量更新为大于1的数值，则将当前时刻作为新的请求时刻，执行所述第一条件下的第一子条件调度策略和第二子条件调度策略；
[0041]若所述数据存活服务器数量没有变化，则缓存所述目标数据直至达到所述预测到来时间，并确定所述预测到来时间下的数据存活服务器数量；
[0042]若所述预测到来时间下的数据存活服务器数量大于1，则在达到所述预测到来时间时删除所述目标数据，并更新所述数据存活服务器数量；
[0043]若所述预测到来时间本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于预测信息的在线缓存调度方法，其特征在于，所述方法包括：当接收到对目标数据的第一请求时，获得所述第一请求的请求时刻；更新所在服务器集群在所述请求时刻下的调度成本信息，并获取对目标数据的第二请求对应的预测到来时间；根据所述调度成本信息和所述预测到来时间估算运行预设预测调度算法的最坏竞争比；若所述最坏竞争比小于或等于预设阈值，则运行所述预设预测调度算法，得到最优调度决策。2.根据权利要求1所述的基于预测信息的在线缓存调度方法，其特征在于，所述第一请求包括请求的目标服务器和请求时刻，所述预测到来时间由预测器对目标服务器上第二请求的到来时刻进行预测得到。3.根据权利要求1所述的基于预测信息的在线缓存调度方法，其特征在于，根据所述调度成本信息和所述预测到来时间估算运行预设预测调度算法的最坏竞争比，包括：根据所述预测到来时间得到所述第二请求的实际到来时间所处的时刻阈值范围，所述时刻阈值范围包括：第一时刻阈值范围、第二时刻阈值范围和第三时刻阈值范围；估算所述实际到来时间处于所述第一时刻阈值范围时运行预设预测调度算法的第一竞争比；估算所述实际到来时间处于所述第二时刻阈值范围时运行预设预测调度算法的第二竞争比；估算所述实际到来时间处于所述第三时刻阈值范围时运行预设预测调度算法的第三竞争比；将所述第一竞争比、所述第二竞争比和所述第三竞争比中的最大值作为最坏竞争比；其中，所述第一时刻阈值范围为所述请求时刻至所述预测到来时间之间的时刻；所述第二时刻阈值范围为所述预测到来时间至常量时刻之间的时刻，所述常量时刻由所述预测到来时间与常量时长之和得到，所述常量时长为预先计算得到，存储所述常量时长的目标数据所需的存储成本等于服务器间的传输成本；所述第三时刻阈值范围为大于所述常量时刻。4.根据权利要求1所述的基于预测信息的在线缓存调度方法，其特征在于，根据所述调度成本信息和所述预测到来时间估算运行预设预测调度算法的最坏竞争比之后，还包括：若所述最坏竞争比大于预设阈值，则运行预设反应式缓存算法。5.根据权利要求4所述的基于预测信息的在线缓存调度方法，其特征在于，所述调度成本信息包括：运行所述预设反应式缓存算法所产生的第一总调度成本、运行所述预设预测调度算法所产生的第二总调度成本，以及OPT算法所产生的调度成本下界。6.根据权利要求3所述的基于预测信息的在线缓存调度方法，其特征在于，所述预设预测调度算法包括：第一条件下的第一子条件调度策略和第二子条件调度策略，及第二条件下的第三子条件调度策略、第四子条件调度策略和第五子条件调度策略；所述第一条件为：在所述请求时刻下，数据存活服务器数量大于1，所述数据存活服务器数量为所在服务器集群中当前缓存有所述目标数据的服务器数量；所述第一子条件调度策略的运行步骤包括：
若所述预测到来时间处于预设第一时长范围，则缓存所述目标数据直至达到所述预测到来时间，所述预设第一时间范围为所述请求时刻至所述常量时刻之间的时间；确定所述预测到来时间下的数据存活服务器数量；若当前数据存活服务器数量大于1，则删除所述目标数据，并更新所述数据存活服务器数量；若当前数据存活服务器数量等于1，则确定当前服务器对应的缓存成本编号，...

【专利技术属性】
技术研发人员：张涌，张靖昆，
申请(专利权)人：中国科学院深圳先进技术研究院，
类型：发明
国别省市：