数据处理方法、缓存节点、协作控制器及系统技术方案

技术编号:6594771 阅读:192 留言:0更新日期:2012-04-11 18:40
本发明专利技术公开了一种数据处理方法,基于数据缓存的缓存节点群组,所述群组中任一缓存节点包括:用于对本地客户端访问的数据进行保存的本地替换空间及用于对非本地客户端访问的数据内容进行保存的协作替换空间,通过所述数据处理方法对缓存节点本地替换空间和协作替换空间中存储的数据内容进行处理,使客户端在访问缓存节点的过程中对数据的获取更加准确直接,满足了缓存节点本地优化的不同需求。同时各个缓存节点的构造一致,当某一客户端访问本地缓存节点未能查找到所需的数据内容时,可通过数据协作访问其它客户端的缓存节点获取所需数据,在保证了缓存节点群组中全局数据缓存的基础上,对单个缓存节点的数据获取进行了优化。

【技术实现步骤摘要】
【国外来华专利技术】
本申请涉及网络通信领域,特别是涉及一种数据处理方法、缓存节点、协作控制器及系统
技术介绍
随着宽带接入的普及以及基于流媒体的宽带应用的迅速发展,CDN被发现是一种能够有效缓解流媒体传输的高吞吐率对骨干网络带来的压力,同时提升流媒体服务质量的有效手段。因此,近年来,CDN得到越来越多的重视,并在国内外得到广泛的部署,而流媒体内容也取代Web内容成为CDN的主要承载对象。⑶N的核心思想是将数据内容从中心网络推到边缘靠近用户的地方,这样,不但有效提高了用户访问内容的性能,而且有效减轻了中心设备和骨干网络的压力,通过⑶N可以将内容从原来的单一中心结构变为分布式的结构。单个CDN服务器相当于一个缓存节点,其缓存和服务能力有限,因此需要建立一个由多个CDN服务器组成的缓存节点群组通过协同缓存的方式进行协同工作,充分利用各个CDN服务器彼此的缓存空间提高命中率、分散热点数据、均衡各服务器负载,避免单点出错和解决瓶颈问题。现有的CDN缓存节点,其内部的单一存储空间即存储用于本地访问的本地数据内容又存储用于非本地访问的协作数据内容,且在参与协作的过程中,只考虑协作的全局目标,参与协作的CDN缓存节点完全对等,忽略了缓存的本地优化的不同需求。
技术实现思路
为解决上述技术问题,本申请实施例提供一种数据处理方法、缓存节点、协作控制器及系统,综合协作的全局及单个缓存节点,有效的对参与的协作的数据进行处理。技术方案如下一种数据处理方法,基于数据缓存的缓存节点群组,所述群组中任一缓存节点包括用于对本地客户端访问的数据进行保存的本地替换空间及用于对非本地客户端访问的数据内容进行保存的协作替换空间;所述方法包括接收客户端数据请求的被访问缓存节点对与所述数据请求相对应的数据内容进行查找;当在所述被访问缓存节点的本地替换空间中未查找到所述数据内容时,查询预设数据内容目录列表;所述数据内容目录列表中设置有数据内容与其对应缓存节点的对应关系;依据所述对应关系将所述缓存节点群组中的其它缓存节点中包含所述数据内容的缓存节点作为目标缓存节点;从所述目标缓存节点的协作替换空间中获取所述数据内容并将所述数据内容保存至所述被访问缓存节点的本地替换空间。一种缓存节点,应用于数据缓存的缓存节点群组中,包括控制模块、本地替换空间和协作替换空间;其中所述本地替换空间用于对本地客户端访问的数据进行保存;所述协作替换空间用于对非本地客户端访问的数据内容进行保存;所述控制模块用于接收客户端发送的数据请求,并在所述本地替换空间中查找与所述数据请求相对应的的数据内容;当在所述本地替换空间中未查找到所述数据内容时, 查询数据内容目录列表中设置的数据内容与其对应缓存节点的对应关系,依据所述对应关系将所述缓存节点群组中的其它缓存节点中包含所述数据内容的缓存节点作为目标缓存节点;从所述目标缓存节点的协作替换空间中获取所述数据内容并将所述数据内容保存至所述本地替换空间中。一种数据处理方法,基于数据缓存的缓存节点群组,所述群组中任一缓存节点包括用于对本地客户端访问的数据进行保存的本地替换空间及用于对非本地客户端访问的数据内容进行保存的协作替换空间;所述方法包括获取缓存节点群组中各个缓存节点所在拓扑链路的链路利用率;依据所述链路利用率对各个缓存节点在所述缓存节点群组中参与协作的比例进行调整。一种协作控制器,包括获取模块,用于获取缓存节点群组中各个缓存节点所在拓扑链路的链路利用率;调整模块,用于依据所述获取模块获取的链路利用率对各个缓存节点在所述缓存节点群组中参与协作的比例进行调整。一种数据处理系统,包括由缓存节点组成的缓存节点群组及一种协作控制器。由以上本申请实施例提供的技术方案可见,本专利技术提供的一种数据处理方法及执行所述方法的缓存节点、协作控制器及数据处理系统,基于数据缓存的缓存节点群组,所述群组中的任意缓存节点包括用于对本地客户端访问的数据进行保存的本地替换空间及用于对非本地客户端访问的数据内容进行保存的协作替换空间,以上两种存储空间分别存储本地及非本地不同客户端所要访问的数据内容,使缓存节点的内部存储空间细分化,客户端在访问缓存节点的过程中对数据的获取更加准确直接,满足了缓存节点本地优化的不同需求。各个缓存节点的构造一致,当某一客户端访问本地缓存节点未能查找到所需的数据内容时,可通过数据协作访问其它客户端的缓存节点获取所需数据,在保证了缓存节点群组中全局数据缓存的基础上,对单个缓存节点的数据获取进行了优化。同时,当所述缓存节点的存储空间到达某一阈值,如存储空间已满等情况时,对于缓存节点获取的将要存储到本地替换空间或协作替换空间中的内容执行替换操作,将本地替换空间或协作替换空间中被访问频率最低的数据内容替换为获取的数据内容,保证了客户端对所需数据内容进行获取的顺畅性与及时性。另外,为了保证数据内容的可重复使用及节约链路资源,还包括将从缓存节点的某一替换空间替换出的数据内容在满足某一条件的基础上加入到另一替换空间的过程,是各个缓存节点的空间利用率在最大程度上得到利用。在上述方法的执行过程中,当某一缓存节点所在链路的链路利用率偏高超过某一预设阈值时,将该缓存节点协作替换空间中参与协作的被访问频率较高的一些数据内容进行转移,从而降低本缓存节点的链路利用率,平衡缓存节点群组中的整体链路利用率,使数据的协作过程平衡稳定。在缓存节点及数据处理处理方法的基础上,本申请实施例还提供了一种协作控制器,用于对缓存节点群组中的各个缓存节点参与协作的过程进行监测控制,统计各个缓存节点中参与协作的数据内容并将数据内容列表分发到缓存节点群组中的各个缓存节点,调整各个缓存节点的协作比例,使数据缓存过程更加优化。附图说明为了更清楚地说明本申请实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请中记载的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。图1为本申请实施例提供的一种数据处理方法的方法流程图;图2为本申请实施例提供的数据处理方法中确定目标缓存节点的方法流程图;图3为本申请实施例提供的数据处理方法的一详细流程图;图4为本申请实施例提供的数据处理方法的另一详细流程图;图5为本申请实施例提供的数据处理方法中将获取的数据内容保存至协作替换空间的处理流程图;图6为本申请实施例提供的数据处理方法中将获取的数据内容保存至协作替换空间的一详细处理流程图;图7为本申请实施例提供的数据处理过程中对协作替换空间中数据内容进行转移的方法流程图;图8为本申请实施例提供的数据处理过程中从目标缓存节点获取数据内容的方法流程图;图9为本申请实施例提供的将获取的数据内容保存至本地替换空间的处理流程图;图10为本申请实施例提供的将获取的数据内容保存至本地替换空间的一详细处理流程图;图11为本申请实施例提供的缓存节点的应用环境示意图;图12为本申请实施例提供的缓存节点的结构示意图;图13为本申请实施例提供的缓存节点中控制模块的第一结构示意图;图14为本申请实施例提供的缓存节点中控制模块的第二结构示意图;图15为本申请实施例提供的缓存节点中控制模块的第三结构示意图;图16为本申请实施例提供的缓存节点中控制模块本文档来自技高网...

【技术保护点】
1.一种数据处理方法,其特征在于,基于数据缓存的缓存节点群组,所述群组中任一缓存节点包括:用于对本地客户端访问的数据进行保存的本地替换空间及用于对非本地客户端访问的数据内容进行保存的协作替换空间;所述方法包括:接收客户端数据请求的被访问缓存节点对与所述数据请求相对应的数据内容进行查找;当在所述被访问缓存节点的本地替换空间中未查找到所述数据内容时,查询预设数据内容目录列表;所述数据内容目录列表中设置有数据内容与其对应缓存节点的对应关系;依据所述对应关系将所述缓存节点群组中的其它缓存节点中包含所述数据内容的缓存节点作为目标缓存节点;从所述目标缓存节点的协作替换空间中获取所述数据内容并将所述数据内容保存至所述被访问缓存节点的本地替换空间。

【技术特征摘要】
【国外来华专利技术】1.一种数据处理方法,其特征在于,基于数据缓存的缓存节点群组,所述群组中任一缓存节点包括用于对本地客户端访问的数据进行保存的本地替换空间及用于对非本地客户端访问的数据内容进行保存的协作替换空间;所述方法包括接收客户端数据请求的被访问缓存节点对与所述数据请求相对应的数据内容进行查找;当在所述被访问缓存节点的本地替换空间中未查找到所述数据内容时,查询预设数据内容目录列表;所述数据内容目录列表中设置有数据内容与其对应缓存节点的对应关系; 依据所述对应关系将所述缓存节点群组中的其它缓存节点中包含所述数据内容的缓存节点作为目标缓存节点;从所述目标缓存节点的协作替换空间中获取所述数据内容并将所述数据内容保存至所述被访问缓存节点的本地替换空间。2.根据权利要求1所述的方法,其特征在于,所述查询预设数据内容目录列表的过程具体为查询由协作控制器进行预设的数据内容目录列表。3.根据权利要求2所述的方法,其特征在于,依据所述对应关系确定目标缓存节点的过程包括查询预设数据内容目录列表中设置的数据内容与其对应缓存节点的对应关系; 当查找到与所述客户端所请求数据内容相对应的缓存节点时,将所述缓存节点作为目标缓存节点。4.根据权利要求3所述的方法,其特征在于,还包括当未查找到与所述客户端所请求数据内容相对应的缓存节点时,将接收的客户端数据请求转发至内容源服务器;从所述内容源服务器获取与所述数据请求相对应的数据内容; 将所述获取的数据内容保存至所述被访问缓存节点的协作替换空间。5.根据权利要求4所述的方法,其特征在于,还包括对所述被访问缓存节点的协作替换空间保存的数据内容的目录列表进行更新; 将经过更新的目录列表发送至所述协作控制器。6.根据权利要求5所述的方法,其特征在于,将获取的数据内容保存至协作替换空间的过程中,当协作替换空间的存储空间达到预设阈值时,还包括协作替换空间中数据内容的替换过程,具体为读取协作替换空间中的数据内容目录列表,查询所述目录列表中记录的非本地客户端访问频率最低的数据内容;将所述访问频率最低的数据内容替换为所述获取的数据内容。7.根据权利要求6所述的方法,其特征在于,还包括读取本地替换空间中的数据内容目录列表,查询所述目录列表中记录的本地客户端访问频率最低的数据内容;当协作替换空间中被替换的访问频率最低的数据内容的访问更新时间晚于本地替换空间中访问频率最低的数据内容的访问更新时间且本地替换空间的存储空间未达到预设阈值时,将所述协作替换空间中被替换的访问频率最低的数据内容加入本地替换空间中进行保存。8.根据权利要求6所述的方法,其特征在于,还包括读取本地替换空间中的数据内容目录列表,查询所述目录列表中记录的本地客户端访问频率最低的数据内容;当协作替换空间中被替换的访问频率最低的数据内容的访问更新时间晚于本地替换空间中访问频率最低的数据内容的访问更新时间且本地替换空间的存储空间达到预设阈值时,将所述本地替换空间中访问频率最低的数据内容替换为所述协作替换空间中被替换的访问频率最低的数据内容。9.根据权利要求7或8所述的方法,其特征在于,在所述协作替换空间被访问的过程中,当所述协作替换空间被访问次数过多,造成所述缓存节点所在链路的利用率超过预设链路利用率时,还包括协作替换空间中数据内容的转移过程,具体为统计当前被访问缓存节点协作替换空间中被访问频率从高到低的N个数据内容,所述 N个数据内容为被访问频率值超过预设访问频率值的全部数据内容;将所述N个数据内容的内容列表发送至协作控制器;接收所述协作控制器的转移指令,所述转移指令包括链路利用率低的目标转移缓存节点的物理地址;依据所述物理地址将所述N个数据内容转移至所述链路利用率低的目标转移缓存节点的协作替换空间。10.根据权利要求3所述的方法,其特征在于,从所述目标缓存节点获取数据内容的过程包括将被访问缓存节点接收的客户端数据请求转发至所述目标缓存节点;接收所述目标缓存节点返回的其协作替换空间中保存的与所述数据请求相对应的数据内容。11.根据权利要求10所述的方法,其特征在于,将获取的目标缓存节点的协作替换空间中的数据内容保存至被访问缓存节点的本地替换空间的过程中,当本地替换空间的存储空间达到预设阈值时,还包括本体替换空间中数据内容的替换过程,具体为读取本地替换空间中的数据内容目录列表,查询本地替换空间中记录的本地客户端访问频率最低的数据内容;将所述本地客户端访问频率最低的数据内容替换为所述从目标缓存节点的协作替换空间中获取的数据内容。12.根据权利要求11所述的方法,其特征在于,还包括读取协作替换空间中的数据内容目录列表;当所述数据内容目录列表中未记录有所述本地替换空间中被替换的数据内容且所述协作替换空间的存储空间未达到预设阈值时,将所述本地替换空间中被替换的访问频率最低的内容加入到协作替换空间中进行保存。13.根据权利要求11所述的方法,其特征在于,还包括读取协作替换空间中的数据内容目录列表,查询所述目录列表中记录的非本地客户端访问频率最低的数据内容;当所述数据内容目录表列中未记录有所述本地替换空间中被替换的数据内容且所述协作替换空间达到预设阈值时,将所述协作替换空间中非本地客户端访问频率最低的数据内容替换为本地替换空间中被替换出的本地客户端访问频率最低的数据内容,并将替换出的协作替换空间中非本地客户端访问频率最低的数据内容进行删除。14.一种缓存节点,其特征在于,应用于数据缓存的缓存节点群组中,包括控制模块、 本地替换空间和协作替换空间;其中所述本地替换空间用于对本地客户端访问的数据进行保存;所述协作替换空间用于对非本地客户端访问的数据内容进行保存;所述控制模块用于接收客户端发送的数据请求,并在所述本地替换空间中查找与所述数据请求相对应的的数据内容;当在所述本地替换空间中未查找到所述数据内容时,查询数据内容目录列表中设置的数据内容与其对应缓存节点的对应关系,依据所述对应关系将所述缓存节点群组中的其它缓存节点中包含所述数据内容的缓存节点作为目标缓存节点; 从所述目标缓存节点的协作替换空间中获取所述数据内容并将所述数据内容保存至所述本地替换空间中。15.根据权利要求14所述的缓存节点,其特征在于,所述控制模块包括接收单元,用于接收客户端发送的数据请求;查找单元,用于依据所述接收单元接收的数据请求在所述本地替换空间中查找与所述数据请求相对应的数据内容;查询单元,用于当所述查找单元在所述本地替换空间中未查找到所述数据内容时,查询数据内容目录列表中设置的数据内容与其对应缓存节点的对应关系;确定单元,用于当所述查询单元查询到所述数据内容与其对应缓存节点的对应关系时,依据所述对应关系将所述缓存节点群组中的其它缓存节点中包含所述数据内容的缓存节点确定为目标缓存节点;获取单元,用于从所述确定单元确定的目标缓存节点的协作替换空间获取所述数据内容并将所述数据内容保存至所述本地替换空间。16.根据权利要求15...

【专利技术属性】
技术研发人员:龙有水
申请(专利权)人:华为技术有限公司
类型:发明
国别省市:94

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1