一种分布式存储系统的数据同步方法、访问方法及系统技术方案

技术编号:27593653 阅读:22 留言:0更新日期:2021-03-10 10:12
本申请公开了一种分布式存储系统的数据同步方法、访问方法及系统,所述数据同步方法包括当若干mds节点中的任一目标mds节点接收到写入操作时,该目标mds节点将该写入操作对应的写入数据存储于其身存储的缓存数据库;该目标mds节点通过其自身存储的缓存数据库将所述写入数据同步至元数据池中的元数据库,以通过元数据库将所述写入数据同步至若干mds节点中除目标mds节点外的各个候选mds节点。本申请通过部署若干mds节点,并且在元数据池中配置元数据库,各mds节点将元数据库作为缓存数据库,并通过缓存数据库和元数据库进行数据同步,这样可以将请求分配至若干mds节点,从而可以避免分布系统发生阻塞,进而提高了分布系统的性能。的性能。的性能。

【技术实现步骤摘要】
一种分布式存储系统的数据同步方法、访问方法及系统


[0001]本申请涉及分布式数据存储
,特别涉及一种分布式存储系统的数据同步方法、访问方法及系统。

技术介绍

[0002]分布式存储系统对外提供了文件存储的访问接口,通过mds节点为客户端提供对文件元数据的访问。在集群规模比较大时,为了缓解单个mds节点的压力,也为了避免由于单点故障造成集群不可访问,通常会配置多个mds节点。然而,现有的分布式存储系统在配置多个普遍mds节点时,普遍采用主备的方式来控制多个mds节点协调工作,作为备份的mds节点不会分担客户端的访问流量,只在主节点崩溃后才作为替代者开始工作,那么即便分布式存储系统在配置多个普遍mds节点,也无法实现流量的分摊。
[0003]因而现有技术还有待改进和提高。

技术实现思路

[0004]本申请要解决的技术问题在于,针对现有技术的不足,提供一种分布式存储系统的数据同步方法、访问方法及系统。
[0005]为了解决上述技术问题,本申请实施例第一方面提供了一种分布式存储系统的数据同步方法,所述分布式存储系统包括若干mds节点,所述数据同步方法包括:当若干mds节点中的任一目标mds节点接收到写入操作时,该目标mds节点将该写入操作对应的写入数据存储于其身存储的缓存数据库,其中,所述缓存数据库为目标mds节点启动时从元数据池获取的;该目标mds节点通过其自身存储的缓存数据库将所述写入数据同步至元数据池中的元数据库,以通过元数据库将所述写入数据同步至若干mds节点中除目标mds节点外的各个候选mds节点。
[0006]所述分布式存储系统的数据同步方法,其中,所述元数据池中预先存储有元数据库,所述元数据库中的数据以键值对的形式存储。
[0007]所述分布式存储系统的数据同步方法,其中,所述当若干mds节点中的任一目标mds节点接收到写入操作时,该目标mds节点将该写入操作对应的写入数据存储于其身存储的缓存数据库之前,所述方法包括:当若干mds节点中的任一mds节点启动时,该mds节点读取元数据池中的元数据库,并将读取到的元数据库存储于内存以得到该mds节点对应的缓存数据库。
[0008]所述分布式存储系统的数据同步方法,其中,所述方法还包括:对于若干mds节点中的每个mds节点,该mds节点周期性的向其自身存储的缓存数据库中写入状态数据,其中,所述状态数据包括该mds节点的节点标识以及系统时间。
[0009]所述分布式存储系统的数据同步方法,其中,所述该目标mds节点通过其自身存储的缓存数据库将所述写入数据同步至元数据池中的元数据库,以通过元数据库将所述写入
数据同步至若干mds节点中除目标mds节点外的各个候选mds节点具体包括:该目标mds节点通过其自身存储的缓存数据库将所述写入数据同步至元数据池中的元数据库;该目标mds节点向各候选mds节点发送更新通知,以使得各候选mds节点读取元数据池中的元数据库,并将所述元数据库中的所述写入数据同步至各自存储的缓存数据库内。
[0010]所述分布式存储系统的数据同步方法,其中,所述方法还包括:该目标mds节点接收各候选mds节点的反馈信息;当接收到所有候选mds节点发送的反馈信息时,该目标mds节点反馈该写入操作写入成功。
[0011]本实施例第二方面提供了一种分布式存储系统的访问方法,所述分布式存储系统基于如上所述的分布式存储系统的数据同步方法同步数据,所述访问方法包括:当客户端访问所述分布式存储系统时,客户端在所述分布式存储系统中处于活跃状态的活跃mds节点中选取一访问mds节点;客户端向访问mds节点发送访问请求,以通过该访问mds节点响应该访问请求。
[0012]所述分布式存储系统的访问方法,其中,所述分布式存储系统包括mon节点,所述当客户端访问所述分布式存储系统时,客户端在所述分布式存储系统中处于活跃状态的活跃mds节点中选取一访问mds节点之前,所述访问方法还包括:所述mon节点获取若干mds节点中的各mds节点各自对应的IP地址,并基于各mds节点各自对应的IP地址在元数据库内检索各mds节点各自对应的系统时间;当存在参考mds节点对应的系统时间与mon节点的系统时间的时间间隔达到预设时长时,所述mon节点将该参考mds节点标记为非活跃状态。
[0013]所述分布式存储系统的访问方法,其中,所述客户端向访问mds节点发送访问请求,以通过该访问mds节点响应该访问请求之后,所述访问方法还包括:所述客户端接收所述访问mds节点发送的响应信息;当未接收到响应信息时,向mon节点发送反馈信息以使得mon节点基于该反馈信息将所述访问mds节点标记为非活跃状态,并重新执行客户端在所述分布式存储系统中处于活跃状态的活跃mds节点中选取一访问mds节点的步骤。
[0014]本申请实施例第三方面提供了一种分布式存储系统,其特征在于,所述分布式存储系统包括若干mds节点以及元数据池,所述元数据池预先存储有元数据库;所述若干mds节点中的每个mds节点均用于在接收到写入操作时,将该写入操作对应的写入数据存储于其身存储的缓存数据库,并通过其自身存储的缓存数据库将所述写入数据同步至元数据池中的元数据库,以通过元数据库将所述写入数据同步至若干mds节点中除该mds节点外的各个候选mds节点,其中,所述缓存数据库为目标mds节点启动时从元数据池获取的。
[0015]有益效果:与现有技术相比,本申请提供了一种分布式存储系统的数据同步方法、访问方法及系统,所述数据同步方法包括当若干mds节点中的任一目标mds节点接收到写入操作时,该目标mds节点将该写入操作对应的写入数据存储于其身存储的缓存数据库;该目标mds节点通过其自身存储的缓存数据库将所述写入数据同步至元数据池中的元数据库,以通过元数据库将所述写入数据同步至若干mds节点中除目标mds节点外的各个候选mds节点。本申请通过部署若干mds节点,并且在元数据池中配置元数据库,各mds节点将元数据库
作为缓存数据库,并通过缓存数据库和元数据库进行数据同步,这样可以将请求分配至若干mds节点,从而可以避免分布系统发生阻塞,进而提高了分布系统的性能。
附图说明
[0016]为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员而言,在不符创造性劳动的前提下,还可以根据这些附图获得其他的附图。
[0017]图1为本申请提供的分布式存储系统的数据同步方法的流程图。
[0018]图2为本申请提供的分布式存储系统的数据同步方法中各元数据服务器更新自身的状态数据的流程示意图。
[0019]图3为本申请提供的分布式存储系统的访问方法的流程图。
[0020]图4为本申请提供的分布式存储系统的访问方法的流程示例图。
[0021]图5为本申请提供的分布式存储系统的访问方法中的mon节点确定各元数据本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种分布式存储系统的数据同步方法,其特征在于,所述分布式存储系统包括若干mds节点,所述数据同步方法包括:当若干mds节点中的任一目标mds节点接收到写入操作时,该目标mds节点将该写入操作对应的写入数据存储于其身存储的缓存数据库,其中,所述缓存数据库为目标mds节点启动时从元数据池获取的;该目标mds节点通过其自身存储的缓存数据库将所述写入数据同步至元数据池中的元数据库,以通过元数据库将所述写入数据同步至若干mds节点中除目标mds节点外的各个候选mds节点。2.根据权利要求1所述分布式存储系统的数据同步方法,其特征在于,所述元数据池中预先存储有元数据库,所述元数据库中的数据以键值对的形式存储。3.根据权利要求1所述分布式存储系统的数据同步方法,其特征在于,所述当若干mds节点中的任一目标mds节点接收到写入操作时,该目标mds节点将该写入操作对应的写入数据存储于其身存储的缓存数据库之前,所述方法包括:当若干mds节点中的任一mds节点启动时,该mds节点读取元数据池中的元数据库,并将读取到的元数据库存储于内存以得到该mds节点对应的缓存数据库。4.根据权利要求1所述分布式存储系统的数据同步方法,其特征在于,所述方法还包括:对于若干mds节点中的每个mds节点,该mds节点周期性的向其自身存储的缓存数据库中写入状态数据,其中,所述状态数据包括该mds节点的节点标识以及系统时间。5.根据权利要求1所述分布式存储系统的数据同步方法,其特征在于,所述该目标mds节点通过其自身存储的缓存数据库将所述写入数据同步至元数据池中的元数据库,以通过元数据库将所述写入数据同步至若干mds节点中除目标mds节点外的各个候选mds节点具体包括:该目标mds节点通过其自身存储的缓存数据库将所述写入数据同步至元数据池中的元数据库;该目标mds节点向各候选mds节点发送更新通知,以使得各候选mds节点读取元数据池中的元数据库,并将所述元数据库中的所述写入数据同步至各自存储的缓存数据库内。6.根据权利要求5所述分布式存储系统的数据同步方法,其特征在于,所述方法还包括:该目标mds节点接收各候选mds节点的反馈信息;当接收...

【专利技术属性】
技术研发人员:刘江胡玉晟
申请(专利权)人:柏科数据技术深圳股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1