数据处理方法、装置、电子设备及计算机可读存储介质制造方法及图纸

技术编号:33192150 阅读:13 留言:0更新日期:2022-04-24 00:20
本申请提供了一种数据处理方法、装置、电子设备及计算机可读存储介质,涉及计算机技术领域。该方法包括:接收管理节点发送的数据迁移信息,基于数据迁移信息生成第一事务标识;接收到数据修改请求时,若第一节点所属分布式数据库处于数据迁移状态,则对第一节点中的待迁移数据执行数据修改请求所指示的操作;其中,分布式数据库的状态是基于第一事务标识确定的;将数据修改请求发送至分布式数据库中的第二节点,以便第二节点对待迁移数据执行数据修改请求所指示的操作。本申请保证了数据迁移过程中客户端业务的正常进行。过程中客户端业务的正常进行。过程中客户端业务的正常进行。

【技术实现步骤摘要】
数据处理方法、装置、电子设备及计算机可读存储介质


[0001]本申请涉及计算机
,具体而言,本申请涉及一种数据处理方法、装置、电子设备及计算机可读存储介质。

技术介绍

[0002]分布式数据库由于数据量大小的变化,以及数据访问热点的变化,可能需要在线扩容(例如在线添加节点)、在线缩容(例如在线删除节点)、或者在线负载均衡(例如分布式集群内部数据重新分布),这些操作都涉及到将分布式数据库内部的数据从一个内存数据库(memory database,MDB)节点迁移到另一个内存数据库节点。
[0003]目前,分布式数据库中节点(即内存数据库节点)A的数据迁移到节点B时,需要停止客户端对A节点中被迁移数据的修改,以保证两节点迁移数据的一致性,即B节点收到的数据与A节点迁移的数据是一致的,可见,现有方案数据迁移过程中,需要停止客户端对正在迁移的数据的修改,影响了客户端业务的正常进行。

技术实现思路

[0004]本公开的第一方面提供了一种数据处理方法,包括:
[0005]接收管理节点发送的数据迁移信息,基于数据迁移信息生成第一事务标识;
[0006]接收到数据修改请求时,若第一节点所属分布式数据库处于数据迁移状态,则对第一节点中的待迁移数据执行数据修改请求所指示的操作;其中,分布式数据库的状态是基于第一事务标识确定的;
[0007]将数据修改请求发送至分布式数据库中的第二节点,以便第二节点对待迁移数据执行数据修改请求所指示的操作。
[0008]可选的,接收到数据修改请求时之后,方法还包括:
[0009]判断第一事务标识是否大于预设阈值;
[0010]若第一事务标识大于预设阈值,且数据修改请求中携带的第二事务标识大于第一事务标识,则确定分布式数据库处于数据迁移状态。
[0011]可选的,判断第一事务标识是否大于预设阈值之后,方法还包括:
[0012]若第一事务标识不大于预设阈值,则确定分布式数据库中不存在数据迁移事务,对第一节点中的待迁移数据执行数据修改请求所指示的操作;
[0013]若第一事务标识大于预设阈值,且数据修改请求中携带的第二事务标识小于第一事务标识,则确定分布式数据库中存在数据迁移事务但未进入数据迁移状态,对第一节点中的待迁移数据执行数据修改请求所指示的操作。
[0014]可选的,接收到数据修改请求包括:
[0015]接收到分布式数据库中第三节点发送的数据修改请求以及分布式数据库状态信息;
[0016]方法还包括:
[0017]基于分布式数据库状态信息,确定分布式数据库处于数据迁移状态。
[0018]可选的,数据修改请求包括数据删除请求,则第二节点对待迁移数据执行数据修改请求所指示的操作,包括:
[0019]第二节点执行如下操作:
[0020]基于数据删除请求中的第一索引搜索第一索引所对应的数据;
[0021]若搜索到第一索引所对应的数据,则删除第一索引所对应的数据;
[0022]若未搜索到第一索引所对应的数据,则确定第一索引在第二节点中对应的数据位置,针对数据位置设置占位标识,以便于第一节点将第一索引所对应的数据迁移至数据位置后,第二节点基于占位标识删除第一索引所对应的数据。
[0023]可选的,数据修改请求包括数据新增请求,则第二节点对待迁移数据执行数据修改请求所指示的操作,包括:
[0024]第二节点执行如下操作:
[0025]若第二节点中不存在数据修改请求中的第二索引所对应的数据,则新增第二索引所对应的数据;
[0026]若第二节点中存在数据修改请求中的第二索引所对应的数据,检测第二索引所对应的数据位置是否设置有占位标识;
[0027]若未设置有占位标识,则在数据位置插入第二索引所对应的数据;
[0028]若设置有占位标识,则在数据位置插入第二索引所对应的数据,且向第一节点发送取消迁移第二索引所对应的数据的提示信息删除该占位标识。
[0029]可选的,数据迁移信息中包括待迁移数据的标识以及第二节点的标识,则接收到数据修改请求之前,方法还包括:
[0030]基于待迁移数据的标识,确定第一节点中存储的待迁移数据;
[0031]基于数据迁移指示信息中第二节点的标识,确定数据迁移的目的地节点为第二节点;
[0032]接收到管理节点发送的数据迁移指令时,基于数据迁移指令将待迁移数据由第一节点迁移至第二节点。
[0033]可选的,基于数据迁移指令将待迁移数据由第一节点迁移至第二节点之后,方法还包括:
[0034]修改第一事务标识;
[0035]若修改后的第一事务标识不大于预设阈值,则确定分布式数据库中处于数据迁移完成状态;
[0036]若确定不存在客户端访问待迁移数据在第一节点中所对应的原始数据,则删除原始数据。
[0037]本公开的第二方面提供了一种数据处理装置,包括:
[0038]第一接收模块,用于接收管理节点发送的数据迁移信息,基于数据迁移信息生成第一事务标识;
[0039]第二接收模块,用于接收到数据修改请求时,若第一节点所属分布式数据库处于数据迁移状态,则对第一节点中的待迁移数据执行数据修改请求所指示的操作;其中,分布式数据库的状态是基于第一事务标识确定的;
[0040]发送模块,用于将数据修改请求发送至分布式数据库中的第二节点,以便第二节点对待迁移数据执行数据修改请求所指示的操作。
[0041]可选的,该装置还包括:
[0042]判断模块,用于判断第一事务标识是否大于预设阈值;
[0043]第一确定模块,用于若第一事务标识大于预设阈值,且数据修改请求中携带的第二事务标识大于第一事务标识,则确定分布式数据库处于数据迁移状态。
[0044]可选的,该装置还包括:
[0045]第二确定模块,用于若第一事务标识不大于预设阈值,则确定分布式数据库中不存在数据迁移事务,对第一节点中的待迁移数据执行数据修改请求所指示的操作;
[0046]第三确定模块,用于若第一事务标识大于预设阈值,且数据修改请求中携带的第二事务标识小于第一事务标识,则确定分布式数据库中存在数据迁移事务但未进入数据迁移状态,对第一节点中的待迁移数据执行数据修改请求所指示的操作。
[0047]可选的,第二接收模块,具体用于:
[0048]接收到分布式数据库中第三节点发送的数据修改请求以及分布式数据库状态信息;
[0049]该装置还包括第四确定模块,用于基于分布式数据库状态信息,确定分布式数据库处于数据迁移状态。
[0050]可选的,数据修改请求包括数据删除请求,则第二节点对待迁移数据执行数据修改请求所指示的操作,包括:
[0051]第二节点执行如下操作:
[0052]基于数据删除请求中的第一索引搜索第一索引所对应的数据;
[0053]若搜索到第一索引所对应的数据,则删除第一索本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种数据处理方法,其特征在于,包括:接收管理节点发送的数据迁移信息,基于所述数据迁移信息生成第一事务标识;接收到数据修改请求时,若所述第一节点所属分布式数据库处于数据迁移状态,则对所述第一节点中的待迁移数据执行所述数据修改请求所指示的操作;其中,所述分布式数据库的状态是基于所述第一事务标识确定的;将所述数据修改请求发送至所述分布式数据库中的第二节点,以便所述第二节点对所述待迁移数据执行所述数据修改请求所指示的操作。2.根据权利要求1所述的方法,其特征在于,所述接收到数据修改请求时之后,所述方法还包括:判断所述第一事务标识是否大于预设阈值;若所述第一事务标识大于预设阈值,且数据修改请求中携带的第二事务标识大于所述第一事务标识,则确定所述分布式数据库处于数据迁移状态。3.根据权利要求2所述的方法,其特征在于,所述判断所述第一事务标识是否大于预设阈值之后,所述方法还包括:若所述第一事务标识不大于预设阈值,则确定所述分布式数据库中不存在数据迁移事务,对所述第一节点中的待迁移数据执行所述数据修改请求所指示的操作;若所述第一事务标识大于预设阈值,且数据修改请求中携带的第二事务标识小于所述第一事务标识,则确定所述分布式数据库中存在数据迁移事务但未进入数据迁移状态,对所述第一节点中的待迁移数据执行所述数据修改请求所指示的操作。4.根据权利要求1所述的方法,其特征在于,所述接收到数据修改请求包括:接收到所述分布式数据库中第三节点发送的数据修改请求以及分布式数据库状态信息;所述方法还包括:基于所述分布式数据库状态信息,确定所述分布式数据库处于数据迁移状态。5.根据权利要求1至4中任一项所述的方法,其特征在于,所述数据修改请求包括数据删除请求,则第二节点对所述待迁移数据执行所述数据修改请求所指示的操作,包括:所述第二节点执行如下操作:基于数据删除请求中的第一索引搜索所述第一索引所对应的数据;若搜索到所述第一索引所对应的数据,则删除所述第一索引所对应的数据;若未搜索到所述第一索引所对应的数据,则确定所述第一索引在所述第二节点中对应的数据位置,针对所述数据位置设置占位标识,以便于第一节点将所述第一索引所对应的数据迁移至所述数据位置后,第二节点基于所述占位标识删除所述第一索引所对应的数据。6.根据权利要求1至4中任一项所述的方...

【专利技术属性】
技术研发人员:金明辉
申请(专利权)人:亚信科技中国有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1