System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本申请涉及计算机应用,特别是涉及一种知识库集群调度方法、装置、设备、存储介质及程序产品。
技术介绍
1、随着计算机技术的快速发展,知识库的使用逐渐增多。
2、在知识库的使用中,通常采用检索增强生成(retrieval augmented generation,rag)技术。对于基于rag的知识库,会使用算法生成向量数据库。在有查询请求时,先从向量数据库中查询到相关内容,再结合算法和大模型查询到需要的内容。
3、如果算法升级,原有向量数据库中的向量数据是使用升级前的算法生成的,升级前的算法与升级后的算法不兼容,则会影响查询准确性。为解决这个问题,常规做法是重新生成整个向量数据库,即使用新算法将所有历史知识重新生成向量数据,实现算法和向量数据库的同步升级。但是,在使用新算法重新生成向量数据库的过程中,需要停止服务,待向量数据库重新生成,才会继续提供服务,影响了服务的稳定性和连续性,用户体验较差。
技术实现思路
1、本申请实施例的目的在于提供一种知识库集群调度方法、装置、设备、存储介质及程序产品,以保证服务的稳定性和连续性,提升用户体验。具体技术方案如下:
2、第一方面,提供一种知识库集群调度方法,包括:
3、接收针对目标算法的升级指令;
4、在升级前后的目标算法的版本号不同的情况下,对至少两个知识库集群中的第一知识库集群应用的目标算法进行升级,以使所述第一知识库集群应用升级后的目标算法,将知识库中的知识重新生成向量数据,更新向
5、在所述向量数据库更新完成后,对所述至少两个知识库集群中除所述第一知识库集群外的其他知识库集群应用的目标算法进行升级;
6、在有业务请求的情况下,基于升级关联信息,进行知识库集群的调度,以响应所述业务请求;
7、所述升级关联信息包括每个知识库集群应用的目标算法的版本号,每个知识对应的用于将相应知识生成向量数据的目标算法的版本号。
8、可选地,所述方法还包括:
9、在升级前后的目标算法的版本号相同的情况下,同时对所述至少两个知识库集群中的每个知识库集群应用的目标算法进行升级。
10、可选地,在所述业务请求包括针对目标内容的查询请求的情况下,所述基于升级关联信息,进行知识库集群的调度,包括:
11、确定不同知识库集群应用的目标算法的版本号是否相同;
12、在不同知识库集群应用的目标算法的版本号不同的情况下,根据升级关联信息以及所述查询请求,确定用于将所述目标内容所需知识生成向量数据的目标算法的第一版本号;
13、根据所述升级关联信息,确定应用具有所述第一版本号的目标算法的第二知识库集群;
14、调度所述第二知识库集群基于所述向量数据库响应所述查询请求。
15、可选地,所述方法还包括:
16、在不同知识库集群应用的目标算法的版本号相同的情况下,按照第一轮询规则,确定当前轮询到的第三知识库集群;
17、调度所述第三知识库集群基于所述向量数据库响应所述查询请求。
18、可选地,在所述业务请求包括针对目标知识的上传请求的情况下,所述基于升级关联信息,进行知识库集群的调度,包括:
19、确定不同知识库集群应用的目标算法的版本号是否相同;
20、在不同知识库集群应用的目标算法的版本号不同的情况下,根据所述升级关联信息,确定第四知识库集群,所述第四知识库集群应用的目标算法的升级时间距离当前时间最近;
21、调度所述第四知识库集群应用目标算法将所述目标知识生成向量数据,写入所述向量数据库中。
22、可选地,所述方法还包括:
23、在不同知识库集群应用的目标算法的版本号相同的情况下,按照第二轮询规则,确定当前轮询到的第五知识库集群;
24、调度所述第五知识库集群应用目标算法将所述目标知识生成向量数据,写入所述向量数据库中。
25、第二方面,提供一种知识库集群调度装置,包括:
26、接收模块,用于接收针对目标算法的升级指令;
27、第一升级模块,用于在升级前后的目标算法的版本号不同的情况下,对至少两个知识库集群中的第一知识库集群应用的目标算法进行升级,以使所述第一知识库集群应用升级后的目标算法,将知识库中的知识重新生成向量数据,更新向量数据库;
28、第二升级模块,用于在所述向量数据库更新完成后,对所述至少两个知识库集群中除所述第一知识库集群外的其他知识库集群应用的目标算法进行升级;
29、调度模块,用于在有业务请求的情况下,基于升级关联信息,进行知识库集群的调度,以响应所述业务请求;
30、所述升级关联信息包括每个知识库集群应用的目标算法的版本号,每个知识对应的用于将相应知识生成向量数据的目标算法的版本号。
31、第三方面,提供一种电子设备,包括处理器、通信接口、存储器和通信总线,其中,处理器,通信接口,存储器通过通信总线完成相互间的通信;
32、存储器,用于存放计算机程序;
33、处理器,用于执行存储器上所存放的程序时,实现第一方面所述的知识库集群调度方法的步骤。
34、第四方面,提供一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现第一方面所述的知识库集群调度方法的步骤。
35、第五方面,提供一种计算机程序产品,所述计算机程序产品包括计算机指令,所述计算机指令存储在计算机可读存储介质中,且适于由处理器读取并执行,以使得具有所述处理器的电子设备执行第一方面所述的知识库集群调度方法的步骤。
36、应用本申请实施例所提供的技术方案,在接收到针对目标算法的升级指令后,在升级前后的目标算法的版本号不同的情况下,先选择一个知识库集群对其应用的目标算法进行升级,以使该知识库集群应用升级后的目标算法,将知识库中的知识重新生成向量数据,更新向量数据库,在向量数据库更新完成后再对其他知识库集群应用的目标算法进行升级,在有业务请求的情况下,可以基于升级关联信息,进行知识库集群的调度,以响应相应的业务请求,通过这种升级方式以及对多个知识库集群的调度,在进行目标算法的升级过程中或者向量数据库更新过程中也可以响应业务请求,能够保证服务的稳定性和连续性,有助于提升用户体验。
本文档来自技高网...【技术保护点】
1.一种知识库集群调度方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
3.根据权利要求1或2所述的方法,其特征在于,在所述业务请求包括针对目标内容的查询请求的情况下,所述基于升级关联信息,进行知识库集群的调度,包括:
4.根据权利要求3所述的方法,其特征在于,所述方法还包括:
5.根据权利要求1或2所述的方法,其特征在于,在所述业务请求包括针对目标知识的上传请求的情况下,所述基于升级关联信息,进行知识库集群的调度,包括:
6.根据权利要求5所述的方法,其特征在于,所述方法还包括:
7.一种知识库集群调度装置,其特征在于,包括:
8.一种电子设备,其特征在于,包括处理器、通信接口、存储器和通信总线,其中,处理器,通信接口,存储器通过通信总线完成相互间的通信;
9.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如权利要求1至6之中任一项所述的知识库集群调度方法的步骤。
10.一种计算机程序产品,所述计算机
...【技术特征摘要】
1.一种知识库集群调度方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
3.根据权利要求1或2所述的方法,其特征在于,在所述业务请求包括针对目标内容的查询请求的情况下,所述基于升级关联信息,进行知识库集群的调度,包括:
4.根据权利要求3所述的方法,其特征在于,所述方法还包括:
5.根据权利要求1或2所述的方法,其特征在于,在所述业务请求包括针对目标知识的上传请求的情况下,所述基于升级关联信息,进行知识库集群的调度,包括:
6.根据权利要求5所述的方法,其特征在于,所述方法还包括:
...【专利技术属性】
技术研发人员:周万斌,
申请(专利权)人:北京奇艺世纪科技有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。