System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种基于LangChain4J的本地知识库问答系统、方法、设备及介质技术方案_技高网

一种基于LangChain4J的本地知识库问答系统、方法、设备及介质技术方案

技术编号:42491081 阅读:6 留言:0更新日期:2024-08-21 13:07
本发明专利技术提供一种基于LangChain4J的本地知识库问答系统、方法、设备及介质,属于自然语言处理技术领域,所述系统包括:模型管理模块,用于对嵌入的ONNX模型进行动态管理;知识库管理模块在智能问答平台添加本地的知识库文档,通过ONNX模型对知识库文档处理后存储到数据库,同时对知识库文档进行管理;智能问答模块通过ONNX模型对对话进行处理后,与数据库中内容进行相似性匹配,将匹配到的文本提供给大语言模型参考,以输出应答;安全监管模块维护用户身份和权限,为每个用户分配唯一存储空间,并设置用户权限为仅可访问自身分配的存储空间。本发明专利技术提高了问答处理效率和准确率,并确保数据安全性和隐私性。

【技术实现步骤摘要】

本专利技术属于自然语言处理,具体涉及一种基于langchain4j的本地知识库问答系统、方法、设备及介质。


技术介绍

1、知识库问答系统是一种能够基于知识库的自然语言处理系统,可自动回答用户以自然语言形式提出的问题。知识库问答系统可自动理解用户的问题,将问题映射到预先构建的知识库中的相关概念和实体,向用户提供尽量准确和简洁的答案。

2、当前现有的知识库问答系统存在准确性低的问题,导致这个问题的原因一方面是知识库理解不准确,一方面是问题理解不准确,还有就是知识库与问题匹配不准确,且由于准确性低,问答持续时间长,导致整体知识库问答系统效率低下,用户体验差。现有的知识库问答系统使用固定的模型进行知识库和问题的理解,常常出现无法匹配最新推理引擎的情况,灵活性差,更新模型需要对整个知识库问答系统重新开发,导致开发成本上升。

3、综上,知识库问答系统可实现用户问题的自动答复,但现有的知识库问答系统准确性低,效率低,灵活性差。

4、此为现有技术的不足,因此,针对现有技术中的上述缺陷,提供一种基于langchain4j的本地知识库问答系统、方法、设备及介质,是非常有必要的。


技术实现思路

1、针对现有技术的上述知识库问答系统可实现用户问题的自动答复,但现有的知识库问答系统准确性低,效率低,灵活性差的缺陷,本专利技术提供一种基于langchain4j的本地知识库问答系统、方法、设备及介质,以解决上述技术问题。

2、第一方面,本专利技术提供一种基于langchain4j的本地知识库问答系统,包括:模型管理模块,用于将进行问答处理onnx模型嵌入智能问答平台,并对onnx模型进行动态管理;

3、知识库管理模块,用于响应于用户的操作,在智能问答平台添加本地的知识库文档,通过onnx模型对知识库文档处理后存储到数据库,同时对知识库文档进行管理;

4、智能问答模块,用于响应于输入的对话,在智能问答平台通过onnx模型对对话进行处理后,与数据库中内容进行相似性匹配,再将匹配到的文本提供给大语言模型参考,以输出应答;

5、安全监管模块,用于在智能问答平台维护用户身份和权限,为每个用户分配唯一存储空间,并设置用户权限为仅可访问自身分配的存储空间。

6、进一步地,模型管理模块包括:

7、模型加载单元,用于响应于用户的加载动作,连接onnx模型并执行加载操作;模型卸载单元,用于响应于用户的卸载动作,对智能问答平台的onnx模型执行卸载操作;

8、模型自动更新单元,用于自动检测智能问答平台是否存在新版本的onnx模型,并在检测到新版本的onnx模型后,自动对旧版本onnx模型执行卸载后,加载新版本onnx模型。

9、进一步地,知识库管理模块包括:

10、知识库文档添加单元,用于响应于用户添加请求,获取知识库文档的文件类型、文件描述、路径以及切分方式,进行知识库文档添加;

11、知识库文档处理单元,用于对新添加的知识库文档按照添加时设定的切分方式进行切片后,通过onnx模型转化为文本向量,再将文本向量通过api接口与minio接口的交互保存到分布式数据库中,同时记录原文出处;

12、知识库文档查询单元,用于响应于用户输入的查询条件进行知识库文档查询,并按照设定格式对查询到的知识库文档进行展示;

13、知识库文档删除单元,用于响应于用户对查询到的知识库文档的删除动作,从智能问答平台将对应知识库文档进行删除。

14、进一步地,知识库文档添加单元中切分方式包括语义切分和手动切分;

15、知识库文档查询条件中输入的查询条件包括知识库名称与所属行业任一项或两项的结合;

16、进行知识库文档展示的设定格式包括知识库名称、知识库描述、文档数量、文档分段数、创建时间及对应删除功能项。

17、进一步地,智能问答模块包括:

18、对话新建单元,用于响应于用户请求建立新的对话,启动交流;

19、对话选择单元,用于响应于用户选择的已有对话,启动交流;

20、对话处理单元,用于通过onxx模型对启动交流的对话进行处理后,得到查询向量,再将查询向量与分布式数据库中保存文本向量进行匹配,识别出相似度超过阈值的知识库文档切片;

21、提示文本生成单元,用于将预设的提示模板结合识别出的知识库文档贴片生成提示文本,并将提示文本提供给大语音模型;

22、输出应答单元,用于使大语音模型基于提示文本生成应答,将应答在对话中返回,并展示原文出处。

23、进一步地,安全监管模块包括:

24、用户管理单元,用于在智能问答平台为新用户注册账号,对已注册用户的登录使用用户名和密码进行验证或使用第三方身份验证;

25、存储管理单元,用于为用户分配唯一的存储空间,对用户上传的数据库文档和用户发起的对话通过api接口与后端存储minio进行交互,完成分布式存储;权限管理单元,用于设置默认的用户权限为访问自身分配的存储空间,并可接收管理员用户的配置进行用户权限调整和更改。

26、第二方面,本专利技术提供一种基于langchain4j的本地知识库问答方法,包括如下步骤:

27、s1.在智能问答平台维护用户身份和权限,为每个用户分配唯一存储空间,并设置用户权限为仅可访问自身分配的存储空间;

28、s2.预先在智能问答平台嵌入进行问答处理的onnx模型,并对onnx模型进行动态管理;

29、s3.预先在智能问答平台添加本地的知识库文档,对知识库文档处理后存储到数据库,同时对知识库文档进行管理;

30、s4.响应于输入的对话,在智能问答平台通过onnx模型对对话进行处理后,与数据库中内容进行相似性匹配,再将匹配到的文本提供给大语言模型参考,以输出应答。

31、进一步地,步骤s1具体步骤如下:

32、s11.在智能问答平台为新用户注册账号,对已注册用户的登录使用用户名和密码进行验证或使用第三方身份验证;

33、s12.为用户分配唯一的存储空间,对用户上传的数据库文档和用户发起的对话通过api接口与后端存储minio进行交互,完成分布式存储;

34、s13.设置默认的用户权限为访问自身分配的存储空间,并可接收管理员用户的配置进行用户权限调整和更改;

35、步骤s2具体步骤如下:

36、s21.在智能问答平台响应于用户的加载或卸载动作,连接onnx模型并执行加载或卸载操作;

37、s22.自动检测智能问答平台是否存在新版本的onnx模型;

38、若是,进入步骤s3;

39、若否,进入步骤s23;

40、s23.自动对旧版本onnx模型执行卸载后,加载新版本onnx模型;

41、步骤s3具体步骤如下:

42、s31.响应于本文档来自技高网...

【技术保护点】

1.一种基于LangChain4J的本地知识库问答系统,其特征在于,包括:

2.如权利要求1所述的基于LangChain4J的本地知识库问答系统,其特征在于,模型管理模块包括:

3.如权利要求2所述的基于LangChain4J的本地知识库问答系统,其特征在于,知识库管理模块包括:

4.如权利要求3所述的基于LangChain4J的本地知识库问答系统,其特征在于,知识库文档添加单元中切分方式包括语义切分和手动切分;

5.如权利要求3所述的基于LangChain4J的本地知识库问答系统,其特征在于,智能问答模块包括:

6.如权利要求5所述的基于LangChain4J的本地知识库问答系统,其特征在于,安全监管模块包括:

7.一种基于LangChain4J的本地知识库问答方法,其特征在于,包括如下步骤:

8.如权利要求7所述的基于LangChain4J的本地知识库问答方法,其特征在于,步骤S1具体步骤如下:

9.一种设备,其特征在于,包括处理器和存储器;

10.一种存储介质,其特征在于,

...

【技术特征摘要】

1.一种基于langchain4j的本地知识库问答系统,其特征在于,包括:

2.如权利要求1所述的基于langchain4j的本地知识库问答系统,其特征在于,模型管理模块包括:

3.如权利要求2所述的基于langchain4j的本地知识库问答系统,其特征在于,知识库管理模块包括:

4.如权利要求3所述的基于langchain4j的本地知识库问答系统,其特征在于,知识库文档添加单元中切分方式包括语义切分和手动切分;

5.如权利要求3所述的基于lang...

【专利技术属性】
技术研发人员:宋健齐光鹏商广勇陈云志罗涛
申请(专利权)人:浪潮云洲工业互联网有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1