System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种基于大语言模型的融合推理方法、系统、设备及介质技术方案_技高网

一种基于大语言模型的融合推理方法、系统、设备及介质技术方案

技术编号:40669395 阅读:8 留言:0更新日期:2024-03-18 19:05
本发明专利技术涉及人工智能技术领域,具体地说,涉及一种基于大语言模型的融合推理方法、系统、设备及介质;该方法通过将知识图谱中的结构化信息注入到大语言模型中,有效地缓解了长距离依赖问题和上下文信息有限的问题;并通过基于大语言模型和知识图谱的融合推理,提高了大语言模型的推理能力,有效地将大语言模型和知识图谱的优势相结合,提高了复杂推理任务的准确性,提供更加清晰准确的推理过程,实现结果的可信生成;实现了知识图谱信息在大语言模型的结构化注入,降低了知识图谱三元组信息与人类意图对齐的损失,增强了知识图谱关于用户问题的相关信息检索。

【技术实现步骤摘要】

本专利技术涉及人工智能,具体地说,涉及一种基于大语言模型的融合推理方法、系统、设备及介质


技术介绍

1、现有相关技术仍然存在各种问题,在处理多义性查询、理解复杂的语言结构、以及融合不同类型数据源的异构信息等情况表现不佳。

2、大语言模型:现有的技术虽然能够生成高质量的语言模型,但在处理多义性查询时仍存在局限性。由于语言的复杂性和多样性,现有的大模型往往无法准确地理解用户的意图,导致检索结果的相关性不高。并且由于其基于自回归生成方式,大语言模型往往受到上下文信息有限和长距离依赖问题的制约,对复杂问题的语义背景和上下文理解与人类意图的偏差,导致推理效果不佳,产生幻觉现象和在专业细分领域超出知识边界的实际问题。

3、知识图谱:尽管现有的技术已经能够较好地构建和应用知识图谱,但在处理复杂、多义性的查询时,知识图谱的检索能力仍有限。此外,知识图谱存在一定的知识漏洞和质量问题,在处理不确定性和动态性较强的场景时,其表现仍然欠佳,限制了其在实际应用中的效果。

4、检索增强方法:现有检索增强方法通过构造与问题相关的上下文信息,将问题背景知识注入到大语言模型中,但对知识图谱三元组等非自然语言的结构化数据的语义理解较差,甚至直接导致大语言模型对背景知识的错误解读。


技术实现思路

1、本专利技术针对现有检索增强方法对知识图谱三元组等非自然语言的结构化数据的语义理解较差,甚至直接导致大语言模型对背景知识的错误解读的问题,提出一种基于大语言模型的融合推理方法、系统、设备及介质;该方法通过将知识图谱中的结构化信息注入到大语言模型中,有效地缓解了长距离依赖问题和上下文信息有限的问题;并通过基于大语言模型和知识图谱的融合推理,提高了大语言模型的推理能力,有效地将大语言模型和知识图谱的优势相结合,提高了复杂推理任务的准确性,提供更加清晰准确的推理过程,实现结果的可信生成。

2、本专利技术具体实现内容如下:

3、一种基于大语言模型的融合推理方法,具体包括以下步骤:

4、步骤s1:调用大语言模型提取用户问题得到语义实体,将所述语义实体与知识图谱实体匹配,得到关联路径,并根据所述关联路径得到增强索引;

5、步骤s2:组合所述关联路径与所述增强索引,得到问题实体关联路径集合,并根据预设的prompt模板将所述问题实体关联路径集合转换为问题实体关联路径自然语言;

6、步骤s3:根据所述增强索引的属性集合和预设的prompt模板,将所述增强索引的属性集合转换为实体属性自然语言;

7、步骤s4:根据所述问题实体关联路径自然语言和所述实体属性自然语言构建融合推理prompt模板,融合推理得到可信回答。

8、为了更好地实现本专利技术,进一步地,所述步骤s1具体包括以下步骤:

9、步骤s11:获取知识图谱实体集e和用户问题q,调用大语言模型提取用户问题q中的语义实体q;

10、步骤s12:调用大语言模型的文本向量编码器模型encoder编码所述语义实体q和知识图谱实体e,得到编码后的知识图谱实体ce和编码后的用户问题语义实体cq;

11、步骤s13:计算编码后的知识图谱实体ce和编码后的语义实体cq的余弦相似度;

12、步骤s14:根据所述余弦相似度将匹配所述用户问题语义实体q和和知识图谱实体e,得到关联路径p;

13、步骤s15:根据所述关联路径得到增强索引。

14、为了更好地实现本专利技术,进一步地,所述步骤s14具体包括以下步骤:

15、步骤s141:根据所述余弦相似度将匹配所述用户问题语义实体q和和知识图谱实体e,得到融合知识图谱;

16、步骤s142:调用迪杰斯特拉算法查找所述融合知识图谱的子有向图,得到最短路径pshort;

17、步骤s143:将所述最短路径pshort划分为短链实体路径和长链实体路径,调用路径合并算法将所述短链实体路径融合至所述长链实体路径,得到关联路径p。

18、为了更好地实现本专利技术,进一步地,所述步骤s15具体包括以下步骤:

19、步骤s151:根据所述关联路径p生成邻域路径集合pi,将所述关联路径p作为待索引集合s,索引知识图谱的邻域实体n,融合去重得到增强索引实体集合i;

20、步骤s152:根据设定的阈值θ,随机截断所述邻域路径集合pi,得到截断后的邻域路径piθ;

21、步骤s153:去重所述截断后的邻域路径piθ,得到邻域路径实体的增强索引iθ。

22、为了更好地实现本专利技术,进一步地,所述步骤s2具体包括以下步骤:

23、步骤s21:组合并去重所述关联路径p与所述增强索引iθ,得到问题实体关联路径集合r;

24、步骤s22:根据预设的prompt模板t将所述问题实体关联路径集合r转换为问题实体关联路径自然语言c。

25、为了更好地实现本专利技术,进一步地,所述步骤s3具体包括以下步骤:

26、步骤s31:查找所述增强索引iθ的属性集a,并根据所述属性集a生成关联属性集合f;

27、步骤s32:根据所述属性集a和预设的prompt模板ta,将所述属性集a转换为实体属性自然语言ca。

28、为了更好地实现本专利技术,进一步地,所述步骤s4具体包括以下步骤:

29、步骤s41:根据所述问题实体关联路径自然语言c和所述实体属性自然语言ca,将与待索引用户问题语义实体相关的关联路径、领域路径和属性集构成知识图谱图数据结构转换为自然语言表达;

30、步骤s42:根据所述自然语言表达,调用增强索引技术rag和思维链技术cot构建融合推理prompt模板;

31、步骤s43:根据所述融合推理prompt模板,融合推理得到所述待索引用户问题的可信回答。

32、基于上述提出的基于大语言模型的融合推理方法,为了更好地实现本专利技术,进一步地,提出一种基于大语言模型的融合推理系统,包括增强索引单元、实体关联路径增强单元、实体属性增强单元、融合推理单元;

33、所述增强索引单元,用于调用大语言模型提取用户问题得到语义实体,将所述语义实体与知识图谱实体匹配,得到关联路径,并根据所述关联路径得到增强索引;

34、所述实体关联路径增强单元,用于组合所述关联路径与所述增强索引,得到问题实体关联路径集合,并根据预设的prompt模板将所述问题实体关联路径集合转换为问题实体关联路径自然语言;

35、所述实体属性增强单元,用于根据所述增强索引的属性集合和预设的prompt模板,将所述增强索引的属性集合转换为实体属性自然语言;

36、所述融合推理单元,用于根据所述问题实体关联路径自然语言和所述实体属性自然语言构建融合推理prompt模板,融合推理得到可信回答。

37、基于上述提出的基于大语言模型的融合推理方法,为了更好地实现本发本文档来自技高网...

【技术保护点】

1.一种基于大语言模型的融合推理方法,其特征在于,具体包括以下步骤:

2.根据权利要求1所述的一种基于大语言模型的融合推理方法,其特征在于,所述步骤S1具体包括以下步骤:

3.根据权利要求2所述的一种基于大语言模型的融合推理方法,其特征在于,所述步骤S14具体包括以下步骤:

4.根据权利要求2所述的一种基于大语言模型的融合推理方法,其特征在于,所述步骤S15具体包括以下步骤:

5.根据权利要求4所述的一种基于大语言模型的融合推理方法,其特征在于,所述步骤S2具体包括以下步骤:

6.根据权利要求5所述的一种基于大语言模型的融合推理方法,其特征在于,所述步骤S3具体包括以下步骤:

7.根据权利要求6所述的一种基于大语言模型的融合推理方法,其特征在于,所述步骤S4具体包括以下步骤:

8.一种基于大语言模型的融合推理系统,其特征在于,包括增强索引单元、实体关联路径增强单元、实体属性增强单元、融合推理单元;

9.一种电子设备,其特征在于,包括存储器和处理器;所述存储器用于存储计算机程序;

10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机指令;

...

【技术特征摘要】

1.一种基于大语言模型的融合推理方法,其特征在于,具体包括以下步骤:

2.根据权利要求1所述的一种基于大语言模型的融合推理方法,其特征在于,所述步骤s1具体包括以下步骤:

3.根据权利要求2所述的一种基于大语言模型的融合推理方法,其特征在于,所述步骤s14具体包括以下步骤:

4.根据权利要求2所述的一种基于大语言模型的融合推理方法,其特征在于,所述步骤s15具体包括以下步骤:

5.根据权利要求4所述的一种基于大语言模型的融合推理方法,其特征在于,所述步骤s2具体包括以下步骤:

...

【专利技术属性】
技术研发人员:贾波陈欣陈永志张思俊王晓龙
申请(专利权)人:中电九天智能科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1