System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本专利技术涉及人工智能领域,具体涉及一种用户问题的解答方法、装置、设备及介质。
技术介绍
1、随着人工智能技术的发展,各行业对大语言模型(large language model,llm)智能体应用的构建需求也越来越多,如何将行业内现有数据与当前大模型技术相结合,并改变传统应用的交互形式,使之既能高效利用行业领域内专有知识,又能保护行业数据的资产安全是当下业界亟待解决的重要课题。
2、检索增强生成(retrieval-augmented generation,rag)是一种结合了信息检索技术与语言生成模型的人工智能技术,rag通过从外部知识库中检索相关信息,并将其作为提示(prompt)输入给llm,以增强llm处理知识密集型任务的能力,如问答、文本摘要、内容生成等,使得llm可以生成更准确、更丰富的文本内容。通过rag技术实现了llm对行业数据的关联使用,解决了llm的部分应用问题,提高了llm回答的准确性,但仍然存在数据匹配不精准、不完整等问题,这些都会直接影响llm的推理效果。
3、因此,需要提供一种能够解决上述问题的llm模型。
技术实现思路
1、有鉴于此,本专利技术实施例提供了一种用户问题的解答方法、装置、设备及介质,以此解决现有llm推理结果不理想的问题。
2、根据第一方面,本专利技术实施例提供了一种用户问题的解答方法,所述方法包括:
3、获取用户的输入信息;
4、利用多级关联的场景分析模型对所述输入信息进行应
5、根据所述实际业务场景调取为所述实际业务场景预设的核心要素模版,根据核心要素模板提取输入信息中的核心要素信息;
6、调取与实际业务场景相关联的预设的应用程序编程接口和/或查询预设知库对所述输入信息进行处理,获取场景数据;
7、利用预设知识库对输入信息进行语义匹配得到的引用知识以及利用预设知识库对输入信息进行语义检索得到的提示词,将引用知识、提示词以及场景数据作为输入数据输入至训练好的大语言模型中,得到由大语言模型输出的推理结果。
8、结合第一方面,在第一方面第一实施方式中,所述调取为所述实际业务场景预设的核心要素模版,根据核心要素模板提取输入信息中的核心要素信息,具体包括:
9、根据所述实际业务场景调取预设的所述核心要素模板;
10、根据所述核心要素模板对所述输入信息进行数据抽取,提取输入信息中的所述核心要素信息;
11、对所述核心要素信息进行标准化处理;所述标准化处理包括清洗、转换、映射以及校验。
12、结合第一方面第一实施方式,在第一方面第二实施方式中,所述调取预设的与实际业务场景相关联的应用程序编程接口和/或查询预设知识库对所述输入信息进行处理,获取场景数据,具体包括:
13、将标准化处理后的所述核心要素信息转换为预设格式;
14、根据预设格式的所述核心要素信息的键-值对,对预设格式的所述核心要素信息与提示词的核心规则名称进行匹配处理;
15、根据匹配处理后的所述核心要素信息,调取预设的与实际业务场景相关联的应用程序编程接口和/或查询预设知识库并对所述输入信息进行处理,得到所述场景数据。
16、结合第一方面,在第一方面第三实施方式中,所述大语言模型是基于对样本信息进行语义匹配得到的样本引用知识以及进行语义检索得到的样本提示词、样本信息的样本场景数据训练得到的。
17、结合第一方面,在第一方面第四实施方式中,所述利用多级关联的场景分析模型对所述输入信息进行应用场景分析以及对所述输入信息进行语义意图理解,确定所述输入信息的实际应用场景,具体包括:
18、将用户的输入信息输入至最前一级的场景分析模型中,得到由最前一级的场景分析模型输出的一级业务场景;
19、确定一级业务场景关联的下一级的场景分析模型,并将用户的输入信息输入至下一级的场景分析模型中,得到由下一级的场景分析模型输出的业务子场景;
20、确定业务子场景关联的下一级的场景分析模型,并将用户的输入信息输入至下一级的场景分析模型中,得到由下一级的场景分析模型输出的业务子场景,直至将用户的输入信息输入至最后一级的场景分析模型中,并得到由最后一级的场景分析模型输出的关联业务场景;
21、对用户的输入信息进行意图理解,得到意图理解结果,并根据意图理解结果以及关联业务场景确定输入信息的实际业务场景。
22、结合第一方面,在第一方面第五实施方式中,所述利用多级关联的场景分析模型对所述输入信息进行应用场景分析以及对所述输入信息进行语义意图理解,确定所述输入信息的实际应用场景,具体包括:
23、将用户的输入信息输入至最前一级的场景分析模型中,得到由最前一级的每个场景分析模型分别输出的一级业务场景;
24、确定每个一级业务场景分别关联的下一级的场景分析模型,并将用户的输入信息输入至下一级的场景分析模型中,得到由下一级的场景分析模型分别输出的业务子场景;
25、确定每个业务子场景分别关联的下一级的场景分析模型,并将用户的输入信息输入至下一级的场景分析模型中,得到由下一级的场景分析模型分别输出的业务子场景,直至将用户的输入信息输入至最后一级的场景分析模型中,并得到由最后一级的场景分析模型分别输出的关联业务场景;
26、对用户的输入信息进行意图理解,得到意图理解结果,并根据意图理解结果对所有关联业务场景进行分析,得到输入信息的实际业务场景。
27、结合第一方面,在第一方面第一实施方式中,所述意图理解是利用训练好的语义意图理解模型得到的,所述语义理解模型是基于样本信息、样本信息对应的样本意图理解结果以及样本引用知识描述信息训练得到的,所述样本意图理解结果为所述样本信息的标签。
28、根据第二方面,本专利技术实施例还提供一种用户问题的解答装置,所述装置包括:
29、问题获取模块,用于获取用户的输入信息;
30、场景分析模块,用于利用多级关联的场景分析模型对所述输入信息进行应用场景分析以及对所述输入信息进行语义意图理解,确定所述输入信息的实际应用场景;所述场景分析模型用于基于输入的数据输出业务场景,每一级均具有至少一个的所述场景分析模型,每一类别的业务场景均有相关联的所述场景分析模型,且,相邻两级所述场景分析模型之间,后一级的所述场景分析模型输出的业务场景为前一级的所述场景分析模型输出的业务场景的业务子场景;
31、要素抽取模块,用于根据所述实际业务场景调取为所述实本文档来自技高网...
【技术保护点】
1.一种用户问题的解答方法,其特征在于,所述方法包括:
2.根据权利要求1所述的用户问题的解答方法,其特征在于,所述调取为所述实际业务场景预设的核心要素模版,根据核心要素模板提取输入信息中的核心要素信息,具体包括:
3.根据权利要求2所述的用户问题的解答方法,其特征在于,所述调取预设的与实际业务场景相关联的应用程序编程接口和/或查询预设知识库对所述输入信息进行处理,获取场景数据,具体包括:
4.根据权利要求1所述的用户问题的解答方法,其特征在于,所述大语言模型是基于对样本信息进行语义匹配得到的样本引用知识以及进行语义检索得到的样本提示词、样本信息的样本场景数据训练得到的。
5.根据权利要求1所述的用户问题的解答方法,其特征在于,所述利用多级关联的场景分析模型对所述输入信息进行应用场景分析以及对所述输入信息进行语义意图理解,确定所述输入信息的实际应用场景,具体包括:
6.根据权利要求1所述的用户问题的解答方法,其特征在于,所述利用多级关联的场景分析模型对所述输入信息进行应用场景分析以及对所述输入信息进行语义意图理解,确定所
7.根据权利要求1所述的用户问题的解答方法,其特征在于,所述意图理解是利用训练好的语义意图理解模型得到的,所述语义理解模型是基于样本信息、样本信息对应的样本意图理解结果以及样本引用知识描述信息训练得到的,所述样本意图理解结果为所述样本信息的标签。
8.一种用户问题的解答装置,其特征在于,所述装置包括:
9.一种电子设备,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现如权利要求1至7任一项所述用户问题的解答方法的步骤。
10.一种非暂态计算机可读存储介质,其上存储有计算机程序,其特征在于,计算机程序被处理器执行时实现如权利要求1至7任一项所述用户问题的解答方法的步骤。
...【技术特征摘要】
1.一种用户问题的解答方法,其特征在于,所述方法包括:
2.根据权利要求1所述的用户问题的解答方法,其特征在于,所述调取为所述实际业务场景预设的核心要素模版,根据核心要素模板提取输入信息中的核心要素信息,具体包括:
3.根据权利要求2所述的用户问题的解答方法,其特征在于,所述调取预设的与实际业务场景相关联的应用程序编程接口和/或查询预设知识库对所述输入信息进行处理,获取场景数据,具体包括:
4.根据权利要求1所述的用户问题的解答方法,其特征在于,所述大语言模型是基于对样本信息进行语义匹配得到的样本引用知识以及进行语义检索得到的样本提示词、样本信息的样本场景数据训练得到的。
5.根据权利要求1所述的用户问题的解答方法,其特征在于,所述利用多级关联的场景分析模型对所述输入信息进行应用场景分析以及对所述输入信息进行语义意图理解,确定所述输入信息的实际应用场景,具体包括:
6.根据权利要求1所述的...
【专利技术属性】
技术研发人员:金龙胜,杨红飞,苏志奔,何伟,
申请(专利权)人:火石创造科技有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。