本申请公开了一种增强大模型效果的方法及装置。为大型语言模型LLM提供预设分类表，其围绕业务全流程设计，为LLM提供了具体而专业的知识框架，助于生成更专业的答案。基于原始问题和预设分类表，通过LLM确定原始问题的分类信息。将分类信息和原始问题结合，生成目标问题，为LLM提供了明确的方向指引，增强了其回答的专业性。最后，基于目标问题和预设分类表，通过LLM获取目标问题的答案。本申请实现了专业知识的补充，将用户提问进行准确分类，增强LLM的回答效果，提高了LLM答案的专业度。
1、近年来，大型语言模型(llm)广泛应用于解决多种实际问题，如何通过提示工程优化llm的响应，使其更能满足用户需求，成为了一个重要的研究方向。不同的llm采用了不同的训练数据和方法，在问题回答上可能显示出不同的侧重点。现有的llm通常从通用价值观的角度作出回答，但在专业领域中，用户期望得到包含更多专业知识的答案。
2、现有技术中，将预训练模型与图神经网络结合的方法能够为数据赋予多层级标签，有助于对用户提问进行专业化的分类。还存在将标签嵌入文本，形成新向量的方法，能够提高对用户提问的分类正确率。但这些分类方法需要大量的标签，且每一类标签需要足够的数据覆盖量。当标签太多、标签冷门时，就难以通过现有方法进行准确分类。因此，如何将用户提问进行准确分类，以使llm给出更专业化的回答，成为了一个亟需解决的问题。
>7、可选的，所述基于原始问题和所述预设分类表，通过llm确定所述原始问题的分类信息，包括：8、按照所述预设分类表中的层级，以询问llm的方式逐层获取所述原始问题的分类信息；所述层级包括险种类型、业务类型和业务子流程。
9、可选的，所述按照所述预设分类表中的层级，以询问llm的方式逐层获取所述原始问题的分类信息，包括：
10、询问llm所述原始问题的险种类型；
11、基于llm返回的险种类型，询问llm所述原始问题的业务类型；
12、基于llm返回的险种类型和业务类型，询问llm所述原始问题的业务子流程；
13、将llm返回的险种类型、业务类型和业务子流程作为所述分类信息。
14、可选的，所述询问llm所述原始问题的险种类型，包括：
15、使用第一提示询问llm所述原始问题的险种类型；
16、获取llm返回的险种答案；
17、使用第一确定提示，询问llm所述原始问题的险种类型是否为所述险种答案；
18、若是，则将所述险种答案作为所述原始问题的险种类型；
19、若否，则重复询问llm所述原始问题的险种类型，直至所述原始问题的险种类型为所述险种答案，将所述险种答案作为所述原始问题的险种类型。
20、可选的，所述基于llm返回的险种类型，询问llm所述原始问题的业务类型，包括：
21、基于llm返回的险种类型，使用第二提示询问llm所述原始问题的业务类型；
22、获取llm返回的业务答案；
23、使用第二确定提示，询问llm所述原始问题的业务类型是否为所述业务答案；
24、若是，则将所述业务答案作为所述原始问题的业务类型；
25、若否，则重复询问llm所述原始问题的业务类型，直至所述原始问题的业务类型为所述业务答案，将所述业务答案作为所述原始问题的业务类型。
26、可选的，所述基于llm返回的险种类型和业务类型，询问llm所述原始问题的业务子流程，包括：
27、基于llm返回的险种类型，使用第三提示询问llm所述原始问题的业务子流程；
28、获取llm返回的子流程答案；
29、使用第三确定提示，询问llm所述原始问题的业务子流程是否为所述子流程答案；
30、若是，则将所述子流程答案作为所述原始问题的业务子流程；
31、若否，则重复询问llm所述原始问题的业务子流程，直至所述原始问题的业务子流程为所述子流程答案，将所述子流程答案作为所述原始问题的业务子流程。
32、可选的，所述基于所述目标问题和所述预设分类表，通过llm获取所述目标问题的答案，包括：
33、询问llm所述目标问题的答案；
34、llm基于所述预设分类表，根据所述目标问题中的所述原始问题和所述分类信息，给出所述目标问题的答案。
35、基于上述一种增强大模型效果的方法，本申请还公开了一种增强大模型效果的装置，包括：分类表提供单元、分类信息确定单元、目标问题生成单元和回答单元；
36、所述分类表提供单元，用于为大型语言模型llm提供预设分类表；
37、所述分类信息确定单元，用于基于原始问题和所述预设分类表，通过llm确定所述原始问题的分类信息；
38、所述目标问题生成单元，用于将所述分类信息和原始问题结合，生成目标问题；
39、所述回答单元，用于基于所述目标问题和所述预设分类表，通过llm获取所述目标问题的答案。
40、可选的，所述分类信息确定单元，包括：
41、逐层获取子单元，用于按照所述预设分类表中的层级，以询问llm的方式逐层获取所述原始问题的分类信息；所述层级包括险种类型、业务类型和业务子流程。
42、可选的，所述逐层获取子单元，包括：
43、险种询问子单元，用于询问llm所述原始问题的险种类型；
44、业务询问子单元，用于基于llm返回的险种类型，询问llm所述原始问题的业务类型；
45、流程询问子单元，用于基于llm返回的险种类型和业务类型，询问llm所述原始问题的业务子流程；
46、分类信息获取子单元，用于将llm返回的险种类型、业务类型和业务子流程作为所述分类信息。
47、可选的，所述险种询问子单元，用于：
48、使用第一提示询问llm所述原始问题的险种类型；
49、获取llm返回的险种答案；
50、使用第一确定提示，询问llm所述原始问题的险种类型是否为所述险种答案；
51、若是，则将所述险种答案作为所述原始问题的险种类型；
52、若否，则重复询问llm所述原始问题的险种类型，直至所述原始问题的险种类型为所述险种答案，将所述险种答案作为所述原始问题的险种类型。
53、可选的，所述业务询问子单元，用于：
54、基于llm返回的险种类型，使用第二提示询问llm所述原始问题的业务类型；
55、获取llm返回的业务答案；
56、使用第二确定提示，询问llm所述原始问题的业务类型是否为所述业务答案；
57、若是，则将所述业务答案作为所述原始问题的业务类型；
58、若否，本文档来自技高网...
【技术保护点】
1.一种增强大模型效果的方法，其特征在于，包括：
2.根据权利要求1所述的方法，其特征在于，所述基于原始问题和所述预设分类表，通过LLM确定所述原始问题的分类信息，包括：
3.根据权利要求2所述的方法，其特征在于，所述按照所述预设分类表中的层级，以询问LLM的方式逐层获取所述原始问题的分类信息，包括：
4.根据权利要求3所述的方法，其特征在于，所述询问LLM所述原始问题的险种类型，包括：
5.根据权利要求3所述的方法，其特征在于，所述基于LLM返回的险种类型，询问LLM所述原始问题的业务类型，包括：
6.根据权利要求3所述的方法，其特征在于，所述基于LLM返回的险种类型和业务类型，询问LLM所述原始问题的业务子流程，包括：
7.根据权利要求1所述的方法，其特征在于，所述基于所述目标问题和所述预设分类表，通过LLM获取所述目标问题的答案，包括：
8.一种增强大模型效果的装置，其特征在于，包括：分类表提供单元、分类信息确定单元、目标问题生成单元和回答单元；
9.根据权利要求8所述的装置，其特征在于，所述分类信息确定单元，包括：
10.根据权利要求9所述的装置，其特征在于，所述逐层获取子单元，包括：
...
【技术特征摘要】
1.一种增强大模型效果的方法，其特征在于，包括：
2.根据权利要求1所述的方法，其特征在于，所述基于原始问题和所述预设分类表，通过llm确定所述原始问题的分类信息，包括：
3.根据权利要求2所述的方法，其特征在于，所述按照所述预设分类表中的层级，以询问llm的方式逐层获取所述原始问题的分类信息，包括：
4.根据权利要求3所述的方法，其特征在于，所述询问llm所述原始问题的险种类型，包括：
5.根据权利要求3所述的方法，其特征在于，所述基于llm返回的险种类型，询问llm所述原始问题的业务类型，包括：
【专利技术属性】
技术研发人员：武悦娇，任君翔，郑彤，
申请(专利权)人：太保科技有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。