System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种基于大模型的插件调用方法、电子设备及存储介质技术_技高网

一种基于大模型的插件调用方法、电子设备及存储介质技术

技术编号:44887045 阅读:10 留言:0更新日期:2025-04-08 00:23
本发明专利技术涉及大语言模型技术领域,特别是涉及一种基于大模型的插件调用方法、电子设备及存储介质,所述方法包括:将预设插件关键词库中的预设插件关键词与用户输入的目标请求文本中的任一请求关键词进行匹配,根据匹配上的预设插件直接确定出目标插件或确定出若干备选插件,而当请求关键词未匹配上预设插件时则将所有预设插件作为备选插件,再通过给定大语言模型从若干个备选插件中筛选出目标插件,从所述目标请求文本中提取目标参数信息并发送至目标插件得到插件反馈结果,当插件反馈结果的判断结果为符合预设要求时,将插件反馈结果作为请求反馈文本;本发明专利技术能够提高对话系统中的目标插件选取的准确率,使选择出的目标插件更符合用户的需求。

【技术实现步骤摘要】

本专利技术涉及大语言模型,特别是涉及一种基于大模型的插件调用方法、电子设备及存储介质


技术介绍

1、大语言模型是基于深度学习的语言模型,是通过大规模语料库的训练来构建出来的能够自动学习语言规律和生成文本的模型,经过预训练、微调和强化学习等完整流程,已经具备很强的能力,已被用于人机对话系统里,但实践发现其仍然有不擅长的地方。由于用户输入的请求问题会涉及到多个领域的内容,需求场景各式各样,例如,希望获取某城市实时或未来的天气信息、做复杂的数学运算、公式生成、绘制图表做展示、做所需网络信源的筛选等等场景,在遇到这些需求场景时,对话系统的返回准确性不高,影响用户的使用体验感。


技术实现思路

1、针对上述技术问题,本专利技术提供一种基于大模型的插件调用方法、电子设备及存储介质,能够提高对话系统中的目标插件选取的准确率,使选择出的目标插件更符合用户的需求。

2、根据本专利技术的第一方面,提供了一种基于大模型的插件调用方法,包括以下步骤:

3、接收用户向给定大语言模型输入的目标请求文本,并从所述目标请求文本中提取出若干请求关键词。

4、将每一请求关键词与预设插件关键词库中的预设插件关键词进行匹配,基于关键词匹配结果,当匹配上的预设插件的数量为1时,将匹配上的预设插件作为目标插件;当匹配上的预设插件的数量大于1时,确定出每一匹配上的请求关键词对应的备选插件;当未匹配上预设插件时,将所有预设插件均作为备选插件。

5、通过给定大语言模型对目标请求文本和每一备选插件对应的插件描述文本和入参描述文本进行语义分析,根据语义分析结果,从若干个备选插件中筛选出目标插件,以对筛选出的目标插件进行调用。

6、根据调用的每一目标插件对应的入参描述文本,通过给定大语言模型从所述目标请求文本中提取目标参数信息,并将目标参数信息按照对应的目标插件的预设参数格式转化后输入至对应的目标插件中,得到插件反馈结果。

7、将所述插件反馈结果输入至给定大语言模型中进行判断,当所述插件反馈结果的判断结果为符合预设要求时,将插件反馈结果作为请求反馈文本并输出。

8、根据本专利技术的第二方面,提供了一种非瞬时性计算机可读存储介质,所述存储介质中存储有至少一条指令或至少一段程序,所述至少一条指令或所述至少一段程序由处理器加载并执行以实现上述的基于大模型的插件调用方法。

9、根据本专利技术的第三方面,提供了一种电子设备,包括处理器和上述的非瞬时性计算机可读存储介质。

10、本专利技术至少具有以下有益效果:

11、本专利技术提供了一种基于大模型的插件调用方法,首先将预设插件关键词库中的预设插件关键词与用户输入的目标请求文本中的任一请求关键词进行匹配,当不存在匹配上的请求关键词时,将所有预设插件均作为备选插件,当匹配上的预设插件只有1个时,将该预设插件作为目标插件,当匹配上的预设插件的数量为多个时,将匹配上的预设插件均作为备选插件,然后针对若干备选插件,大语言模型对目标请求文本和每一备选插件对应的插件描述文本和入参描述文本进行语义分析,根据语义分析结果筛选出目标插件,以对筛选出的目标插件进行调用,通过根据目标请求文本的内容以及目标插件的入参描述实现对若干个目标插件的进一步筛选,能够提高对话系统中的目标插件选取的准确率,使选择出的目标插件更符合用户的需求。

本文档来自技高网...

【技术保护点】

1.一种基于大模型的插件调用方法,其特征在于,所述方法包括如下步骤:

2.根据权利要求1所述的基于大模型的插件调用方法,其特征在于,在S100步骤之前还包括如下步骤:

3.根据权利要求1所述的基于大模型的插件调用方法,其特征在于,所述方法还通过如下步骤确定出每一匹配上的请求关键词对应的备选插件:

4.根据权利要求1所述的基于大模型的插件调用方法,其特征在于,所述备选插件对应的入参描述文本是指从备选插件所需的预设参数信息中提取的入参结构描述文本和参数格式描述文本组合的文本。

5.根据权利要求4所述的基于大模型的插件调用方法,其特征在于,所述将目标参数信息按照对应的目标插件的预设参数格式转化后输入至对应的目标插件中,得到插件反馈结果,包括如下步骤:

6.根据权利要求1所述的基于大模型的插件调用方法,其特征在于,所述方法还包括如下步骤:

7.根据权利要求1所述的基于大模型的插件调用方法,其特征在于,所述方法还包括如下步骤:

8.一种非瞬时性计算机可读存储介质,所述存储介质中存储有至少一条指令或至少一段程序,其特征在于,所述至少一条指令或所述至少一段程序由处理器加载并执行以实现如权利要求1-7中任意一项所述的基于大模型的插件调用方法。

9.一种电子设备,其特征在于,包括处理器和权利要求8中所述的非瞬时性计算机可读存储介质。

...

【技术特征摘要】

1.一种基于大模型的插件调用方法,其特征在于,所述方法包括如下步骤:

2.根据权利要求1所述的基于大模型的插件调用方法,其特征在于,在s100步骤之前还包括如下步骤:

3.根据权利要求1所述的基于大模型的插件调用方法,其特征在于,所述方法还通过如下步骤确定出每一匹配上的请求关键词对应的备选插件:

4.根据权利要求1所述的基于大模型的插件调用方法,其特征在于,所述备选插件对应的入参描述文本是指从备选插件所需的预设参数信息中提取的入参结构描述文本和参数格式描述文本组合的文本。

5.根据权利要求4所述的基于大模型的插件调用方法,其特征在于,所述将目标参数信息按照对应...

【专利技术属性】
技术研发人员:张倩张帅星孙雷董力维徐楠李军锋曹家罗引王磊
申请(专利权)人:北京中科闻歌科技股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1