【技术实现步骤摘要】
本说明书一个或多个实施例涉及人工智能，尤其涉及一种基于大语言模型的问答方法、设备、介质及程序产品。
技术介绍
1、在自然语言处理
，大语言模型(large language model,llm)扮演着重要的角色。它能够理解和生成人类语言，从而执行诸如文本生成、问答、翻译等多种任务。然而，尽管大语言模型在许多方面取得了显著成就，但其在生成结果的过程中仍可能出现幻觉，即大语言模型可能会生成与用户指令不符或逻辑上不合理的内容，从而导致输出错误的结果。此外，大语言模型在生成响应上的耗时表现不稳定，即便是同一个大语言模型针对相同的任务请求，每次生成结果所需的时长也存在较大的波动。这种响应耗时与结果正确率的不确定性严重影响了用户对大语言模型的使用体验。
技术实现思路
1、有鉴于此，本说明书一个或多个实施例提供技术方案如下：
2、根据本说明书一个或多个实施例的第一方面，提出了一种基于大语言模型的问答方法，包括：
3、获取针对大语言模型的提问信息；
4、将所述提问信息分别输入至少两个大语言模型实例；
5、在接收各个大语言模型实例分别返回的备选答案的过程中，若已接收到部分备选答案且该部分备选答案已满足预设的准确率条件，则基于该部分备选答案确定出针对所述提问信息的答复信息。
6、根据本说明书一个或多个实施例的第二方面，提出了一种电子设备，包括：
7、处理器；用于存储处理器可执行指令的存储器；其中，所述处理器通过运行所述可执行
8、根据本说明书一个或多个实施例的第三方面，提出了一种计算机可读存储介质，其上存储有计算机指令，该指令被处理器执行时实现如第一方面所述方法的步骤。
9、根据本说明书一个或多个实施例的第四方面，提出了一种计算机程序产品，包括计算机程序/指令，该计算机程序/指令被处理器执行时实现如第一方面所述方法的步骤。
10、由上述实施例可知，本说明书通过将提问信息输入至少两个大语言模型实例，并结合预设的准确率条件，即便一部分大语言模型实例存在输出错误，也可以确保基于其他大语言模型实例的输出确定出正确的答复信息，有助于减少单一备选答案不可靠而造成的错误，从而显著提升答复信息的准确率和鲁棒性。同时，同样基于上述预设的准确率条件，使得在接收到的部分备选答案已经满足该预设的准确率条件的情况下，可以尽早确定出答复信息，而无需等待所有大语言模型实例均返回备选答案，故而能够在确保答复信息的准确率和鲁棒性的基础上，减少大语言模型的响应耗时的波动。
本文档来自技高网...【技术保护点】
1.一种基于大语言模型的问答方法，其特征在于，包括：
2.根据权利要求1所述的方法，其特征在于，所述准确率条件中定义有准确率阈值；所述若已接收到部分备选答案且该部分备选答案已满足预设的准确率条件，则基于该部分备选答案确定出针对所述提问信息的答复信息，包括：
3.根据权利要求2所述的方法，其特征在于，还包括：
4.根据权利要求2所述的方法，其特征在于，所述确定接收到的每个备选答案对应的答复准确率，包括：
5.根据权利要求4所述的方法，其特征在于，任一大语言模型实例针对任一备选类别的答复准确率，通过下述方式所确定：
6.根据权利要求2所述的方法，其特征在于，所述准确率条件中还定义有数量阈值；所述若已接收到部分备选答案且该部分备选答案已满足预设的准确率条件，则基于该部分备选答案确定出针对所述提问信息的答复信息，还包括：
7.根据权利要求6所述的方法，其特征在于，通过下述方式确定所述数量阈值：
8.根据权利要求6所述的方法，其特征在于，还包括：
9.根据权利要求1所述的方法，其特征在于，还包括
10.根据权利要求1所述的方法，其特征在于，
11.一种电子设备，包括：处理器；用于存储处理器可执行指令的存储器；其中，所述处理器通过运行所述可执行指令以实现如权利要求1-10中任一项所述方法的步骤。
12.一种计算机可读存储介质，其上存储有计算机指令，该指令被处理器执行时实现如权利要求1-10中任一项所述方法的步骤。
13.一种计算机程序产品，其特征在于，包括计算机程序/指令，该计算机程序/指令被处理器执行时实现如权利要求1-10中任一项所述方法的步骤。
...【技术特征摘要】
1.一种基于大语言模型的问答方法，其特征在于，包括：
2.根据权利要求1所述的方法，其特征在于，所述准确率条件中定义有准确率阈值；所述若已接收到部分备选答案且该部分备选答案已满足预设的准确率条件，则基于该部分备选答案确定出针对所述提问信息的答复信息，包括：
3.根据权利要求2所述的方法，其特征在于，还包括：
4.根据权利要求2所述的方法，其特征在于，所述确定接收到的每个备选答案对应的答复准确率，包括：
5.根据权利要求4所述的方法，其特征在于，任一大语言模型实例针对任一备选类别的答复准确率，通过下述方式所确定：
6.根据权利要求2所述的方法，其特征在于，所述准确率条件中还定义有数量阈值；所述若已接收到部分备选答案且该部分备选答案已满足预设的准确率条件，则基于该部分备选答案确定出针对所述...
【专利技术属性】
技术研发人员：彭勃，李海勇，张杰帆，
申请(专利权)人：亲橙智慧空间科技服务杭州有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。