【技术实现步骤摘要】
本专利技术涉及人工智能，具体是基于认知推理的智能问答方法、装置及系统。
技术介绍
1、在信息技术飞速发展的今天，智能问答系统已成为连接人与信息、服务的重要桥梁。传统的问答系统往往依赖于关键词匹配、预设规则或模板等方法，这些方法在处理简单、结构化良好的问题时表现尚可，但在面对复杂、多领域交叉、需要深度理解的问题时，其局限性和不足便显露无遗。近年来，随着人工智能技术的不断进步，特别是大语言模型的兴起，为智能问答系统带来了新的曙光。大语言模型凭借其强大的自然语言处理能力和广泛的知识覆盖，能够更准确地理解用户意图，提供更为精准、全面的回答。
2、然而，大语言模型并非万能，其在不同领域的表现存在差异，且资源消耗大、响应时间长等问题也限制了其广泛应用。如何高效、合理地利用大语言模型资源，实现快速、准确的问答，成为当前智能问答系统面临的一大挑战。此外，随着用户需求的日益多样化，单一领域的问答已无法满足实际需求，多领域交叉问答成为新的趋势。这就要求智能问答系统能够自动识别问题领域，动态调整问答策略，确保每个问题都能得到最合适的解答。
3、针对上述问题，现有技术虽然提出了一些解决方案，如通过领域分类器识别问题领域，再调用相应领域的大语言模型进行解答，但这些方案往往忽略了不同大语言模型在资源占用、通信延迟等方面的差异，导致系统整体效率不高。同时，对于多领域交叉问题，现有技术缺乏有效的处理机制，往往只能简单地将问题拆分后分别处理，忽略了问题之间的关联性和整体性。
技术实现思路
1
2、步骤一，云端模型调用服务器根据不同大语言模型在不同领域的回答速度和正确率，得大语言模型在对应领域的回答效率，根据大语言模型在对应领域的回答效率得到对应领域的大语言模型序列，云端模型调用服务器获取问答设备的发送的待解答问题信息，生成问答容器；
3、步骤二，问答容器根据问答设备发送的待解答问题信息获取待解答问题的领域，若待解答问题的领域为单一领域问题，则进入步骤三，否则，则进入步骤四；
4、步骤三，根据待解答问题的领域，获取对应领域的大语言模型序列，根据各个大语言模型的回答效率，问答容器将待解答问题信息发送到回答效率最高的大预言模型，生成问答内容，进入步骤六；
5、步骤四，根据待解答问题包括的领域，得到各个对应领域的大语言模型序列，根据对应领域的大语言模型序列中大语言模型的资源占用，分别得到对应领域的大语言模型序列中各个大语言模型的调用优先级，并根据问答设备与对应领域的大语言模型序列中各大语言模型的通信延迟和大语言模型调用优先级，得到大语言模型问答优先级，根据问答优先级得到对应领域的大语言模型问答序列；
6、步骤五，根据各个对应领域的大语言模型问答序列中问答优先级最高的大语言模型，和待解答问题的领域的先后顺序，得到对应待解答问题的大语言问答模型序列，问答容器将待解答问题发送到对应待解答问题的大语言问答模型序列，生成问答内容；
7、步骤六，问答容器将问答内容返回到问答设备，完成智能问答。
8、进一步的，所述的云端模型调用服务器根据不同大语言模型在不同领域的回答速度和正确率，得大语言模型在对应领域的回答效率，包括：
9、回答效率= γ×回答速度+ δ×正确率
10、其中的 γ表示回答速度的权重系数， δ表示正确率的权重系数。
11、进一步的，所述的根据对应领域的大语言模型序列中大语言模型的资源占用，得到对应领域的大语言模型序列中各个大语言模型的调用优先级，并根据问答设备与对应领域的大语言模型序列中各大语言模型的通信延迟和大语言模型调用优先级，得到大语言模型问答优先级，包括：
12、所述的大语言模型的资源占用包括算力占用、回答负载和回答效率，根据资源占用得到大语言模型的调用优先级，采用如下公式：
13、调用优先级= α×算力占用+ β×回答负载+回答效率
14、其中， α表示算力占用权重系数、 β表示回答负载权重系数；
15、根据问答设备与对应领域的大语言模型序列中各大语言模型的通信延迟和大语言模型调用优先级，得到大语言模型问答优先级：
16、大语言模型问答优先级= α×算力占用+ β×回答负载+回答效率+问答设备与大语言模型的通信延迟。
17、进一步的，所述的问答设备与对应领域的大语言模型序列中各大语言模型的通信延迟，包括：
18、问答设备向大语言模型发送带有时间戳的测试请求，记录各大语言模型响应的时间戳，通过计算请求发送与响应接收的时间差来确定通信延迟。
19、进一步的，所述的问答容器将待解答问题发送到对应待解答问题的大语言问答模型序列，生成问答内容，包括：
20、问答容器将待解答问题分解为对应领域的子问题，并根据解答问题的领域的先后顺序，得到对应领域的子问题序列，根据对应领域的子问题序列将对应领域的子问题发送到对应待解答问题的大语言问答模型序列，根据大语言问答模型返回的问答结果和下一个对应领域的子问题，发送到下一个大语言问答模型，直到完成所有对应领域的子问题的问答，得到问答内容。
21、基于认知推理的智能问答装置，应用所述的基于认知推理的智能问答方法，包括通信装置、延迟测试模块、数据处理模块和信息输入模块；所述的通信装置、延迟测试模块和信息输入模块分别与所述的数据处理模块连接。
22、基于认知推理的智能问答系统，应用所述的基于认知推理的智能问答装置，包括云端模型调用服务器、通信设备；
23、所述的基于认知推理的智能问答装置通过通信设备与所述的云端模型调用服务器通信连接。
24、本专利技术的有益效果是：提高问答效率与准确性：通过综合考虑大语言模型在不同领域的回答效率和资源占用情况，本专利技术能够动态选择最优的大语言模型进行问题解答，从而显著提高问答的效率和准确性。
25、降低资源消耗：本专利技术通过精细化的资源管理和调度，避免了不必要的资源浪费。特别是在处理多领域交叉问题时，通过优化大语言模型的调用顺序和方式，有效降低了系统的整体资源消耗。
26、减少通信延迟：通过实时测量和考虑通信延迟，本专利技术能够选择通信延迟最小的大语言模型进行问题解答，从而减少了用户等待时间，提升了用户体验。
27、支持多领域交叉问答：本专利技术能够自动识别和处理多领域交叉问题，通过构建大语言问答模型序列，确保本文档来自技高网...
【技术保护点】
1.基于认知推理的智能问答方法，其特征在于，包括如下步骤：
2.根据权利要求1所述的基于认知推理的智能问答方法，其特征在于，所述的云端模型调用服务器根据不同大语言模型在不同领域的回答速度和正确率，得大语言模型在对应领域的回答效率，包括：
3.根据权利要求2所述的基于认知推理的智能问答方法，其特征在于，所述的根据对应领域的大语言模型序列中大语言模型的资源占用，分别得到对应领域的大语言模型序列中各个大语言模型的调用优先级，并根据问答设备与对应领域的大语言模型序列中各大语言模型的通信延迟和大语言模型调用优先级，得到大语言模型问答优先级，包括：
4.根据权利要求3所述的基于认知推理的智能问答方法，其特征在于，所述的问答设备与对应领域的大语言模型序列中各大语言模型的通信延迟，包括：
5.根据权利要求4所述的基于认知推理的智能问答方法，其特征在于，所述的问答容器将待解答问题发送到对应待解答问题的大语言问答模型序列，生成问答内容，包括：
6.基于认知推理的智能问答装置，其特征在于，应用权利要求1-5任一所述的基于认知推理的智能问答方法
7.基于认知推理的智能问答系统，其特征在于，应用权利要求6所述的基于认知推理的智能问答装置，包括云端模型调用服务器、通信设备；
...【技术特征摘要】
1.基于认知推理的智能问答方法，其特征在于，包括如下步骤：
2.根据权利要求1所述的基于认知推理的智能问答方法，其特征在于，所述的云端模型调用服务器根据不同大语言模型在不同领域的回答速度和正确率，得大语言模型在对应领域的回答效率，包括：
3.根据权利要求2所述的基于认知推理的智能问答方法，其特征在于，所述的根据对应领域的大语言模型序列中大语言模型的资源占用，分别得到对应领域的大语言模型序列中各个大语言模型的调用优先级，并根据问答设备与对应领域的大语言模型序列中各大语言模型的通信延迟和大语言模型调用优先级，得到大语言模型问答优先级，包括：
4.根据权利要求3所述的基于认知推理的智能问答方法，...
【专利技术属性】
技术研发人员：王晓丹，王曦，
申请(专利权)人：四川并济科技有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。