System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本专利技术涉及多智能体交互,特别是指一种基于大模型的多智能体问答交互效率和性能优化方法及装置。
技术介绍
1、从自然语言处理到复杂推理,大型语言模型(large language model,llm)已经成为解决广泛领域任务的强大工具。基于大语言模型开发自主多智能体系统(multi-agentsystem,mas)成为当前研究热点,该系统旨在利用多个基于llm的智能体的集体智能来协作解决问题和决策。然而,目前基于llm的mas在实际应用层面面临着重大困难。代理之间的协调和通信往往缺乏效率,导致冗长的信息交互,进而出现大量的令牌消耗、更长的推理时间和更高的计算成本。
2、近年来国内外的研究表明,多个基于llm的智能体,通过对话、辩论等合作方式,相比于单个llm,可以极大地提高在多种任务上的表现。为了便于表示和优化mas,研究者使用通信图来表示多智能体的通信过程,这个图由节点、边组成,每个节点都扮演着特定角色的智能体,有向边则表示智能体之间信息的传递。在这种情况下,mas被概念化为一个图,形成一个连贯的功能实体。面对mas高额的令牌开销和计算成本,研究者定义了mas中的通信冗余,即在mas中大量的消息传递对协作智能没有有意义的贡献,不会提升多智能体合作的性能。基于上述研究理论,对智能体之间的通信边进行剪枝的方法成为主要研究方向,即通过剪枝的方法对不重要的边进行删除,实现通信次数减少,达到提高效率的目的。但目前还没有方法对mas中的智能体角色进行优化。
3、在现有技术中,缺乏一种基于多智能体角色的效率高且鲁棒性
技术实现思路
1、为了解决现有技术存在的mas中存在的巨大令牌开销和计算成本的问题,尤其是针对同时进行轮内通信和轮间通信的mas的技术问题,本专利技术实施例提供了一种基于大模型的多智能体问答交互效率和性能优化方法及装置。所述技术方案如下:
2、一方面,提供了一种基于大模型的多智能体问答交互效率和性能优化方法,该方法由多智能体问答交互效率和性能优化设备实现,该方法包括:
3、获取训练问答任务以及训练数据;基于多智能体,根据训练问答任务构建第一通信图以及第一图权重模型;
4、基于第一预设轮次,根据训练数据以及第一通信图,使用无偏策略梯度估计方法对第一图权重模型进行第一阶段优化训练,获得第二图权重模型以及第二通信图;
5、基于第二预设轮次,使用训练数据以及第二通信图,使用无偏策略梯度估计方法对第二图权重模型进行第二阶段优化训练,获得第三图权重模型;
6、获取实际问答任务;根据实际问答任务,使用第三图权重模型进行问答推理,获得实际问答推理结果。
7、另一方面,提供了一种基于大模型的多智能体问答交互效率和性能优化装置,该装置应用于基于大模型的多智能体问答交互效率和性能优化方法,该装置包括:
8、模型构建模块,用于获取训练问答任务以及训练数据;基于多智能体,根据训练问答任务构建第一通信图以及第一图权重模型;
9、第一模型优化模块,用于基于第一预设轮次,根据训练数据以及第一通信图,使用无偏策略梯度估计方法对第一图权重模型进行第一阶段优化训练,获得第二图权重模型以及第二通信图;
10、第二模型优化模块,用于基于第二预设轮次,使用训练数据以及第二通信图,使用无偏策略梯度估计方法对第二图权重模型进行第二阶段优化训练,获得第三图权重模型;
11、问答推理模块,用于获取实际问答任务;根据实际问答任务,使用第三图权重模型进行问答推理,获得实际问答推理结果。
12、另一方面,提供一种多智能体问答交互效率和性能优化设备,所述多智能体问答交互效率和性能优化设备包括:处理器;存储器,所述存储器上存储有计算机可读指令,所述计算机可读指令被所述处理器执行时,实现如上述基于大模型的多智能体问答交互效率和性能优化方法中的任一项方法。
13、另一方面,提供了一种计算机可读存储介质,所述存储介质中存储有至少一条指令,所述至少一条指令由处理器加载并执行以实现上述基于大模型的多智能体问答交互效率和性能优化方法中的任一项方法。
14、本专利技术实施例提供的技术方案带来的有益效果至少包括:
15、本专利技术提出一种基于大模型的多智能体问答交互效率和性能优化方法,通过计算通信图中角色节点的度并丢弃重要性较低的节点,以此来模拟团队合作中动态调整参与者的角色以提高效率;通过训练样本利用策略梯度更新矩阵参数,对应轮内和轮间的通信低的边进行丢弃,以此减少不必要的信息传递。本专利技术是一种基于多智能体角色的效率高且鲁棒性好的多智能体问答交互效率和性能优化方法。
本文档来自技高网...【技术保护点】
1.一种基于大模型的多智能体问答交互效率和性能优化方法,其特征在于,所述方法包括:
2.根据权利要求1所述的基于大模型的多智能体问答交互效率和性能优化方法,其特征在于,所述基于多智能体,根据训练问答任务构建第一通信图以及第一图权重模型,包括:
3.根据权利要求2所述的基于大模型的多智能体问答交互效率和性能优化方法,其特征在于,所述第一图权重模型包括角色节点以及边;所述角色节点是对应多角色智能体构建的;所述边是对应第一通信图构建的。
4.根据权利要求1所述的基于大模型的多智能体问答交互效率和性能优化方法,其特征在于,所述基于第一预设轮次,根据训练数据以及第一通信图,使用无偏策略梯度估计方法对第一图权重模型进行第一阶段优化训练,获得第二图权重模型以及第二通信图,包括:
5.根据权利要求1所述的基于大模型的多智能体问答交互效率和性能优化方法,其特征在于,所述基于第二预设轮次,使用训练数据以及第二通信图,使用无偏策略梯度估计方法对第二图权重模型进行第二阶段优化训练,获得第三图权重模型,包括:
6.根据权利要求5所述的基于大模型的
7.一种基于大模型的多智能体问答交互效率和性能优化装置,所述基于大模型的多智能体问答交互效率和性能优化装置用于实现如权利要求1-6任一项所述基于大模型的多智能体问答交互效率和性能优化方法,其特征在于,所述装置包括:
8.根据权利要求7所述的基于大模型的多智能体问答交互效率和性能优化装置,其特征在于,所述模型构建模块,进一步用于:
9.一种多智能体问答交互效率和性能优化设备,其特征在于,所述多智能体问答交互效率和性能优化设备包括:
10.一种计算机可读取存储介质,其特征在于,所述计算机可读取存储介质中存储有程序代码,所述程序代码可被处理器调用执行如权利要求1至6任一项所述的方法。
...【技术特征摘要】
1.一种基于大模型的多智能体问答交互效率和性能优化方法,其特征在于,所述方法包括:
2.根据权利要求1所述的基于大模型的多智能体问答交互效率和性能优化方法,其特征在于,所述基于多智能体,根据训练问答任务构建第一通信图以及第一图权重模型,包括:
3.根据权利要求2所述的基于大模型的多智能体问答交互效率和性能优化方法,其特征在于,所述第一图权重模型包括角色节点以及边;所述角色节点是对应多角色智能体构建的;所述边是对应第一通信图构建的。
4.根据权利要求1所述的基于大模型的多智能体问答交互效率和性能优化方法,其特征在于,所述基于第一预设轮次,根据训练数据以及第一通信图,使用无偏策略梯度估计方法对第一图权重模型进行第一阶段优化训练,获得第二图权重模型以及第二通信图,包括:
5.根据权利要求1所述的基于大模型的多智能体问答交互效率和性能优化方法,其特征在于,所述基于第二预设轮次,使用训练数据以及第二通信图,使用无偏策略梯度估计方法对第二图权重模型进行第二阶段优化训...
【专利技术属性】
技术研发人员:刘学博,王哲轩,王雨桐,张民,
申请(专利权)人:哈尔滨工业大学深圳哈尔滨工业大学深圳科技创新研究院,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。