System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本专利技术涉及通信,尤其涉及一种智能体的模型处理方法、装置、电子设备及存储介质。
技术介绍
1、随着大模型技术的快速发展,不同先进架构的大模型在不断涌现。例如基于混合专家模型(mixed expert models,moe)的多模态大型语言模型(gpt-4)在生成文本内容上展现出卓越的性能,能够高质量实现自然语言处理任务,如文本生成、对话管理、语义理解等。基于注意力机制(transformer)架构的视觉技术模型,能够生成高质量、长时长且保持时空与角色一致性的视频内容。
2、ai智能体(ai agent)基于大模型技术,实现了在细分场景差异化的特性增强。例如,ai精准学教育智能体,针对数理化等逻辑性题目,采用知识点检索增强生成(retrieval-augmented generation,rag)和分步解析思路,将问题分解成多个子问题和知识点。
3、随着低成本的实时操作系统(real-time operating system,rtos)的可穿戴设备、智能家居产品的快速普及,智能硬件已经成为当前阶段的主要发展方向。其中,受限于各智能终端厂商的细分领域不同,在各自领域中形成了独特的软硬件一体化智能方案。例如,a智能终端厂商的智能硬件,只能加载a厂商的大模型智能体,b智能终端厂商的智能硬件,只能加载b厂商的大模型智能体。
4、由此可知,目前的终端只能加载其所属的设备厂商的智能体,无法实现一机多用。
技术实现思路
1、本申请实施例提供一种智能体的模型处
2、第一方面,本申请实施例提供了一种智能体的模型处理方法,应用于终端,所述方法包括:
3、获取应用场景信息;
4、向服务器发送所述应用场景信息以及所述终端的设备能力信息;
5、加载第一智能体的第一模型,其中,所述第一智能体为所述服务器确定的,与所述应用场景信息和所述终端的设备能力信息相匹配的智能体;
6、接收所述服务器发送的所述第一模型的第一运行参数,并保存所述第一运行参数。
7、第二方面,本申请实施例还提供一种智能体的模型处理方法,应用于服务器,所述方法包括:
8、接收终端发送的应用场景信息和所述终端的设备能力信息;
9、确定与所述应用场景信息和所述设备能力信息匹配的第一智能体;
10、向所述终端发送所述第一智能体的第一模型,以及所述第一模型的第一运行参数。
11、第三方面,本申请的实施例提供了一种智能体的模型处理装置,应用于终端,所述装置包括:
12、第一获取模块,用于获取应用场景信息;
13、第一发送模块,用于向服务器发送所述应用场景信息以及所述终端的设备能力信息;
14、加载模块,用于加载第一智能体的第一模型,其中,所述第一智能体为所述服务器确定的,与所述应用场景信息和所述终端的设备能力信息相匹配的智能体;
15、第一接收模块,用于接收所述服务器发送的所述第一模型的第一运行参数,并保存所述第一运行参数。
16、第四方面,本申请的实施例提供了一种智能体的模型处理装置,应用于服务器,所述装置包括:
17、第二接收模块,用于接收终端发送的应用场景信息和所述终端的设备能力信息;
18、确定模块,用于确定与所述应用场景信息和所述设备能力信息匹配的第一智能体;
19、第二发送模块,用于向所述终端发送所述第一智能体的第一模型,以及所述第一模型的第一运行参数。
20、第五方面,本申请的实施例提供了一种电子设备,包括存储器,收发机,处理器:
21、存储器,用于存储计算机程序;收发机,用于在所述处理器的控制下收发数据;处理器,用于读取所述存储器中的计算机程序并执行上述第一方面所述的智能体的模型处理方法,或者上述第二方面所述的智能体的模型处理方法。
22、第六方面,本申请的实施例提供了一种可读存储介质,所述可读存储介质上存储程序或指令,所述程序或指令被处理器执行时实现上述第一方面所述的智能体的模型处理方法,或者实现上述第二方面所述的智能体的模型处理方法。
23、在本申请实施例中,终端能够获取应用场景信息,并向服务器发送该应用场景信息以及终端的设备能力信息,从而使得终端可以从服务器中加载与该应用场景信息和设备能力信息匹配的第一智能体的第一模型,并接收服务器发送的第一模型的第一运行参数,保存第一运行参数。可见,在本申请实施例中,终端可以基于应用场景和设备能力,动态加载所需的智能体,从而可以实现一机多用。
本文档来自技高网...【技术保护点】
1.一种智能体的模型处理方法,其特征在于,应用于终端,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述第一智能体还包括部署在服务器侧的第二模型;
3.根据权利要求2所述的方法,其特征在于,所述第一模型包括意图分析子模型、除所述意图分析子模型之外的多个具备不同功能的第一子模型;
4.根据权利要求3所述的方法,其特征在于,所述第一模型还包括个性化处理子模型,所述向所述服务器发送所述第一输入内容之前,所述方法还包括:
5.一种智能体的模型处理方法,其特征在于,应用于服务器,所述方法包括:
6.根据权利要求5所述的方法,其特征在于,所述服务器中存储有所述第一智能体的第二模型的第二运行参数;
7.一种智能体的模型处理装置,其特征在于,应用于终端,所述装置包括:
8.一种智能体的模型处理装置,其特征在于,应用于服务器,所述装置包括:
9.一种电子设备,其特征在于,包括存储器,收发机,处理器:
10.一种可读存储介质,其特征在于,所述可读存储介质上存储程序或指令,所述程序或
...【技术特征摘要】
1.一种智能体的模型处理方法,其特征在于,应用于终端,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述第一智能体还包括部署在服务器侧的第二模型;
3.根据权利要求2所述的方法,其特征在于,所述第一模型包括意图分析子模型、除所述意图分析子模型之外的多个具备不同功能的第一子模型;
4.根据权利要求3所述的方法,其特征在于,所述第一模型还包括个性化处理子模型,所述向所述服务器发送所述第一输入内容之前,所述方法还包括:
5.一种智能体的模型处理方法,其特征在于,应用于服务器,所述方法包括:
6...
【专利技术属性】
技术研发人员:苏泽阳,纪志辉,张秀侠,代思凡,
申请(专利权)人:中电信人工智能科技北京有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。