System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
的熟练人员将轻易观察到,可以在保留本专利技术教学的同时对装置和方法进行众多修改和变更。因此,上述揭露应仅受限于所附权利要求的范围和界限。
技术介绍
1、人工智能(artificial intelligence,ai)模型是一个经过一组数据训练,以识别特定模式或在无人干预的情况下做出特定决策的程序。ai模型由两个主要元素组成:电子装置的硬件(例如,神经网络处理单元(npu)或图形处理单元(gpu))执行的指令;以及用作ai模型的权重和量化参数的数据。一些ai模型的大小因ai模型的增长而变得更大,这些具有相似权重的ai模型重新训练或微调,以迎合不同的应用并为用户提供各种风格。因此,电子装置需要在这些ai模型之间切换,以满足各种应用需求。
技术实现思路
1、本专利技术提供电子装置和用于处理电子装置的人工智能(ai)模型切换的方法。
2、在一个实施例中,本专利技术提供一种电子装置,包括:储存装置;内存;以及处理电路,耦接至该储存装置和该内存,并配置为执行指令:分别将第一人工智能(ai)模型和至少一个第二ai模型编译为第一编译档案和至少一个第二编译档案,其中该第一编译档案包括第一数据集和第一指令集,该至少一个第二编译档案包括至少一个第二数据集和至少一个第二指令集;根据该第一编译档案和该至少一个第二编译档案为该至少一个第二ai模型生成至少一个轻量版档案,其中该至少一个轻量版档案包括该至少一个第二指令集和至少一个数据补丁;该第一编译档案和该至少一个轻量版档案储存至该储存装置;在推断该
3、在另一实施例中,本专利技术提供另一种电子装置,包括:储存装置;内存;以及处理电路,耦接至该储存装置和该内存,并配置为执行指令:分别将第一人工智能(ai)模型和至少一个第二ai模型编译为第一编译档案和至少一个第二编译档案,其中该第一编译档案包括第一数据集和第一指令集,该至少一个第二编译档案包括至少一个第二数据集和至少一个第二指令集,且该第一数据集和该至少一个第二数据集相同;根据该至少一个第二编译档案为该至少一个第二ai模型生成至少一个轻量版档案,其中该至少一个轻量版档案包括该至少一个第二指令集;将该第一编译档案和该至少一个轻量版档案储存至该储存装置;在推断该第一ai模型期间,将该第一编译档案从该储存装置加载至该内存;在推断该至少一个第二ai模型期间,将该至少一个轻量版档案从该储存装置加载至该内存;在获得该内存中的该第一数据集;以及根据在该内存中的该第一数据集和该至少一个第二指令集执行该至少一个第二ai模型。
4、在另一实施例中,本专利技术提供一种用于处理电子装置的人工智能(ai)模型切换的方法,包括:分别将第一ai模型和至少一个第二ai模型编译为第一编译档案和至少一个第二编译档案,其中该第一编译档案包括第一数据集和第一指令集,以及该至少一个第二编译档案包括至少一个第二数据集和至少一个第二指令集;根据该第一编译档案和该至少一个第二编译档案为该至少一个第二ai模型生成至少一个轻量版档案,其中至少一个轻量版档案包括该至少一个第二指令集和至少一个数据补丁;将该第一编译档案和该至少一个轻量版档案储存到该电子装置中的储存装置;在推断该第一ai模型期间,将该第一编译档案从该储存装置加载至该电子装置的内存中;在推断该至少一个第二ai模型期间,将该少一个轻量版档案从该储存装置加载至该内存中;根据该内存中的该第一数据集和至少一个数据补丁生成该至少一个第二数据集;并根据该生成的该至少一个第二数据集和在该内存中的该至少一个第二指令集执行该至少一个第二ai模型。
本文档来自技高网...【技术保护点】
1.一种电子装置,其特征在于,包括:
2.如权利要求1所述的电子装置,其特征在于,该指令进一步包括:
3.如权利要求1所述的电子装置,其特征在于,该第一AI模型包括该第一数据集、第一尺寸列表和该第一指令集,该至少一个第二AI模型包括该至少一个第二数据集、至少一个第二尺寸列表和该至少一个第二指令集。
4.如权利要求1所述的电子装置,其特征在于,该至少一个数据补丁包括至少一个第一数据补丁。
5.如权利要求4所述的电子装置,其特征在于,该至少一个第一数据补丁指示该第一数据集和该至少一个第二数据集之间的至少一个第一差异,并用于将该第一数据集变为该至少一个第二数据集。
6.如权利要求4所述的电子装置,其特征在于,该至少一个数据补丁进一步包括至少一个第二数据补丁,该至少一个第二数据补丁指示该至少一个第二数据集和该第一数据集之间的至少一个第二差异,并用于将该至少一个第二数据集变为该第一数据集。
7.如权利要求6所述的电子装置,其特征在于,该指令进一步包括:
8.如权利要求7所述的电子装置,其特征在于,该指令进一
9.如权利要求1所述的电子装置,其特征在于,该至少一个数据补丁的尺寸小于该至少一个第二数据集的尺寸。
10.一种电子装置,其特征在于,包括:
11.如权利要求10所述的电子装置,其特征在于,该第一AI模型包括该第一数据集、第一尺寸列表和该第一指令集,以及该至少一个第二AI模型包括该至少一个第二数据集、至少一个第二尺寸列表和该至少一个第二指令集。
12.如权利要求10所述的电子装置,其特征在于,指令进一步包括:
13.如权利要求12所述的电子装置,其特征在于,指令进一步包括:
14.一种用于处理电子装置的人工智能(AI)模型切换的方法,其特征在于,包括:
15.如权利要求14所述的方法,其特征在于,指令进一步包括:
16.如权利要求14所述的方法,其特征在于,该至少一个数据补丁包括至少一个第一数据补丁。
17.如权利要求16所述的方法,其特征在于,该至少一个第一数据补丁指示该第一数据集和该至少一个第二数据集之间的至少一个第一差异,并用于将该第一数据集变为该至少一个第二数据集。
18.如权利要求16所述的方法,其特征在于,该至少一个数据补丁进一步包括至少一个第二数据补丁,并且该至少一个第二数据补丁指示该至少一个第二数据集和该第一数据集之间的至少一个第二差异,并用于将该至少一个第二数据集变为该第一数据集。
19.如权利要求18所述的方法,其特征在于,进一步包括:
20.如权利要求19所述的方法,其特征在于,进一步包括:
...【技术特征摘要】
1.一种电子装置,其特征在于,包括:
2.如权利要求1所述的电子装置,其特征在于,该指令进一步包括:
3.如权利要求1所述的电子装置,其特征在于,该第一ai模型包括该第一数据集、第一尺寸列表和该第一指令集,该至少一个第二ai模型包括该至少一个第二数据集、至少一个第二尺寸列表和该至少一个第二指令集。
4.如权利要求1所述的电子装置,其特征在于,该至少一个数据补丁包括至少一个第一数据补丁。
5.如权利要求4所述的电子装置,其特征在于,该至少一个第一数据补丁指示该第一数据集和该至少一个第二数据集之间的至少一个第一差异,并用于将该第一数据集变为该至少一个第二数据集。
6.如权利要求4所述的电子装置,其特征在于,该至少一个数据补丁进一步包括至少一个第二数据补丁,该至少一个第二数据补丁指示该至少一个第二数据集和该第一数据集之间的至少一个第二差异,并用于将该至少一个第二数据集变为该第一数据集。
7.如权利要求6所述的电子装置,其特征在于,该指令进一步包括:
8.如权利要求7所述的电子装置,其特征在于,该指令进一步包括:
9.如权利要求1所述的电子装置,其特征在于,该至少一个数据补丁的尺寸小于该至少一个第二数据集的尺寸。
10.一种电子装置,其特征在于,包括:
11.如...
【专利技术属性】
技术研发人员:许家维,卢育龙,蒋彦亭,陈志玮,卢奕呈,洪佳贤,陈冠宇,丛培贵,吴骅,
申请(专利权)人:联发科技股份有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。