一种奇异值分解运算实现方法、装置以及相关设备制造方法及图纸

本发明专利技术公开了一种奇异值分解运算实现方法、装置以及相关设备，其中，上述奇异值分解运算实现方法包括：构建奇异值分解算子，其中，上述奇异值分解算子用于对目标设备中的数据进行搬运并进行奇异值分解运算；将上述奇异值分解算子部署到上述目标设备中，其中，上述目标设备为昇腾AI处理器；获取待处理数据，基于部署后的奇异值分解算子对上述待处理数据进行奇异值分解运算。与现有技术相比，本发明专利技术方案中构建可以对昇腾AI处理器中的数据进行搬运并进行奇异值分解运算的奇异值分解算子，并将奇异值分解算子部署到昇腾AI处理器中，有利于充分利用昇腾处理器的计算能力，直接基于昇腾AI处理器对待处理数据进行SVD运算。AI处理器对待处理数据进行SVD运算。AI处理器对待处理数据进行SVD运算。

【技术实现步骤摘要】
一种奇异值分解运算实现方法、装置以及相关设备


[0001]本专利技术涉及奇异值分解
，尤其涉及的是一种奇异值分解运算实现方法、装置以及相关设备。

技术介绍

[0002]AI技术的发展往往依赖于海量数据的处理，这对算力提出了非常高的要求。昇腾AI处理器是针对这种计算密集型任务的特点推出的高算力处理器。昇腾AI处理器在AI任务处理中取得了很好的成绩，但其底层算子的支持仍然欠缺。
[0003]奇异值分解(SVD，Singularity Value Decompose)运算是数学里较为常见的一种矩阵计算过程，可以用来加速矩阵求逆的计算等，在信号处理、图像压缩、张量网络、二阶优化等方面发挥着重要作用。现有技术中，x86，arm和GPU等多个计算平台上都可以运行对应的SVD函数，以实现SVD运算。现有技术的问题在于，目前还没有可以在昇腾AI处理器上运行的SVD算子，对于需要进行奇异值分解运算的数据，无法直接基于昇腾AI处理器进行SVD运算，不利于充分利用昇腾处理器的计算能力。
[0004]因此，现有技术还有待改进和发展。

技术实现思路

[0005]本专利技术的主要目的在于提供一种奇异值分解运算实现方法、装置以及相关设备，旨在解决现有技术中的奇异值分解算子不能在昇腾AI处理器上运行，对于需要进行奇异值分解运算的数据，无法直接基于昇腾AI处理器进行奇异值分解运算，不利于充分利用昇腾AI处理器的计算能力的问题。
[0006]为了实现上述目的，本专利技术第一方面提供一种奇异值分解运算实现方法，其中，上述方法包括：
[0007]构建奇异值分解算子，其中，上述奇异值分解算子用于对目标设备中的数据进行搬运并进行奇异值分解运算；
[0008]将上述奇异值分解算子部署到上述目标设备中，其中，上述目标设备为昇腾AI处理器；
[0009]获取待处理数据，基于部署后的奇异值分解算子对上述待处理数据进行奇异值分解运算。
[0010]可选的，上述构建奇异值分解算子，包括：
[0011]基于奇异值分解的算法流程，构造上述奇异值分解算子的子函数，其中，上述算法流程是幂迭代法对应的流程。
[0012]可选的，上述奇异值分解算子的子函数包括：向量归一化子函数，矩阵乘向量子函数，向量乘矩阵子函数以及向量正交化子函数。
[0013]可选的，上述向量归一化子函数用于：对待归一向量分块进行数据搬运和计算，获取上述待归一向量的归一化向量以及上述待归一向量的模。
[0014]可选的，上述矩阵乘向量子函数用于：对上述矩阵乘向量子函数对应的矩阵和向量分批进行数据搬运和计算，获取输出向量。
[0015]可选的，上述向量乘矩阵子函数用于：对上述向量乘矩阵子函数对应的向量和矩阵分批进行数据搬运和计算，获取输出向量。
[0016]可选的，上述向量正交化子函数用于：基于输入上述向量正交化子函数的输入向量和归一化向量，计算获取输出向量，其中，上述输入向量与上述输出向量的内积为0。
[0017]可选的，上述基于所有上述子函数构建上述奇异值分解算子，包括：
[0018]基于上述向量归一化子函数、矩阵乘向量子函数、向量乘矩阵子函数以及向量正交化子函数，通过TIK完成上述奇异值分解算子的编写。
[0019]可选的，上述获取待处理数据，基于部署后的奇异值分解算子对上述待处理数据进行奇异值分解运算，包括：
[0020]获取待处理数据，基于幂迭代法，调用上述奇异值分解算子的子函数对上述待处理数据进行奇异值分解运算。
[0021]本专利技术第二方面提供一种奇异值分解运算实现装置，其中，上述装置包括：
[0022]算子构建模块，用于构建奇异值分解算子，其中，上述奇异值分解算子用于对目标设备中的数据进行搬运并进行奇异值分解运算；
[0023]算子部署模块，用于将上述奇异值分解算子部署到上述目标设备中，其中，上述目标设备为昇腾AI处理器；
[0024]运算模块，用于获取待处理数据，基于部署后的奇异值分解算子对上述待处理数据进行奇异值分解运算。
[0025]可选的，上述算子构建模块具体用于：基于奇异值分解的算法流程，构造上述奇异值分解算子的子函数，其中，上述算法流程是幂迭代法对应的流程。
[0026]本专利技术第三方面提供一种智能终端，上述智能终端包括存储器、处理器以及存储在上述存储器上并可在上述处理器上运行的奇异值分解运算实现程序，上述奇异值分解运算实现程序被上述处理器执行时实现任意一项上述奇异值分解运算实现方法的步骤。
[0027]本专利技术第四方面提供一种计算机可读存储介质，上述计算机可读存储介质上存储有奇异值分解运算实现程序，上述奇异值分解运算实现程序被处理器执行时实现任意一项上述奇异值分解运算实现方法的步骤。
[0028]由上可见，本专利技术方案中，构建奇异值分解算子，其中，上述奇异值分解算子用于对目标设备中的数据进行搬运并进行奇异值分解运算；将上述奇异值分解算子部署到上述目标设备中，其中，上述目标设备为昇腾AI处理器；获取待处理数据，基于部署后的奇异值分解算子对上述待处理数据进行奇异值分解运算。与现有技术相比，本专利技术方案中构建可以对昇腾AI处理器中的数据进行搬运并进行奇异值分解运算的奇异值分解算子，并将奇异值分解算子部署到昇腾AI处理器中，有利于充分利用昇腾处理器的计算能力，直接基于昇腾AI处理器对待处理数据进行SVD运算。
附图说明
[0029]为了更清楚地说明本专利技术实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本专利技术的一些
实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其它的附图。
[0030]图1是本专利技术实施例提供的华为达芬奇AI Core架构示意图；
[0031]图2是本专利技术实施例提供的一种矩阵的SVD分解示意图；
[0032]图3是本专利技术实施例提供的一种奇异值分解运算实现方法的流程示意图；
[0033]图4是本专利技术实施例提供的AI Core中vector计算单元数据搬运过程示意图；
[0034]图5是本专利技术实施例提供的一种矩阵乘向量的示意图；
[0035]图6是本专利技术实施例提供的一种向量乘矩阵的示意图；
[0036]图7是本专利技术实施例提供的一种奇异值分解运算实现装置的结构示意图；
[0037]图8是本专利技术实施例提供的一种智能终端的内部结构原理框图。
具体实施方式
[0038]以下描述中，为了说明而不是为了限定，提出了诸如特定系统结构、技术之类的具体细节，以便透彻理解本专利技术实施例。然而，本领域的技术人员应当清楚，在没有这些具体细节的其它实施例中也可以实现本专利技术。在其它情况下，省略对众所周知的系统、装置、电路以及方法的详细说明，以免不必要的细节妨碍本专利技术的描述。
[0039]应当理解，当在本说明书和所附权利要求书中使用时本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种奇异值分解运算实现方法，其特征在于，所述方法包括：构建奇异值分解算子，其中，所述奇异值分解算子用于对目标设备中的数据进行搬运并进行奇异值分解运算；将所述奇异值分解算子部署到所述目标设备中，其中，所述目标设备为昇腾AI处理器；获取待处理数据，基于部署后的奇异值分解算子对所述待处理数据进行奇异值分解运算。2.根据权利要求1所述的奇异值分解运算实现方法，其特征在于，所述构建奇异值分解算子，包括：基于奇异值分解的算法流程，构造所述奇异值分解算子的子函数，其中，所述算法流程是幂迭代法对应的流程。3.根据权利要求2所述的奇异值分解运算实现方法，其特征在于，所述奇异值分解算子的子函数包括：向量归一化子函数，矩阵乘向量子函数，向量乘矩阵子函数以及向量正交化子函数。4.根据权利要求3所述的奇异值分解运算实现方法，其特征在于，所述向量归一化子函数用于：对待归一向量分块进行数据搬运和计算，获取所述待归一向量的归一化向量以及所述待归一向量的模。5.根据权利要求3所述的奇异值分解运算实现方法，其特征在于，所述矩阵乘向量子函数用于：对所述矩阵乘向量子函数对应的矩阵和向量分批进行数据搬运和计算，获取输出向量。6.根据权利要求3所述的奇异值分解运算实现方法，其特征在于，所述向量乘矩阵子函数用于：对所述向量乘矩阵子函数对应的向量和矩阵分批进行数据搬运和计算，获取输出向量。7.根据权利要求3所述的奇异值分解运算实现方法，其特征在于，所述向量正交化子函数用于：基于输入所述向量正交化子函数的输入向量和归一化向量，计算获取输出向量，其中，所述输入向量与所述输出向量的内积为0。8.根据权利要求3所述的奇异值分解运算实现方法，其特征在于，所述基于所有所述子函数构建所述奇异...

【专利技术属性】
技术研发人员：范登栋，杨凯，张超，吴泽文，刘勇翔，徐鹏翔，
申请(专利权)人：鹏城实验室，
类型：发明
国别省市：