System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本申请涉及模型训练,特别是涉及一种流形测地线计算模型的训练方法、装置、设备及介质。
技术介绍
1、vae(变分自编码,variational auto-encoder)模型,其生成网络构建的是随机变量及随机化空间,若重构的原数据样本含有流形结构,则生成的样本在空间中是一种带有随机信息的特殊流形,称其为随机化流形。
2、随机化流形在其空间中的不同位置,会有不同的随机化成分,即不确定度。若原数据空间的某区域的已知样本量大,则对应生成的空间区域中随机成分弱,反之,若原数据空间的某区域的已知样本量很少,则对应生成的数据随机性强,即噪声大。由vae编码器生成网络输出公式f(z)=μ(z)+σ(z)·ε可知,vae编码器网络输出一个均值函数μ(z)和一个方差函数σ(z),定义了潜在空间中每个样本的概率分布。其中,ε噪声项的引入多少,取决于方差函数的结果。
3、目前的方差函数无法准确反映原始的输入数据样本空间关系,因此,无法基于原始的输入数据的潜在变异性有效地生成新的数据。
技术实现思路
1、有鉴于此,本申请实施例提供一种流形测地线计算模型的训练方法、装置、设备及介质,以便克服上述问题或者至少部分地解决上述问题。
2、本申请实施例第一方面提供了一种流形测地线计算模型的训练方法、装置、设备及介质,所述方法包括:
3、基于方差函数和均值函数,构建待训练的变分自编码器;
4、在将方差函数的输出值设置为常数的情况下,对所述待训练的变分自编码器进
5、在保持所述均值函数的各个权值不变的情况下,对经过第一阶段训练的变分自编码器进行第二阶段训练,在第二阶段的训练结束时,获得所述方差函数的各个权值;
6、在保持所获得的均值函数的各个权值和方差函数的各个权值均不变的情况下,学习随机化流形空间的参数值,所述随机化流形空间的参数值用于数据生成。
7、可选地,所述在保持所获得的均值函数的各个权值和方差函数的各个权值均不变的情况下,学习随机化流形空间的参数值,包括:
8、在保持所述均值函数的各个权值和所述方差函数的各个权值不变的情况下,以参数集优化公式,对三次样条曲线的参数集进行更新;
9、在对所述三次样条曲线的参数集进行更新的过程中,确定出目标参数集,所述目标参数集为能够使得所述三次样条曲线在隐变量空间中达到最优状态的参数集;
10、基于所述目标参数集,获取所述目标三次样条曲线的参数集表达式;
11、所述方法还包括:
12、在所述第二阶段的训练结束之后,基于所述均值函数的各个权值和所述方差函数的各个权值,获取重构网络;
13、基于所述重构网络,将所述目标三次样条曲线映射至生成空间中,以通过所述目标三次样条曲线在所述生成空间中,以最短距离连接两个给定点之间的距离,并对所述两个给定点之间的关系进行表示,以完成对数据的重构和生成。
14、可选地,所述参数集优化公式为:
15、
16、所述方法还包括:对s*进行求导,并采用随机梯度下降方法,计算参数集的更新量,得到所述目标参数集。
17、可选地,所述在保持所述均值函数的各个权值不变的情况下,对经过第一阶段训练的变分自编码器进行第二阶段训练,在第二阶段的训练结束时,获得所述方差函数的各个权值,包括:
18、建立加权高斯混合模型;
19、基于所述加权高斯混合模型表征所述方差函数;
20、其中,所述加权高斯混合模型为:k表示所述加权高斯混合模型中的高斯成分个数,ci表示第i个成分的均值和∑i表示第i个成分的协方差,ωi表示混合系数,wg∈rd表示权值向量,z表示隐变量。
21、可选地,所述方法还包括:
22、训练所述加权高斯混合模型的权值向量wg;
23、在所述权值向量wg训练完成后,基于所述训练完成后的权值向量wg,更新所述方差函数的各个权值。
24、可选地,所述方法还包括:
25、设置所述加权高斯混合模型中的协方差为对角阵;
26、通过log(σ2(z))来获取方差函数的输出值。
27、可选地,所述在将方差函数的输出值设置为常数的情况下,对所述待训练的变分自编码器进行第一阶段训练,在第一阶段训练结束时,获得所述均值函数的各个权值,包括:
28、将所述方差函数的输出值设置为常数;
29、获取所述均值函数的输出值,基于所述均值函数的输出值,确定所述均值函数的各个权值更新完毕。
30、本申请实施例第二方面提供了一种流形测地线计算模型的训练装置,所述装置包括:
31、构建模块,用于基于方差函数和均值函数,构建待训练的变分自编码器;
32、第一阶段训练模块,用于在将方差函数的输出值设置为常数的情况下,对所述待训练的变分自编码器进行第一阶段训练,在第一阶段训练结束时,获得所述均值函数的各个权值;
33、第二阶段训练模块,用于在保持所述均值函数的各个权值不变的情况下,对经过第一阶段训练的变分自编码器进行第二阶段训练,在第二阶段的训练结束时,获得所述方差函数的各个权值;
34、学习模块,用于在保持所获得的均值函数的各个权值和方差函数的各个权值均不变的情况下,学习随机化流形空间的参数值,所述随机化流形空间的参数值用于数据生成。
35、本申请实施例第三方面提供了一种电子设备,包括存储器、处理器以及存储在存储器上的计算机程序,其中,所述处理器执行所述计算机程序以实现如第一方面所述的流形测地线计算模型的训练方法。
36、本申请实施例第四方面提供了一种计算机可读介质,其上存储有计算机程序,其中,所述计算机程序被处理器执行时实现如第一方面所述的流形测地线计算模型的训练方法
37、本申请的有益效果:
38、本申请实施例提供一种流形测地线计算模型的训练方法,所述方法包括:基于方差函数和均值函数,构建待训练的变分自编码器;在将方差函数的输出值设置为常数的情况下,对所述待训练的变分自编码器进行第一阶段训练,在第一阶段训练结束时,获得所述均值函数的各个权值;在保持所述均值函数的各个权值不变的情况下,对经过第一阶段训练的变分自编码器进行第二阶段训练,在第二阶段的训练结束时,获得所述方差函数的各个权值;在保持所获得的均值函数的各个权值和方差函数的各个权值均不变的情况下,学习随机化流形空间的参数值,所述随机化流形空间的参数值用于数据生成。通过第一阶段训练,获取到待训练的变分自编码器均值函数的各个权值,并通过第二阶段训练,获取到经过第一阶段训练的变分自编码器的差函数的各个权值,并在确定出包含均值函数的各个权值和方差函数的各个权值之后,学习随机化流行空间的参数值,通过随机化流形空间的参数值生成数据。能够使得训练后的方差函数可以准确本文档来自技高网...
【技术保护点】
1.一种流形测地线计算模型的训练方法,其特征在于,所述方法包括:
2.根据权利要求1所述的流形测地线计算模型的训练方法,其特征在于,所述在保持所获得的均值函数的各个权值和方差函数的各个权值均不变的情况下,学习随机化流形空间的参数值,包括:
3.根据权利要求1所述的流形测地线计算模型的训练方法,其特征在于,所述参数集优化公式为:
4.根据权利要求1所述的流形测地线计算模型的训练方法,其特征在于,所述在保持所述均值函数的各个权值不变的情况下,对经过第一阶段训练的变分自编码器进行第二阶段训练,在第二阶段的训练结束时,获得所述方差函数的各个权值,包括:
5.根据权利要求4所述的流形测地线计算模型的训练方法,其特征在于,所述方法还包括:
6.根据权利要求4所述的流形测地线计算模型的训练方法,其特征在于,所述方法还包括:
7.根据权利要求1所述的流形测地线计算模型的训练方法,其特征在于,所述在将方差函数的输出值设置为常数的情况下,对所述待训练的变分自编码器进行第一阶段训练,在第一阶段训练结束时,获得所述均值函数的各个权值
8.一种流形测地线计算模型的训练装置,其特征在于,所述装置包括:
9.一种电子设备,其特征在于,包括存储器、处理器以及存储在存储器上的计算机程序,其中,所述处理器执行所述计算机程序以实现如权利要求1-7中任一项所述的流形测地线计算模型的训练方法。
10.一种计算机可读介质,其特征在于,其上存储有计算机程序,其中,所述计算机程序被处理器执行时实现如权利要求1-7中任一项所述的流形测地线计算模型的训练方法。
...【技术特征摘要】
1.一种流形测地线计算模型的训练方法,其特征在于,所述方法包括:
2.根据权利要求1所述的流形测地线计算模型的训练方法,其特征在于,所述在保持所获得的均值函数的各个权值和方差函数的各个权值均不变的情况下,学习随机化流形空间的参数值,包括:
3.根据权利要求1所述的流形测地线计算模型的训练方法,其特征在于,所述参数集优化公式为:
4.根据权利要求1所述的流形测地线计算模型的训练方法,其特征在于,所述在保持所述均值函数的各个权值不变的情况下,对经过第一阶段训练的变分自编码器进行第二阶段训练,在第二阶段的训练结束时,获得所述方差函数的各个权值,包括:
5.根据权利要求4所述的流形测地线计算模型的训练方法,其特征在于,所述方法还包括:
6.根据权利要求4所述的流形...
【专利技术属性】
技术研发人员:李瀛,
申请(专利权)人:山东云海国创云计算装备产业创新中心有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。