一种基于图卷积网络的知识图谱表示方法技术

本发明专利技术公开了一种基于图卷积网络的知识图谱表示方法，所述知识图谱表示方法包括以下几个步骤：步骤一：随机初始化关系表示矩阵；步骤二：随机初始化关系聚合权重；步骤三：由关系表示聚合为实体表示；步骤四：利用图卷积将图的结构信息编码入实体表示和关系表示中；步骤五：进行翻译模型优化训练。所述步骤一中，随机初始化关系表示矩阵：设矩阵E

【技术实现步骤摘要】
一种基于图卷积网络的知识图谱表示方法


[0001]本专利技术涉及知识图谱相关
，具体为一种基于图卷积网络的知识图谱表示方法。

技术介绍

[0002]知识图谱将人类知识以结构化的形式表示出来，通常是用图结构来表示现实世界中的实体(entity)和实体间的关系(relation)。其中，实体为图结构中的节点，关系为图结构中的边。由于知识图谱的这种结构化的表示方式，大大提升了计算机系统对人类知识的表达、存储和推理等能力。21世纪以来被广泛地应用到各个领域。深度学习是用计算机模仿人类神经网络对信息的处理方式的一种方法，在21世纪10年代之后在图像处理、自然语言处理等领域取得了重大突破。近些年来，将知识图谱中的知识用深度学习的方法应用到知识检索、知识推理、自动问答等于生产生活紧密结合的领域中，成为了研究热潮并取得了一系列可观成果。而这一系列领域都需要一个基础，那便是知识表示学习。知识表示学习的目标，是在保存知识图谱中的关键信息的前提下，将知识图谱中的实体和关系都表示为稠密的低维实值向量，以便深度学习对其进行下一步的处理。
[0003]现有的技术方案为：知识表示学习是近年来的研究热点，多种方法被研究者先后提出，包括：距离模型、单层神经网络模型、能量模型、双线性模型、张量神经网络模型、矩阵分解模型和翻译模型等。其中，与本模型最相近的实现方案为一系列翻译模型。翻译模型中，用r(relation)代表关系向量，用h(head)代表头实体向量，t(tile)代表尾实体向量。翻译模型的优化目标，是使得f(g(h，r)，t)最小。其中，g是将(h，r)对映射成尾实体的函数，也即通过头实体和关系预测尾实体的函数，f是距离函数，用来判断预测出的尾实体与真实尾实体之间的距离。翻译模型将h、t、r随机初始化，以f(g(h，r)，t)最小化为训练目标进行训练。
[0004]传统的知识图谱表示方法通常面临两个问题：
[0005]1.基于局部的、三元对之间的特征的训练不能很好的捕获知识图谱中的图结构信息，难以显式地将丰富的图结构信息进行表示；
[0006]2.由于训练过程中实体表示和关系表示高度耦合，在训练过程中关系表示会具有很大的由实体表示带来的噪声，使得训练过程中关系的表示向量不稳定。
[0007]因此，我们提出一种基于图卷积网络的知识图谱表示方法，以便于解决上述中提出的问题。

技术实现思路

[0008]本专利技术的目的在于提供一种基于图卷积网络的知识图谱表示方法，以解决上述
技术介绍
中提出的，难以显式地将丰富的图结构信息进行表示；训练过程中关系的表示向量不稳定的问题。
[0009]为实现上述目的，本专利技术提供如下技术方案：一种基于图卷积网络的知识图谱表
示方法，所述知识图谱表示方法包括以下几个步骤：
[0010]步骤一：随机初始化关系表示矩阵；
[0011]步骤二：进行初始化关系聚合权重；
[0012]步骤三：由关系表示聚合为实体表示；
[0013]步骤四：利用图卷积将图的结构信息编码入实体表示和关系表示中；
[0014]步骤五：进行翻译模型优化训练。
[0015]优选的，所述步骤一中，随机初始化关系表示矩阵：
[0016]设c
r
为知识图谱中不同类型关系的数目；
[0017]设关系表示矩阵E
r
的维度为(c
r
,d
r
)；
[0018]设矩阵E
r
的每一行都是一个关系表示向量e
r
；
[0019]其中d
r
为关系表示向量的维度，初始化关系表示矩阵E
r
。
[0020]优选的，所述步骤二中，初始化关系聚合权重：对每一种关系r，随机初始化两个关系聚合权重和维度都为(d
r
,d
e
)；其中d
e
为实体表示向量的维度。
[0021]优选的，所述步骤三中，由关系表示聚合为实体表示：其中：
[0022]e
i
为第i个实体的表示向量；
[0023]e
r
为关系r的表示向量；
[0024]|A|表示集合A的元素个数；
[0025]H
i
为与第i个实体邻接的关系中实体i作为头实体的关系组成的集合；
[0026]T
i
为与第i个实体邻接的关系中实体i作为尾实体的关系组成的集合，也即
[0027]优选的，所述步骤四中，利用图卷积将图的结构信息编码入实体表示和关系表示中：
[0028]其中：
[0029]N
i
为实体i的邻接实体的集合；
[0030]r
ij
表示实体i与实体j之间的关系；
[0031]表示第l+1层实体i的表示向量；
[0032]为第l层对应于关系r
ij
的传播矩阵；
[0033]W
l
为第l层作用在实体自身的传播矩阵。
[0034]优选的，所述步骤五中，进行翻译模型优化训练：步骤四之后，获得了关系表示向量和实体表示向量；将关系表示向量和实体表示向量用TransA、TransE、ConvE等翻译模型
进行优化，得到最终的优化过后的知识表示向量。
[0035]与现有技术相比，本专利技术的有益效果是：该基于图卷积网络的知识图谱表示方法，引入图卷积网络进行图结构的编码，将一定范围内的图结构信息纳入模型考虑范围，能很好的捕获知识图谱中的图结构信息；
[0036]并且通过用关系表示聚合成实体表示的方法避免了随机初始化实体表示引入的大量噪声。
附图说明
[0037]图1为本专利技术整体流程图。
[0038]图2为本专利技术关系聚合示意图。
[0039]图3为本专利技术图卷积网络示意图。
具体实施方式
[0040]下面将结合本专利技术实施例中的附图，对本专利技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本专利技术一部分实施例，而不是全部的实施例，基于本专利技术中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本专利技术保护的范围。
[0041]请参阅图1，本专利技术提供一种技术方案：一种基于图卷积网络的知识图谱表示方法，所述知识图谱表示方法包括以下几个步骤：
[0042]步骤一：随机初始化关系表示矩阵；
[0043]步骤二：随机初始化关系聚合权重；
[0044]步骤三：由关系表示聚合为实体表示；
[0045]步骤四：利用图卷积将图的结构信息编码入实体表示和关系表示中；
[0046]步骤五：进行翻译模型优化训练。
[0047]本专利技术更进一步的，所述步骤一中，随机初始化关系表示矩阵：
[0048]设c
r
为知识图谱中不同类型关系的数目；本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于图卷积网络的知识图谱表示方法，所述知识图谱表示方法包括以下几个步骤：步骤一：随机初始化关系表示矩阵；步骤二：进行初始化关系聚合权重；步骤三：由关系表示聚合为实体表示；步骤四：利用图卷积将图的结构信息编码入实体表示和关系表示中；步骤五：进行翻译模型优化训练。2.根据权利要求1所述的一种基于图卷积网络的知识图谱表示方法，其特征在于：所述步骤一中，随机初始化维度为(c
r
,d
r
)的关系表示矩阵E
r
，矩阵的每一行都为一个关系表示向量e
r
，其中c
r
为知识图谱中不同类型关系的数目，d
r
为关系表示向量的维度。3.根据权利要求1所述的一种基于图卷积网络的知识图谱表示方法，其特征在于：所述步骤二中，初始化关系聚合权重：对每一种关系r，随机初始化两个关系聚合权重和维度都为(d
r
,d
e
)；其中d
e
为实体表示向量的维度。4.根据权利要求1所述的一种基于图卷积网络的知识图谱表示方法，其特征在于：所述步骤三中，由关系表示聚合为实体表示的方法为：其中：e
i

【专利技术属性】
技术研发人员：刘泽彬，
申请(专利权)人：武汉大学，
类型：发明
国别省市：