用于生成模型的方法和装置制造方法及图纸

本申请实施例公开了用于生成模型的方法和装置。该方法的一具体实施方式包括：获取样本集，样本集中包括样本语句以及与样本语句对应的标注知识；从样本集中选取样本，以及执行以下训练步骤：样本语句输入第一初始模型，生成与样本语句对应的第一预测知识；将第一预测知识输入第二初始模型，生成与第一预测知识对应的第一预测语句；将标注知识输入第二初始模型，生成与标注知识对应的第二预测语句；将第二预测语句输入第一初始模型，生成与第二预测语句对应的第二预测知识；确定第一奖励信号；根据所确定的第一奖励信号利用强化学习方法训练得出第一模型。该实施方式丰富了模型的生成方式。

Methods and devices for generating models

【技术实现步骤摘要】
用于生成模型的方法和装置
本申请实施例涉及计算机
，尤其涉及用于生成模型的方法和装置。
技术介绍
自然语言处理，是对人们日常使用的语言进行处理，以实现与计算机之间的有效通信的技术，它是人工智能领域的一个重要研究方向。自然语言处理中，往往需要借助知识库来对文本语言进行理解，知识库可以提供丰富的实体知识信息，包括实体的属性信息、实体间的关系信息等。因此，如何从自然语言中提取出有效的知识信息以构造知识库，成为学术界和工业界的研究探索的热点问题。由于自然语言灵活多变，自动化的信息抽取具有一定的难度。尤其对于不限定领域、类别实体的开放信息抽取，需要从海量、冗余、含有噪声的不规范文本中抽取出开放类别的实体、实体关系等知识。目前学术界与工业界所采用的方案大都是基于规则的方法。其中一种基于规则的方法是对语句进行语法分析生成语法分析树，在语法分析树上施加规则来提取相关的信息。例如根据句子语法中主语、谓词和宾语的位置规则来提取对应的信息。这些规则通常由专家来设定，针对不同类型的信息的抽取，规则的形式一般是不相同的。因此，在抽取多种类型的信息的开放信息抽取场景中，需要设定大量的规则。
技术实现思路
本申请实施例提出了用于生成模型的方法和装置。第一方面，本申请实施例提供了一种用于生成模型的方法，该方法包括：获取样本集，样本集中包括样本语句以及与样本语句对应的标注知识；从样本集中选取样本，以及执行以下训练步骤：将选取的样本中的样本语句输入第一初始模型，生成与样本语句对应的第一预测知识；将第一预测知识输入第二初始模型，生成与第一预测知识对应的第一预测语句；将标注知识输入第二初始模型，生成与标注知识对应的第二预测语句；将第二预测语句输入第一初始模型，生成与第二预测语句对应的第二预测知识；根据以下信息项中的至少一项确定第一奖励信号：第一预测知识符合预设的知识表达规则的程度、第一预测知识与标注知识的相似度、第二预测知识为标注知识的概率；根据所确定的第一奖励信号利用强化学习方法训练得出第一模型。在一些实施例中，训练步骤还包括：根据以下信息项中的至少一项确定第二奖励信号：第二预测语句符合预设的语言表达规则的程度、第二预测语句与样本语句的相似度、第一预测语句为样本语句的概率；根据所确定的第二奖励信号利用强化学习方法训练得出第二模型。在一些实施例中，第一初始模型包括编码器和解码器；以及将样本语句输入第一初始模型，生成与样本语句对应的第一预测知识，包括：根据样本语句构造输入序列；利用编码器将输入序列映射为输入隐状态序列，利用解码器将输出序列映射为输出隐状态序列；利用解码器对输入隐状态序列进行解码，生成预测状态序列；根据预测状态序列得到第一预测知识。在一些实施例中，利用解码器对输入隐状态序列进行解码，生成预测状态序列，包括：对于待生成的预测状态序列中的目标位置，获取解码器的隐藏层在解码得出目标位置的上一个位置的预测状态后的状态，作为解码器的当前隐状态；基于当前隐状态计算输入隐状态序列中各输入隐状态与待生成的预测状态序列中目标位置的预测状态之间的匹配度；基于匹配度计算各输入隐状态对目标位置的预测状态的注意力权重；对各输入隐状态按照注意力权重进行加权求和得到上下文向量；基于上下文向量、输出隐状态序列中目标位置的上一个位置的输出隐状态、以及解码器的隐藏层在解码目标位置的预测状态时的状态，计算出目标位置的预测状态的概率分布；根据概率分布，确定出目标位置的预测状态。在一些实施例中，目标位置的预测状态的概率为：从对应的样本语句中拷贝目标词语作为输出序列中的目标对象的概率与从预设符号集合中选择出目标符号并将目标符号所表征的对象作为输出序列中的对象的概率之和；预设符号集合中的符号用于与样本语句中的词语联合，以完整表征样本语句中的以下知识中的一项：基于动词或介词的知识、基于名词属性的知识、实体的描述知识以及实体与概念的关系知识。在一些实施例中，方法还包括：响应于从对应的样本语句中拷贝目标词语作为输出序列中的一个对象，将从对应的样本语句中拷贝目标词语作为输出序列中的一个对象的概率更新为零。第二方面，本申请实施例提供了一种用于生成模型的装置，该装置包括：获取单元，被配置成获取样本集，样本集中包括样本语句以及与样本语句对应的标注知识；训练单元，被配置成从样本集中选取样本，以及执行以下训练步骤：将选取的样本中的样本语句输入第一初始模型，生成与样本语句对应的第一预测知识；将第一预测知识输入第二初始模型，生成与第一预测知识对应的第一预测语句；将标注知识输入第二初始模型，生成与标注知识对应的第二预测语句；将第二预测语句输入第一初始模型，生成与第二预测语句对应的第二预测知识；根据以下信息项中的至少一项确定第一奖励信号：第一预测知识符合预设的知识表达规则的程度、第一预测知识与标注知识的相似度、第二预测知识为标注知识的概率；根据所确定的第一奖励信号利用强化学习方法训练得出第一模型。在一些实施例中，训练单元，还包括：确定子单元，被配置成根据以下信息项中的至少一项确定第二奖励信号：第二预测语句符合预设的语言表达规则的程度、第二预测语句与样本语句的相似度、第一预测语句为样本语句的概率；训练子单元，被配置成被配置成根据所确定的第二奖励信号利用强化学习方法训练得出第二模型。在一些实施例中，第一初始模型包括编码器和解码器；以及训练单元进一步被配置成按照如下方式生成与样本语句对应的第一预测知识，包括：根据样本语句构造输入序列；利用编码器将输入序列映射为输入隐状态序列，利用解码器将输出序列映射为输出隐状态序列；利用解码器对输入隐状态序列进行解码，生成预测状态序列；根据预测状态序列得到第一预测知识。在一些实施例中，训练单元进一步被配置成按照如下方式生成预测状态序列：对于待生成的预测状态序列中的目标位置，获取解码器的隐藏层在解码得出目标位置的上一个位置的预测状态后的状态，作为解码器的当前隐状态；基于当前隐状态计算输入隐状态序列中各输入隐状态与待生成的预测状态序列中目标位置的预测状态之间的匹配度；基于匹配度计算各输入隐状态对目标位置的预测状态的注意力权重；对各输入隐状态按照注意力权重进行加权求和得到上下文向量；基于上下文向量、输出隐状态序列中目标位置的上一个位置的输出隐状态、以及解码器的隐藏层在解码目标位置的预测状态时的状态，计算出目标位置的预测状态的概率分布；根据概率分布，确定出目标位置的预测状态。在一些实施例中，目标位置的预测状态的概率为：从对应的样本语句中拷贝目标词语作为输出序列中的目标对象的概率与从预设符号集合中选择出目标符号并将目标符号所表征的对象作为输出序列中的对象的概率之和；预设符号集合中的符号用于与样本语句中的词语联合，以完整表征样本语句中的以下知识中的一项：基于动词或介词的知识、基于名词属性的知识、实体的描述知识以及实体与概念的关系知识。在一些实施例中，装置还包括：更新单元，被配置成响应于从对应的样本语句中拷贝目标词语作为输出序列中的一个对象，将从对应的样本语句中拷贝目标词语作为输出序列中的一个对象的概率更本文档来自技高网...

【技术保护点】
1.一种用于生成模型的方法，包括：/n获取样本集，所述样本集中包括样本语句以及与样本语句对应的标注知识；/n从所述样本集中选取样本，以及执行以下训练步骤：将选取的样本中的样本语句输入第一初始模型，生成与样本语句对应的第一预测知识；将第一预测知识输入第二初始模型，生成与第一预测知识对应的第一预测语句；将标注知识输入第二初始模型，生成与标注知识对应的第二预测语句；将第二预测语句输入第一初始模型，生成与第二预测语句对应的第二预测知识；根据以下信息项中的至少一项确定第一奖励信号：第一预测知识符合预设的知识表达规则的程度、第一预测知识与标注知识的相似度、第二预测知识为标注知识的概率；根据所确定的第一奖励信号利用强化学习方法训练得出第一模型。/n

【技术特征摘要】
1.一种用于生成模型的方法，包括：
获取样本集，所述样本集中包括样本语句以及与样本语句对应的标注知识；
从所述样本集中选取样本，以及执行以下训练步骤：将选取的样本中的样本语句输入第一初始模型，生成与样本语句对应的第一预测知识；将第一预测知识输入第二初始模型，生成与第一预测知识对应的第一预测语句；将标注知识输入第二初始模型，生成与标注知识对应的第二预测语句；将第二预测语句输入第一初始模型，生成与第二预测语句对应的第二预测知识；根据以下信息项中的至少一项确定第一奖励信号：第一预测知识符合预设的知识表达规则的程度、第一预测知识与标注知识的相似度、第二预测知识为标注知识的概率；根据所确定的第一奖励信号利用强化学习方法训练得出第一模型。


2.根据权利要求1所述的方法，其中，所述训练步骤还包括：
根据以下信息项中的至少一项确定第二奖励信号：第二预测语句符合预设的语言表达规则的程度、第二预测语句与样本语句的相似度、第一预测语句为样本语句的概率；
根据所确定的第二奖励信号利用强化学习方法训练得出第二模型。


3.根据权利要求2所述的方法，其中，所述第一初始模型包括编码器和解码器；以及
所述将样本语句输入第一初始模型，生成与样本语句对应的第一预测知识，包括：
根据样本语句构造输入序列；
利用所述编码器将输入序列映射为输入隐状态序列，利用所述解码器将所述输出序列映射为输出隐状态序列；
利用解码器对所述输入隐状态序列进行解码，生成预测状态序列；
根据所述预测状态序列得到第一预测知识。


4.根据权利要求3所述的方法，其中，所述利用解码器对所述输入隐状态序列进行解码，生成预测状态序列，包括：
对于待生成的预测状态序列中的目标位置，获取所述解码器的隐藏层在解码得出所述目标位置的上一个位置的预测状态后的状态，作为所述解码器的当前隐状态；
基于所述当前隐状态计算所述输入隐状态序列中各输入隐状态与待生成的预测状态序列中目标位置的预测状态之间的匹配度；
基于匹配度计算各所述输入隐状态对所述目标位置的预测状态的注意力权重；
对各所述输入隐状态按照所述注意力权重进行加权求和得到上下文向量；
基于所述上下文向量、所述输出隐状态序列中目标位置的上一个位置的输出隐状态、以及所述解码器的隐藏层在解码所述目标位置的预测状态时的状态，计算出所述目标位置的预测状态的概率分布；
根据所述概率分布，确定出所述目标位置的预测状态。


5.根据权利要求4所述的方法，其中，所述目标位置的预测状态的概率为：从对应的样本语句中拷贝目标词语作为所述输出序列中的目标对象的概率与从预设符号集合中选择出目标符号并将目标符号所表征的对象作为所述输出序列中的对象的概率之和；
所述预设符号集合中的符号用于与所述样本语句中的词语联合，以完整表征所述样本语句中的以下知识中的一项：基于动词或介词的知识、基于名词属性的知识、实体的描述知识以及实体与概念的关系知识。


6.根据权利要求5所述的方法，其中，所述方法还包括：
响应于从对应的样本语句中拷贝目标词语作为所述输出序列中的一个对象，将从对应的样本语句中拷贝所述目标词语作为所述输出序列中的一个对象的概率更新为零。


7.一种用于生成模型的装置，包括：
获取单元，被配置成获取样本集，所述样本集中包括样本语句以及与样本语句对应的标注知识；
训练单元，被配置成从所述样本集中选取样本，以及执行以下训练步骤：将选取的样本中的样本语句输入第一初始模型，生成与样本语句对应的第一预测知识；将第一预测知识输入第二初始模型，生成与第一预测知识对应的第一预测语句；将标注知识输入第二初始模型，生成与标注知识对应的第二预测语句；将第二预测语句输入第一初始模型，生成与第二...

【专利技术属性】
技术研发人员：孙明明，李旭，李平，
申请(专利权)人：百度在线网络技术北京有限公司，
类型：发明
国别省市：北京;11