一种结合抽取式和生成式方法的摘要重新排序方法及系统技术方案

技术编号:37369447 阅读:14 留言:0更新日期:2023-04-27 07:15
本发明专利技术涉及一种结合抽取式和生成式方法的摘要重新排序方法及系统,包括以下步骤:获取第一文章,第一文章中包含多个第一句子和多个原始摘要句子;提取各个第一句子,得到多个第一提取句子,第一提取句子为第一文章中具有标志性的句子;根据各个第一提取句子和各个原始摘要句子,确定每个第一提取句子对应的第一摘要句子,第一摘要句子为根据第一提取句子预测得到的摘要;根据各个第一摘要句子,确定每个第一摘要句子对应的token,token为一个字或一个词根据各个token,确定第一目标摘要。本申请实现了生成的摘要准确率更高。请实现了生成的摘要准确率更高。请实现了生成的摘要准确率更高。

【技术实现步骤摘要】
一种结合抽取式和生成式方法的摘要重新排序方法及系统


[0001]本专利技术涉及摘要生成
,尤其涉及一种结合抽取式和生成式方法的摘要重新排序方法及系统。

技术介绍

[0002]文本摘要领域分为抽取式方法和生成式方法两大类,这两种方法各有优缺点,抽取式方法是通过从文档中提取重要的文本片段并将它们连接起来形成摘要,与生成式摘要相比,它在内容选择性和真实性方面具有优势,然而抽取的句子可能包含不相关或冗余信息,由于没有考虑上下文关系,因此可能具有低连贯性。生成式方法使用条件语言模型生成摘要,删除了不相关的信息,但是生成的摘要可能读不懂,偏离原文语义。
[0003]因此,无论是用抽取式方法还是生成式方法,生成的摘要准确率都较低。

技术实现思路

[0004]为了提高生成摘要的准确率,本专利技术提供了一种结合抽取式和生成式方法的摘要重新排序方法及系统。
[0005]第一方面,为了解决上述技术问题,本专利技术提供了一种结合抽取式和生成式方法的摘要重新排序方法,包括以下步骤:
[0006]S1,获取第一文章,第一文章中包含多个第一句子和多个原始摘要句子;
[0007]S2,提取各个第一句子,得到多个第一提取句子,第一提取句子为第一文章中具有标志性的句子;
[0008]S3,根据各个第一提取句子和各个原始摘要句子,确定每个第一提取句子对应的第一摘要句子,第一摘要句子为根据第一提取句子预测得到的摘要;
[0009]S4,根据各个第一摘要句子,确定每个第一摘要句子对应的token,token为一个字或一个词;
[0010]S5,根据各个token,确定第一目标摘要。
[0011]本专利技术提供的一种结合抽取式和生成式方法的摘要重新排序方法的有益效果是:通过抽取式方法,从第一文章中获取多个第一提取句子和原始摘要句子,然后通过各个第一提取句子和原始摘要句子,确定第一摘要句子,再通过生成式方法,将第一摘要句子生成token,并从token中确定第一目标摘要句子,本申请通过抽取式方法和生成式方法相结合,对抽取生成的第一摘要句子进行修改,修改为token,以提高摘要生成的准确率,并从token中筛选出准确性更高的第一目标摘要,进一步提升了摘要生成的准确性,提高了生成的摘要的准确率。
[0012]在上述技术方案的基础上,本专利技术的一种结合抽取式和生成式方法的摘要重新排序方法还可以做如下改进。
[0013]进一步,该方法还包括:
[0014]获取每个第一提取句子对应的上下文,以及每个原始摘要句子对应的上下文;
[0015]根据各个第一提取句子和各个原始摘要句子,确定每个第一提取句子对应的第一摘要句子,包括:
[0016]根据各个第一提取句子、每个第一提取句子对应的上下文,以及每个原始摘要句子对应的上下文,通过第一公式,确定每个第一提取句子对应的第一摘要句子,其中,第一公式为:
[0017][0018]其中,|Y|表示第一提取句子的总数,argmax(x)表示搜索函数,其中,x表示搜索函数的输入,表示搜索函数的输出结果,E
j
表示第j个第一提取句子,E
<j
表示第j个第一提取句子对应的上下文,Y
<j
表示第j个原始摘要句子对应的上下文,X表示第一文章,Y
j
表示第j个第一提取句子对应的第一摘要句子,P(Y
j
|E
j
,E
<j
,Y
<j
,X)表示搜索函数输出结果用序列概率的形式表示。
[0019]采用上述进一步方案的有益效果是:在生成每个第一提取句子对应的第一摘要句子时,考虑了第一提取句子对应的上下文和原始摘要对应的上下文,使得生成的第一摘要句子更符合原文内容,准确性更高。
[0020]进一步,该方法还包括:
[0021]将各个第一摘要句子生成第一序列,将各个第一提取句子生成第二序列;
[0022]根据各个第一摘要句子,确定每个第一摘要句子对应的token,包括:
[0023]根据第一序列和第二序列,通过第二公式,确定每个第一摘要句子对应的token,其中,第二公式为:
[0024][0025]其中,表示输出结果用序列概率的形式表示,Y

k
表示第k个token,Y

<k
表示第k个token之前的token,G
X

表示第一序列,表示第二序列,X

表示第一摘要句子。
[0026]采用上述进一步方案的有益效果是:根据第一序列和第二序列,使得第一摘要句子和第一提取句子一一对应,以便第一摘要句子能够准确的索引到第一提取句子处并根据原文内容重新修改为token,提高摘要生成的准确性。
[0027]进一步,上述根据各个token,确定第一目标摘要,包括:
[0028]根据各个token,通过第三公式,确定每个token对应的权重,其中,第三公式为:
[0029][0030]其中,|Y

|表示token的总数,w
j
表示权重,其中,若Y

k
包含于第一序列和第二序列中,则w
j
=γ,γ表示网络参数,若Y

k
不包含于第一序列和第二序列中,则w
j
=1,Loss表示重写器的损失函数;
[0031]根据各个权重和各个token,确定第一目标摘要。
[0032]采用上述进一步方案的有益效果是:通过第三公式为各个第二摘要赋予权重,以便根据权重确定第一目标摘要。
[0033]进一步,上述步骤S2至步骤S5是通过重写模型确定的,重写模型是通过以下步骤训练得到的,以下步骤包括:
[0034]S21,获取第二文章,第二文章包含多个第二句子;
[0035]S22,提取各个第二句子,得到多个第二提取句子,第二提取句子为第二文章中具有标志性的句子;
[0036]S23,根据各个第二提取句子,通过第四公式,确定每个第二提取句子对应的第二摘要句子,其中,第四公式为:
[0037][0038]其中,E表示第二摘要句子的集合,|E|表示第二提取句子的总数,X表示各个第二句子,X
k
表示第二提取句子,E
j
表示第j个第二摘要句子;
[0039]S24,根据各个第二摘要句子,通过第五公式,确定每个第二摘要句子对应的第三摘要句子,其中,第五公式为:
[0040][0041]其中,argmax(x)表示搜索函数,其中x表示搜索函数的输入,表示搜索函数的输出结果,P(Y|E,S)表示搜索函数的输出结果用序列概率的形式表示,Y表示第三摘要句子,S表示第二文章;
[0042]S25,根据各个第三摘本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种结合抽取式和生成式方法的摘要重新排序方法,其特征在于,包括以下步骤:S1,获取第一文章,所述第一文章中包含多个第一句子和多个原始摘要句子;S2,提取各个所述第一句子,得到多个第一提取句子,所述第一提取句子为第一文章中具有标志性的句子;S3,根据各个所述第一提取句子和各个所述原始摘要句子,确定每个所述第一提取句子对应的第一摘要句子,所述第一摘要句子为根据所述第一提取句子预测得到的摘要;S4,根据各个所述第一摘要句子,确定每个所述第一摘要句子对应的token,所述token为一个字或一个词;S5,根据各个所述token,确定第一目标摘要。2.根据权利要求1所述的方法,其特征在于,还包括:获取每个所述第一提取句子对应的上下文,以及每个所述原始摘要句子对应的上下文;所述根据各个所述第一提取句子和各个所述原始摘要句子,确定每个所述第一提取句子对应的第一摘要句子,包括:根据各个所述第一提取句子、每个所述第一提取句子对应的上下文,以及每个所述原始摘要句子对应的上下文,通过第一公式,确定每个所述第一提取句子对应的第一摘要句子,其中,所述第一公式为:其中,|Y|表示第一提取句子的总数,argmax(x)表示搜索函数,其中,x表示搜索函数的输入,表示搜索函数的输出结果,E
j
表示第j个第一提取句子,E
<j
表示第j个第一提取句子对应的上下文,Y
<j
表示第j个原始摘要句子对应的上下文,X表示第一文章,Y
j
表示第j个第一提取句子对应的第一摘要句子,P(Y
j
|E
j
,E
<j
,Y
<j
,X)表示搜索函数输出结果用序列概率的形式表示。3.根据权利要求2所述的方法,其特征在于,还包括:将各个所述第一摘要句子生成第一序列,将各个所述第一提取句子生成第二序列;所述根据各个所述第一摘要句子,确定每个所述第一摘要句子对应的token,包括:根据所述第一序列和所述第二序列,通过第二公式,确定每个所述第一摘要句子对应的token,其中,第二公式为:其中,表示输出结果用序列概率的形式表示,Y

k
表示第k个token,Y

<k
表示第k个token之前的token,G
X

表示第一序列,表示第二序列,X

表示第一摘要句子。4.根据权利要求3所述的方法,其特征在于,所述根据各个所述token,确定第一目标摘要,包括:
根据各个所述token,通过第三公式,确定每个所述token对应的权重,其中,所述第三公式为:其中,|Y

|表示token的总数,w
j
表示权重,其中,若Y

k
包含于第一序列和第二序列中,则w
j
=γ,γ表示网络参数,若Y

k
不包含于第一序列和第二序列中,则w
j
=1,Loss表示重写器的损失函数;根据各个所述权重和各个所述token,确定所述第一目标摘要。5.根据权利要求1所述的方法,其特征在于,所述步骤S2至所述步骤S5是通过重写模型确定的,所述重写模型是通过以下步骤训练得到的,所述以下步骤包括:S21,获取第二文章,所述第二文章包含多个第二句子;S22,提取各个所述第二句子,得...

【专利技术属性】
技术研发人员:蔡晓东曹堪斌
申请(专利权)人:桂林电子科技大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1