System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种应答方法和装置制造方法及图纸_技高网

一种应答方法和装置制造方法及图纸

技术编号:43732817 阅读:2 留言:0更新日期:2024-12-20 12:57
本发明专利技术公开了一种应答方法和装置,涉及计算机技术领域。该方法的一具体实施方式包括:响应于接收到应答请求,获取用户发送的咨询问题;采用多头注意力机制联合双向长短期记忆神经网络对咨询问题进行意图分类,根据意图分类的结果,通过自注意力编码层和双向长短期记忆神经网络对咨询问题进行意图抽取,得到意图识别结果;根据意图识别结果和用户的历史对话内容,确定继承历史对话内容的继承比例;根据继承比例和意图识别结果,利用基于注意力机制的神经网络生成应答结果,并将应答结果返回给用户。该实施方式实现了准确、且与历史对话连续的智能应答,减轻人工客服的压力,提升用户的体验感,更好地满足业务需要。

【技术实现步骤摘要】

本专利技术涉及计算机,尤其涉及一种应答方法和装置


技术介绍

1、随着人工智能技术的发展,人工智能正在逐渐成为影响未来产业发展的重要力量。目前常见的智能对话系统,往往利用关键词匹配算法来从用户提问中抽取出核心关键词,通过关键词和文本库中的文本的匹配来应答用户提出的问题、解决用户的需求。

2、在实现本专利技术过程中,专利技术人发现现有技术中存在如下问题:

3、现有技术一方面将用户提问中提取到的核心关键词用来表征用户的意图,无法获取用户语义层面的意图,导致意图识别不准确,另一方面,应答的内容只能从设定好的文本库中查找,而不能自动生成文本库之外的回复,这导致用户的很多问题并不能得到满意的答复,应答效果不佳。


技术实现思路

1、有鉴于此,本专利技术实施例提供一种应答方法和装置,实现了一种准确、且与历史对话连续的智能应答,利用深度学习相关算法对咨询问题的理解能力,为用户提供真正意义上的智能应答,减轻人工客服的压力,提升用户的体验感,更好地满足业务需要。

2、为实现所述目的,根据本专利技术实施例的一个方面,提供了一种应答方法,包括:

3、响应于接收到应答请求,获取用户发送的咨询问题;

4、采用多头注意力机制联合双向长短期记忆神经网络对所述咨询问题进行意图分类,根据意图分类的结果,通过自注意力编码层和双向长短期记忆神经网络对所述咨询问题进行意图抽取,得到意图识别结果;

5、根据所述意图识别结果和所述用户的历史对话内容,确定继承所述历史对话内容的继承比例;

6、根据所述继承比例和所述意图识别结果,利用基于注意力机制的神经网络生成应答结果,并将所述应答结果作为所述应答请求的响应结果返回给所述用户。

7、可选地,采用多头注意力机制联合双向长短期记忆神经网络对所述咨询问题进行意图分类,包括:对于所述咨询问题中的每个句子:将句子中各个词的词向量输入第一双向长短期记忆神经网络,得到各个所述词的词隐藏向量;根据所述句子的词内容向量和各个所述词隐藏向量,采用多头注意力机制计算各个所述词的注意力权重,再将各个所述词的注意力权重叠加到对应的词隐藏向量,得到所述句子的句子向量;将所述咨询问题中的各个句子的句子向量输入第二双向长短期记忆神经网络,得到各个所述句子的句子隐藏向量;根据所述咨询问题的句子内容向量和各个所述句子隐藏向量,采用多头注意力机制计算各个所述句子的注意力权重,再将各个所述句子的注意力权重叠加到对应的句子隐藏向量,经过激活函数映射得到意图分类结果。

8、可选地,根据意图分类的结果,通过自注意力编码层和双向长短期记忆神经网络对所述咨询问题进行意图抽取,得到意图识别结果,包括:对于所述咨询问题中的每个句子:对句子中各个词的词向量进行自注意力编码,将各个所述词的自注意力编码结果和对应的词向量进行拼接,得到各个所述词的拼接向量;将各个所述词的拼接向量输入双向长短期记忆神经网络,得到各个所述词的隐藏向量;对各个所述词的隐藏向量进行自注意力编码,再对自注意力编码的结果进行留存控制,将保留的自注意力编码的结果和对应的隐藏向量进行点积运算,得到所述意图分类的结果对应的业务槽位概率;根据各个所述词的业务槽位概率,将各个所述词填充到对应的业务槽位上,将填充后的内容作为意图识别结果。

9、可选地,根据所述意图识别结果和所述用户的历史对话内容,确定继承所述历史对话内容的继承比例,包括:将所述意图识别结果和所述用户的历史对话内容输入长短期记忆网络和多层感知器,利用所述长短期记忆网络中的门结构和所述多层感器的类别判断能力,计算得到所述咨询问题对所述历史对话内容的继承比例。

10、可选地,在利用基于注意力机制的神经网络生成应答结果之后,所述方法还包括:通过循环卷积神经网络对所述用户的用户画像进行特征提取,得到所述用户的应答特征;根据所述应答特征,对所述应答结果进行转换重构,生成符合所述应答特征的应答结果。

11、可选地,所述方法还包括:通过知识蒸馏,对所述双向长短期记忆神经网络、所述基于注意力机制的神经网络和所述自注意力编码层的结构组成进行压缩,以便使用压缩后的和编码层生成所述咨询问题的应答结果。

12、可选地,在所述咨询问题为语音信号的情况下,获取用户发送的咨询问题,包括:利用傅里叶变换,将所述咨询问题中的各个句子转换为数值型特征;对各个所述句子的数值型特征进行维度调整和局部特征抽取,获取所述咨询问题的每个所述句子中包含的词的词向量。

13、可选地,在所述应答请求中要求应答结果为语音信号的情况下,将所述应答结果作为所述应答请求的响应结果返回给所述用户,包括:将所述应答结果输入卷积层,并将卷积层的输出结果进行逆傅里叶变换,获取语音信号的应答结果;将所述语音信号的应答结果返回给所述用户。

14、根据本专利技术实施例的第二方面,提供一种应答装置,包括:

15、问题获取模块,用于响应于接收到应答请求,获取用户发送的咨询问题;

16、意图识别模块,用于采用多头注意力机制联合双向长短期记忆神经网络对所述咨询问题进行意图分类,根据意图分类的结果,通过自注意力编码层和双向长短期记忆神经网络对所述咨询问题进行意图抽取,得到意图识别结果;

17、历史继承模块,用于根据所述意图识别结果和所述用户的历史对话内容,确定继承所述历史对话内容的继承比例;

18、结果生成模块,用于根据所述继承比例和所述意图识别结果,利用基于注意力机制的神经网络生成应答结果,并将所述应答结果作为所述应答请求的响应结果返回给所述用户。

19、根据本专利技术实施例的第三方面,提供一种应答的电子设备,包括:

20、一个或多个处理器;

21、存储装置,用于存储一个或多个程序,

22、当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现本专利技术实施例第一方面提供的方法。

23、根据本专利技术实施例的第四方面,提供一种计算机可读介质,其上存储有计算机程序,所述程序被处理器执行时实现本专利技术实施例第一方面提供的方法。

24、所述专利技术中的一个实施例具有如下优点或有益效果:通过响应于接收到应答请求,获取用户发送的咨询问题;采用多头注意力机制联合双向长短期记忆神经网络对咨询问题进行意图分类,根据意图分类的结果,通过自注意力编码层和双向长短期记忆神经网络对咨询问题进行意图抽取,得到意图识别结果;根据意图识别结果和用户的历史对话内容,确定继承历史对话内容的继承比例;根据继承比例和意图识别结果,利用基于注意力机制的神经网络生成应答结果,并将应答结果作为应答请求的响应结果返回给用户的技术方案,实现了一种准确、且与历史对话连续的智能应答方法,利用深度学习相关算法对咨询问题的理解能力,为用户提供真正意义上的智能应答,减轻人工客服的压力,提升用户的体验感,更好地满足业务需要。

本文档来自技高网...

【技术保护点】

1.一种应答方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,采用多头注意力机制联合双向长短期记忆神经网络对所述咨询问题进行意图分类,包括:

3.根据权利要求1所述的方法,其特征在于,根据意图分类的结果,通过自注意力编码层和双向长短期记忆神经网络对所述咨询问题进行意图抽取,得到意图识别结果,包括:

4.根据权利要求1所述的方法,其特征在于,根据所述意图识别结果和所述用户的历史对话内容,确定继承所述历史对话内容的继承比例,包括:

5.根据权利要求1所述的方法,其特征在于,在利用基于注意力机制的神经网络生成应答结果之后,所述方法还包括:

6.根据权利要求1所述的方法,其特征在于,所述方法还包括:

7.根据权利要求1所述的方法,其特征在于,在所述咨询问题为语音信号的情况下,获取用户发送的咨询问题,包括:

8.根据权利要求1所述的方法,其特征在于,在所述应答请求中要求应答结果为语音信号的情况下,将所述应答结果作为所述应答请求的响应结果返回给所述用户,包括:

9.一种应答装置,其特征在于,包括:

10.一种移动电子设备终端,其特征在于,包括:

11.一种计算机可读介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1-8中任一所述的方法。

...

【技术特征摘要】

1.一种应答方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,采用多头注意力机制联合双向长短期记忆神经网络对所述咨询问题进行意图分类,包括:

3.根据权利要求1所述的方法,其特征在于,根据意图分类的结果,通过自注意力编码层和双向长短期记忆神经网络对所述咨询问题进行意图抽取,得到意图识别结果,包括:

4.根据权利要求1所述的方法,其特征在于,根据所述意图识别结果和所述用户的历史对话内容,确定继承所述历史对话内容的继承比例,包括:

5.根据权利要求1所述的方法,其特征在于,在利用基于注意力机制的神经网络生成应答结果之后,所述方法还包括:...

【专利技术属性】
技术研发人员:郭卓勋
申请(专利权)人:北京京东远升科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1