System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 图像描述生成方法、装置、电子设备及存储介质制造方法及图纸_技高网

图像描述生成方法、装置、电子设备及存储介质制造方法及图纸

技术编号:44101273 阅读:14 留言:0更新日期:2025-01-24 22:29
本发明专利技术公开了一种图像描述生成方法、装置、电子设备及存储介质,该方法包括获取待处理文本信息和待处理图像,待处理文本信息为与待处理图像相关的文本信息,将待处理文本信息和待处理图像,输入至训练后的图像描述生成模型中进行图像描述生成处理,得到与待处理文本信息相关的第一图像描述,和与待处理图像相关的第二图像描述,根据第一图像描述和第二图像描述,确定待处理图像的目标图像描述。采用本发明专利技术实施例,利用与待处理图像相关的待处理文本信息,和待处理图像同时进行图像描述生成处理,并结合待处理文本信息和待处理图像对应的图像描述,能够有效提高生成的图像描述的质量。

【技术实现步骤摘要】

本专利技术涉及人工智能,尤其涉及一种图像描述生成方法、装置、电子设备及存储介质


技术介绍

1、图像描述(image caption)是一项结合了计算机视觉和自然语言处理两个领域的一项非常有挑战的任务。简单来讲,图像描述就是利用计算机来处理人们利用视觉系统进行的对图像中各个目标背景进行分析描述的过程。图像描述对于人类相对方便,但是对于计算机却有相当的难度,因为计算机不但要找到图片中的目标和背景,同时还需要理解它们之间的关系。

2、然而,相关技术中的图像描述生成方法虽然可以较好的完成对图像的描述,但是无法针对图像本身所处的实际场景,给出切合实际的描述,导致生成的图像描述的质量较差,无法满足用户的需求。

3、因此,如何提高生成的图像描述的质量是一项亟需解决的问题。


技术实现思路

1、本专利技术实施例的目的是提供一种图像描述生成方法、装置、电子设备及存储介质,以解决相关技术中生成的图像描述的质量较差的技术问题。

2、第一方面,本专利技术实施例提供了一种图像描述生成方法,包括:

3、获取待处理文本信息和待处理图像,所述待处理文本信息为与所述待处理图像相关的文本信息;

4、将所述待处理文本信息和所述待处理图像,输入至训练后的图像描述生成模型中进行图像描述生成处理,得到与所述待处理文本信息相关的第一图像描述,和与所述待处理图像相关的第二图像描述;

5、根据所述第一图像描述和所述第二图像描述,确定所述待处理图像的目标图像描述

6、第二方面,本专利技术实施例提供了一种图像描述生成装置,包括:

7、第一获取模块,用于获取待处理文本信息和待处理图像,所述待处理文本信息为与所述待处理图像相关的文本信息;

8、输入模块,用于将所述待处理文本信息和所述待处理图像,输入至训练后的图像描述生成模型中进行图像描述生成处理,得到与所述待处理文本信息相关的第一图像描述,和与所述待处理图像相关的第二图像描述;

9、确定模块,用于根据所述第一图像描述和所述第二图像描述,确定所述待处理图像的目标图像描述。

10、第三方面,本专利技术实施例提供了一种电子设备,电子设备包括处理器、存储器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现上述任一项所述的图像描述生成方法中的步骤。

11、第四方面,本专利技术实施例提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现上述任一项所述的图像描述生成方法中的步骤。

12、本专利技术实施例提供了一种图像描述生成方法、装置、电子设备及存储介质,该方法通过利用与待处理图像相关的额外文本信息,和待处理图像同时进行图像描述生成处理,能够分别得到待处理文本信息和待处理图像对应的图像描述,然后通过结合待处理文本信息和待处理图像分别对应的图像描述,能够有效提高待处理图像的图像描述的质量。

本文档来自技高网...

【技术保护点】

1.一种图像描述生成方法,其特征在于,包括:

2.如权利要求1所述的方法,其特征在于,所述图像描述生成模型包括第一生成子模型和第二生成子模型;

3.如权利要求2所述的方法,其特征在于,所述图像描述生成模型还包括文本编码器子模型和图像编码器子模型;

4.如权利要求3所述的方法,其特征在于,所述调用所述第二生成子模型,对所述待处理文本信息的文本编码向量和所述待处理图像的图像编码向量进行解码处理,得到所述待处理图像的第二图像描述,包括:

5.如权利要求1所述的方法,其特征在于,所述根据所述第一图像描述和所述第二图像描述,确定所述待处理图像的目标图像描述,包括:

6.如权利要求5所述的方法,其特征在于,所述第一图像描述的第一权重与所述第二图像描述的第二权重之和为1,且所述第一权重小于所述第二权重。

7.如权利要求1所述的方法,其特征在于,在所述将所述待处理文本信息和所述待处理图像,输入至训练后的图像描述生成模型中进行图像描述生成处理,得到与所述待处理文本信息相关的第一图像描述,和与所述待处理图像相关的第二图像描述的步骤之前,所述方法还包括:

8.一种图像描述生成装置,其特征在于,包括:

9.一种电子设备,其特征在于,所述电子设备包括处理器、存储器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如权利要求1至7任一项所述的方法中的步骤。

10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现如权利要求1至7任一项所述的方法中的步骤。

...

【技术特征摘要】

1.一种图像描述生成方法,其特征在于,包括:

2.如权利要求1所述的方法,其特征在于,所述图像描述生成模型包括第一生成子模型和第二生成子模型;

3.如权利要求2所述的方法,其特征在于,所述图像描述生成模型还包括文本编码器子模型和图像编码器子模型;

4.如权利要求3所述的方法,其特征在于,所述调用所述第二生成子模型,对所述待处理文本信息的文本编码向量和所述待处理图像的图像编码向量进行解码处理,得到所述待处理图像的第二图像描述,包括:

5.如权利要求1所述的方法,其特征在于,所述根据所述第一图像描述和所述第二图像描述,确定所述待处理图像的目标图像描述,包括:

6.如权利要求5所述的方法,其特征在于,所述第一图像描述的第一权重与所述第二图像描述的第二权重之和为1,且...

【专利技术属性】
技术研发人员:常江龙张建兵程瞰之宋汶珀
申请(专利权)人:OPPO广东移动通信有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1