一种图像检测方法、装置、电子设备及存储介质制造方法及图纸

本发明专利技术公开了一种图像检测方法、装置、电子设备及存储介质。该方法包括：获取待检测图像，确定待检测图像对应的文本描述语句；将文本描述语句与预确定的违规词词典进行匹配，确定违规语句；确定各违规语句所对应的违规权重，并根据各违规权重确定违规指数；当违规指数大于预确定的违规指数阈值时，确定待检测图像为违规图像，解决了图像检测过程中无法准确识别违规图像的问题，通过将待检测图像的文本描述语句与违规词词典进行匹配，确定违规语句，根据违规语句对应的违规权重确定违规指数，可以准确确定待检测图像的违规程度，通过比较违规指数与违规指数阈值判断待检测图像是否违规，提高了图像检测的准确率，对违规图像进行有效识别。像进行有效识别。像进行有效识别。

【技术实现步骤摘要】
一种图像检测方法、装置、电子设备及存储介质


[0001]本专利技术涉及图像检测
，尤其涉及一种图像检测方法、装置、电子设备及存储介质。

技术介绍

[0002]随着互联网信息量的爆炸式增长，网络空间中的内容安全问题日渐严重，而图像作为网络空间内容中重要的一部分，对图像内容安全问题的关注也不容忽视。图像内容安全监控中的传统方法是建立审核小组进行人工审核，然而由于网络空间中的图像量大、审核时间长以及人工成本高等问题，审核效率非常低，再加上网络空间中有许多重复图像，导致审核过程中存在大量的重复性工作、工作量大，增加了审核的难度。因此，网络空间中的图像内容安全一直是网络空间安全问题中的难点和痛点，一个高效而智能化的图像内容监控方法是当前网络空间安全监控中所需要的。
[0003]近年来，基于卷积神经网络的深度学习图像分类网络模型被应用于敏感图像智能审核，例如，通过识别图像确定描述图像的文本描述语句，但是如何通过文本描述语句准确判断图像是否违规成为有待解决的问题。

技术实现思路

[0004]本专利技术提供了一种图像检测方法、装置、电子设备及存储介质，以实现对图像的准确检测。
[0005]根据本专利技术的一方面，提供了一种图像检测方法，包括：
[0006]获取待检测图像，并确定所述待检测图像对应的文本描述语句；
[0007]将所述文本描述语句与预确定的违规词词典进行匹配，确定违规语句；
[0008]确定各所述违规语句所对应的违规权重，并根据各所述违规权重确定违规指数；r/>[0009]当所述违规指数大于预确定的违规指数阈值时，确定所述待检测图像为违规图像。
[0010]根据本专利技术的另一方面，提供了一种图像检测装置，包括：
[0011]图像获取模块，用于获取待检测图像，并确定所述待检测图像对应的文本描述语句；
[0012]违规语句确定模块，用于将所述文本描述语句与预确定的违规词词典进行匹配，确定违规语句；
[0013]违规指数确定模块，用于确定各所述违规语句所对应的违规权重，并根据各所述违规权重确定违规指数；
[0014]违规图像检测模块，用于当所述违规指数大于预确定的违规指数阈值时，确定所述待检测图像为违规图像。
[0015]根据本专利技术的另一方面，提供了一种电子设备，所述电子设备包括：
[0016]至少一个处理器；以及
[0017]与所述至少一个处理器通信连接的存储器；其中，
[0018]所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行本专利技术任一实施例所述的图像检测方法。
[0019]根据本专利技术的另一方面，提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于使处理器执行时实现本专利技术任一实施例所述的图像检测方法。
[0020]本专利技术实施例的技术方案，通过获取待检测图像，并确定所述待检测图像对应的文本描述语句；将所述文本描述语句与预确定的违规词词典进行匹配，确定违规语句；确定各所述违规语句所对应的违规权重，并根据各所述违规权重确定违规指数；当所述违规指数大于预确定的违规指数阈值时，确定所述待检测图像为违规图像，解决了图像检测过程中无法准确识别违规图像的问题，通过将待检测图像的文本描述语句与违规词词典进行匹配，确定违规语句，进一步根据违规语句对应的违规权重确定违规指数，可以准确确定待检测图像的违规程度，然后通过比较违规指数与违规指数阈值判断待检测图像是否违规，提高了图像检测的准确率，对违规图像进行有效识别。
[0021]应当理解，本部分所描述的内容并非旨在标识本专利技术的实施例的关键或重要特征，也不用于限制本专利技术的范围。本专利技术的其它特征将通过以下的说明书而变得容易理解。
附图说明
[0022]为了更清楚地说明本专利技术实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本专利技术的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
[0023]图1是根据本专利技术实施例一提供的一种图像检测方法的流程图；
[0024]图2是根据本专利技术实施例二提供的一种图像检测方法的流程图；
[0025]图3是根据本专利技术实施例三提供的一种图像检测装置的结构示意图；
[0026]图4是实现本专利技术实施例的图像检测方法的电子设备的结构示意图。
具体实施方式
[0027]为了使本
的人员更好地理解本专利技术方案，下面将结合本专利技术实施例中的附图，对本专利技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本专利技术一部分的实施例，而不是全部的实施例。基于本专利技术中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本专利技术保护的范围。
[0028]需要说明的是，本专利技术的说明书和权利要求书及上述附图中的术语“目标”、“备选”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本专利技术的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于
清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
[0029]实施例一
[0030]图1为本专利技术实施例一提供了一种图像检测方法的流程图，本实施例可适用于对图像进行违规检测的情况，该方法可以由图像检测装置来执行，该图像检测装置可以采用硬件和/或软件的形式实现，该图像检测装置可配置于电子设备中。如图1所示，该方法包括：
[0031]S101、获取待检测图像，并确定待检测图像对应的文本描述语句。
[0032]在本实施例中，待检测图像具体可以理解为具有违规检测需求的图像，待检测图像可以由用户选择并确定，也可以自动捕捉网络上的图像作为待检测图像。文本描述语句具体可以理解为用于描述待检测图像的语句，例如，一群小学生在看数学书。获取由用户输入的待检测图像，或者在网络中自动捕获待检测图像，通过对待检测图像进行图像识别和分析，确定描述待检测图像的文本描述语句。
[0033]S102、将文本描述语句与预确定的违规词词典进行匹配，确定违规语句。
[0034]在本实施例中，违规词词典具体可以理解为包括一个或者多个违规词的数据集，为保证图像检测的准确性，违规词词典中通常包括大量的违规词；违规语句为文本描述语句中不符合法规、道德规范等规范的语句。
[0035]具体的，违规词词典预先确定，可以由用户根据实际生活中所涉及到的违规词生成，通过收集整理违规词，将违规词存储到违规词词典中，违规词词典还可以实时进行更新，在出本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种图像检测方法，其特征在于，包括：获取待检测图像，并确定所述待检测图像对应的文本描述语句；将所述文本描述语句与预确定的违规词词典进行匹配，确定违规语句；确定各所述违规语句所对应的违规权重，并根据各所述违规权重确定违规指数；当所述违规指数大于预确定的违规指数阈值时，确定所述待检测图像为违规图像。2.根据权利要求1所述的方法，其特征在于，所述确定所述待检测图像对应的文本描述语句，包括：获取预确定的目标文本检测模型；将所述待检测图像输入至所述目标文本检测模型，根据所述目标文本检测模型的输出确定文件描述语句。3.根据权利要求1所述的方法，其特征在于，所述将所述文本描述语句与预确定的违规词词典进行匹配，确定违规语句，包括：获取预确定的违规词词典，所述违规词词典中包括至少一个违规词；将所述文本描述语句与各所述违规词进行正则匹配，确定匹配成功的违规语句。4.根据权利要求1所述的方法，其特征在于，所述确定各所述违规语句所对应的违规权重，并根据各所述违规权重确定违规指数，包括：根据各所述违规语句查询预确定的权重信息表，确定各所述违规语句所对应的违规权重；将各所述违规权重的平均值确定为违规指数。5.根据权利要求1
‑
4任一项所述的方法，其特征在于，所述违规指数阈值的确定步骤包括：获取预设数量的备选违规图像；确定各所述备选违规图像对应的目标违规指数；根据各所述目标违规指数确定违规指数阈值。6.根据权利要求5所述的方法，其特征在于，所述确定各所述备选违规图像对应的目标违规指数，包括：确定每个备选违规图像对应的备...

【专利技术属性】
技术研发人员：刘冬瑶，
申请(专利权)人：中国农业银行股份有限公司，
类型：发明
国别省市：