不良信息检测方法、系统、电子设备和可读存储介质技术方案

本发明专利技术实施例公开了一种不良信息检测方法、系统、电子设备和可读存储介质，所述方法包括：获取视频帧序列，将视频帧序列输入至一级检测模型进行初次检测，确定一级检测结果，对一级检测结果对应的视频图像进行二次检测，确定二级检测结果，对二级检测结果对应的视频图像执行处理流程。由此，在实现对视频图像信息检测的同时，有利于提高信息检测效率，降低信息检测成本，提升视频图像信息品质。提升视频图像信息品质。提升视频图像信息品质。

【技术实现步骤摘要】
不良信息检测方法、系统、电子设备和可读存储介质


[0001]本专利技术涉及计算机
，具体涉及一种不良信息检测方法、装置、电子设备和可读存储介质。

技术介绍

[0002]为避免带有不良信息(例如：涉黄和涉暴)的视频图像进入公众视野，需要对视频图像进行信息识别，以将符合规范的视频图像进行播放和传播。
[0003]现有的视频图像信息检测大多依赖于专用的信息检测平台，通过将待检测视频图像输入至信息检测平台，由信息检测平台对全部视频图像进行检测，并输出图像检测结果。然而，当待检测视频图像数量庞大时，若选用复杂度高的模型，能够尽可能地筛选出违规图像，检测精度高，但检测耗费的时间长，检测成本高。若采用复杂度低的模型，虽然可以节约检测时长，但由于模型精度较低，检测结果的准确度仍有较大的改善空间。

技术实现思路

[0004]有鉴于此，本专利技术实施例提供一种不良信息检测方法、装置、电子设备和可读存储介质，以在实现视频图像信息检测的同时，提升视频信息品质，提高视频信息检测效率，降低信息检测成本。
[0005]第一方面，本专利技术实施例提供一种不良信息检测方法，所述方法包括：
[0006]获取视频帧序列，所述视频帧序列包括至少一个视频帧对应的视频图像；
[0007]将所述视频帧序列输入至一级检测模型进行初次检测，确定一级检测结果，所述一级检测结果包括初次检测认定存在不良信息的视频图像；
[0008]对所述一级检测结果对应的视频图像进行二次检测，确定二级检测结果，所述二级检测结果包括二次检测认定存在不良信息的视频图像；
[0009]对所述二级检测结果对应的视频图像执行处理流程。
[0010]进一步地，所述一级检测模型包括第一模型和第二模型，所述第一模型和第二模型分别用于检测所述视频图像中的涉黄信息和涉暴信息。
[0011]进一步地，所述将所述视频帧序列输入至一级检测模型进行初次检测，确定一级检测结果包括：
[0012]将所述视频帧序列分别输入至第一模型和第二模型，确定对应的第一检测结果和第二检测结果；
[0013]根据所述第一检测结果和第二检测结果确定所述一级检测结果。
[0014]进一步地，所述对所述一级检测结果对应的视频图像进行二次检测，确定二级检测结果包括：
[0015]调用内容审核平台；
[0016]基于所述内容审核平台输出的识别结果确定所述二级检测结果。
[0017]进一步地，所述对所述二级检测结果对应的视频图像执行处理流程包括：
[0018]对所述二级检测结果对应的视频图像进行标记；
[0019]对标记后的视频图像进行删除或打码。
[0020]进一步地，在所述对标记后的视频图像进行删除或打码之后，所述方法还包括：
[0021]向服务平台或终端发送通知信息。
[0022]进一步地，所述获取视频帧序列包括：
[0023]获取视频流，所述视频流包括多个视频帧，各视频帧具有对应的视频图像；
[0024]根据所述视频流获取所述视频帧序列。
[0025]进一步地，所述视频帧序列基于以下步骤确定：
[0026]每隔预设时间抽取所述视频流中的一帧视频帧；
[0027]按照预设顺序排列从所述视频流中抽取到的全部视频帧；
[0028]将排列后的全部视频图像组成的集合确定为所述视频帧序列。
[0029]第二方面，本专利技术实施例提供一种不良信息检测系统，所述系统包括：
[0030]获取单元，用于获取视频帧序列，所述视频帧序列包括至少一个视频帧对应的视频图像；
[0031]初次检测单元，用于将所述视频帧序列输入至一级检测模型进行初次检测，确定一级检测结果，所述一级检测结果包括初次检测认定存在不良信息的视频图像；
[0032]二次检测单元，用于对所述一级检测结果对应的视频图像进行二次检测，确定二级检测结果，所述二级检测结果包括二次检测认定存在不良信息的视频图像；
[0033]处理单元，用于对所述二级检测结果对应的视频图像执行处理流程。
[0034]第三方面，本专利技术实施例提供一种计算机程序产品，所述计算机程序产品包括计算机程序/指令，所述计算机程序/指令被处理器执行时实现如上任一项所述的方法。
[0035]第四方面，本专利技术实施例提供一种电子设备，包括存储器和处理器，所述存储器用于存储一条或多条计算机程序指令，其中，所述一条或多条计算机程序指令被所述处理器执行以实现如上所述的方法。
[0036]第五方面，本专利技术实施例提供一种计算机可读存储介质，所述计算机可读存储介质内存储有计算机程序，所述计算机程序被处理器执行时实现如上所述的方法步骤。
[0037]本专利技术实施例的技术方案通过获取视频帧序列，并将视频帧序列输入至一级检测模型进行初次检测，确定出一级检测结果，再对一级检测结果进行二次检测，确定二级检测结果，最后对二级检测结果对应的视频图像执行处理流程，实现对视频图像信息的检测，进而提升视频信息品质。同时，通过一级检测模型的初次检测和二级检测模型的二次检测的结合，对信息检测模型的整体复杂度和检测速度进行改善，相比于低复杂度模型有利于提高信息检测效率，相比于高复杂度模型有利于降低信息检测成本。
附图说明
[0038]通过以下参照附图对本专利技术实施例的描述，本专利技术的上述以及其它目的、特征和优点将更为清楚，在附图中：
[0039]图1是本专利技术实施例的不良信息检测方法的流程图；
[0040]图2是本专利技术实施例的获取视频帧的流程图；
[0041]图3是本专利技术实施例的确定视频帧序列的流程图；
[0042]图4是本专利技术实施例的确定一级检测结果的示意图；
[0043]图5是本专利技术实施例的确定二级检测结果的示意图；
[0044]图6是本专利技术实施例的执行处理流程的流程图；
[0045]图7是本专利技术实施例的不良信息检测方法的又一流程图；
[0046]图8是本专利技术实施例的不良信息检测系统的示意图；
[0047]图9是本专利技术实施例的电子设备的示意图。
具体实施方式
[0048]以下基于实施例对本专利技术进行描述，但是本专利技术并不仅仅限于这些实施例。在下文对本专利技术的细节描述中，详尽描述了一些特定的细节部分。对本领域技术人员来说没有这些细节部分的描述也可以完全理解本专利技术。为了避免混淆本专利技术的实质，公知的方法、过程、流程、元件和电路并没有详细叙述。
[0049]此外，本领域普通技术人员应当理解，在此提供的附图都是为了说明的目的，并且附图不一定是按比例绘制的。
[0050]除非上下文明确要求，否则在说明书的“包括”、“包含”等类似词语应当解释为包含的含义而不是排他或穷举的含义；也就是说，是“包括但不限于”的含义。
[0051]在本专利技术的描述中，需要理解的是，术语“第一”、“第二”等仅用于描述目的，而不能理解为指示或暗示相对重要性。此外，在本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种不良信息检测方法，其特征在于，所述方法包括：获取视频帧序列，所述视频帧序列包括至少一个视频帧对应的视频图像；将所述视频帧序列输入至一级检测模型进行初次检测，确定一级检测结果，所述一级检测结果包括初次检测认定存在不良信息的视频图像；对所述一级检测结果对应的视频图像进行二次检测，确定二级检测结果，所述二级检测结果包括二次检测认定存在不良信息的视频图像；对所述二级检测结果对应的视频图像执行处理流程。2.根据权利要求1所述的方法，其特征在于，所述一级检测模型包括第一模型和第二模型，所述第一模型和第二模型分别用于检测所述视频图像中的涉黄信息和涉暴信息。3.根据权利要求2所述的方法，其特征在于，所述将所述视频帧序列输入至一级检测模型进行初次检测，确定一级检测结果包括：将所述视频帧序列分别输入至第一模型和第二模型，确定对应的第一检测结果和第二检测结果；根据所述第一检测结果和第二检测结果确定所述一级检测结果。4.根据权利要求1所述的方法，其特征在于，所述对所述一级检测结果对应的视频图像进行二次检测，确定二级检测结果包括：调用内容审核平台；基于所述内容审核平台输出的识别结果确定所述二级检测结果。5.根据权利要求1所述的方法，其特征在于，所述对所述二级检测结果对应的视频图像执行处理流程包括：对所述二级检测结果对应的视频图像进行标记；对标记后的视频图像进行删除或打码。6.根据权利要求5所述的方法，其特征在于，在所述对标记后的视频图像进行删除或打码之后，所述方法还包括：向服务平台或终端发送通知信息。7.根据权利要求1所述的方法，其特征在于，所述获取视频帧序列包括：获取视频流，...

【专利技术属性】
技术研发人员：张洪路，周佳，包英泽，
申请(专利权)人：北京大米科技有限公司，
类型：发明
国别省市：