一种图像检测方法、装置、电子设备及存储介质制造方法及图纸

本发明专利技术实施例提供了一种图像检测方法、装置、电子设备及存储介质，涉及数据检测技术领域，其中，上述方法包括：获得待检测图像；将上述待检测图像输入预先训练的违规图像检测模型，获得上述待检测图像为违规图像的违规概率，上述违规图像检测模型为：采用样本集对初始模型进行训练得到的，用于检测图像是否为违规图像的模型，上述样本集包括：样本图像与样本图像是否为违规图像的标记；根据上述待检测图像的违规概率是否大于预设的违规概率阈值，确定上述待检测图像是否为违规图像。应用本发明专利技术实施例提供的方案对违规图像进行检测，可以提高违规图像检测的效率。

An image detection method, device, electronic equipment and storage medium

【技术实现步骤摘要】
一种图像检测方法、装置、电子设备及存储介质
本专利技术涉及数据检测
，特别是涉及一种图像检测方法、装置、电子设备及存储介质。
技术介绍
服务器可以通过网络向用户客户端推送图像，例如：向用户客户端推送广告图像。为了防止服务器将违规图像推送给用户客户端，需要在推送前对图像是否为违规图像进行检测。当前对图像是否违规进行检测的方法为：人工检测图像是否违规。但由于服务器向用户客户端推送的图像数量较大，人工检测图像是否为违规图像需要花费大量的人力成本，因此违规图像检测的效率较低。
技术实现思路
本专利技术实施例的目的在于提供一种图像检测方法、装置、电子设备及存储介质，以提高违规图像检测的效率。具体技术方案如下：第一方面，本专利技术实施提供了一种图像检测方法，所述方法包括：获得待检测图像；将所述待检测图像输入预先训练的违规图像检测模型，获得所述待检测图像为违规图像的违规概率，所述违规图像检测模型为：采用样本集对初始模型进行训练得到的，用于检测图像是否为违规图像的模型，所述样本集包括：样本图像与样本图像是否为违规图像的标记；根据所述待检测图像的违规概率是否大于预设的违规概率阈值，确定所述待检测图像是否为违规图像。本专利技术的一个实施例中，在所述待检测图像为动态图像的情况下，所述将所述待检测图像输入预先训练的违规图像检测模型，获得所述待检测图像为违规图像的违规概率，包括：分别将所述待检测图像中各个帧输入预先训练的违规图像检测模型，获得各个帧为违规图像的概率，将所确定的概率最高的帧的概率作为所述待检测图像的违规概率。本专利技术的一个实施例中，通过以下方式获得所述违规图像检测模型：确定样本图像是否为违规图像的标记；获得样本集，所述样本集包括：样本图像与样本图像是否为违规图像的标记；将样本图像输入所述违规图像检测模型的初始模型，获得样本图像为违规图像的第一概率；根据所述样本图像的第一概率是否大于预设的训练违规阈值，获得样本图像是否为违规图像的第一检测结果；根据所述第一检测结果与所述标记，计算所述初始模型的损失值；根据所述损失值调整所述初始模型的模型参数，直至所述初始模型满足预设的收敛条件，将调整参数后的所述初始模型确定为违规图像检测模型。本专利技术的一个实施例中，在获得经过训练的违规图像检测模型之后，通过以下方式对所述违规图像检测模型进行验证：获得验证集，所述验证集包括：验证图像与验证图像是否为违规图像的标记；将所述验证图像输入所述违规图像检测模型，获得所述验证图像为违规图像的第二概率；根据所述第二概率与验证图像是否为违规图像的标记计算所述违规图像检测模型的曲线下面积AUC；根据所述AUC调整所述违规图像检测模型的参数，将调整参数后得到的违规图像检测模型确定为通过验证的违规图像检测模型。本专利技术的一个实施例中，通过以下方式获得违规概率阈值：获得测试集，所述测试集包括：测试图像与测试图像是否为违规图像的标记；将所述测试图像输入通过验证的违规图像检测模型，获得所述测试图像为违规图像的第三概率；选取初始违规阈值，根据所述第三概率是否大于所述初始违规阈值确定所述测试图像是否为违规图像的测试结果；根据所述测试结果与所述测试图像是否为违规图像的标记，确定所述初始违规阈值是否满足预设的召回率与误报率的条件，其中，所述召回率为：正样本图像中被确定为违规图像的图像占正样本图像的比例，所述误报率为：负样本图像中被确定为违规图像的图像占负样本图像的比例，所述正样本图像为：标记为违规图像的测试图像，所述负样本图像为：标记为非违规图像的测试图像；若不满足所述召回率与误报率条件，则返回所述选取初始违规阈值的步骤，否则，则将所述初始违规阈值确定为所述违规概率阈值。本专利技术的一个实施例中，所述方法还包括：获得预设时长内检测出的违规图像的MD5值；将所述违规图像的MD5值发送给用户客户端，使得用户客户端对接收到的图像计算MD5值，根据接收到的图像的MD5值与上述违规图像的MD5值是否匹配，确定接收到的图像是否为违规图像。本专利技术的一个实施例中，所述方法还包括：生成检测结果数据，所述检测结果数据包括以下信息中的至少一种：所述待检测图像的MD5值、待检测图像最后推送给用户的时间、推送的次数、所述待检测图像为违规图像的概率及所述待检测图像是否为违规图像的检测结果；通过预设的检测结果显示界面，展示所述检测结果数据与所述待检测图像。本专利技术的一个实施例中，在所述将所述待检测图像输入预先训练的违规图像检测模型，获得所述待检测图像为违规图像的违规概率之后，所述方法还包括：将所述待检测图像的违规概率转换为整数形式，其中，所述违规概率阈值与所述违规概率的数量级相同。第二方面，本专利技术实施例提供了一种图像检测装置，其特征在于，所述装置包括：图像获得模块，用于获得待检测图像；概率获得模块，用于将所述待检测图像输入预先训练的违规图像检测模型，获得所述待检测图像为违规图像的违规概率，所述违规图像检测模型为：采用样本集对初始模型进行训练得到的，用于检测图像是否为违规图像的模型，所述样本集包括：样本图像与样本图像是否为违规图像的标记；图像确定模块，用于根据所述待检测图像的违规概率是否大于预设的违规概率阈值，确定所述待检测图像是否为违规图像。本专利技术的一个实施例中，在所述待检测图像为动态图像的情况下，所述概率获得模块，具体用于：分别将所述待检测图像中各个帧输入预先训练的违规图像检测模型，获得各个帧为违规图像的概率，将所确定的概率最高的帧的概率作为所述待检测图像的违规概率。本专利技术的一个实施例中，所述装置还包括：违规图像检测模型获得模块；获得样本集，所述样本集包括：样本图像与样本图像是否为违规图像的标记；将样本图像输入所述违规图像检测模型的初始模型，获得样本图像为违规图像的第一概率；根据所述样本图像的第一概率是否大于预设的训练违规阈值，获得样本图像是否为违规图像的第一检测结果；根据所述第一检测结果与所述标记，计算所述初始模型的损失值；根据所述损失值调整所述初始模型的模型参数，直至所述初始模型满足预设的收敛条件，将调整参数后的所述初始模型确定为违规图像检测模型。本专利技术的一个实施例中，所述装置还包括：违规图像检测模型验证模块：获得验证集，所述验证集包括：验证图像与验证图像是否为违规图像的标记：将所述验证图像输入所述违规图像检测模型，获得所述验证图像为违规图像的第二概率；根据所述第二概率与验证图像是否为违规图像的标记计算所述违规图像检测模型的曲线下面积AUC；根据所述AUC调整所述违规图像检测模型的参数，将调整参数后得到的违规图像检测模型确定为通过验证的违规图像检测模型。本专利技术的一个实施例中，所述装置还包括：违规概率阈值确定模块；获得测试集，所述测本文档来自技高网...

【技术保护点】
1.一种图像检测方法，其特征在于，所述方法包括：/n获得待检测图像；/n将所述待检测图像输入预先训练的违规图像检测模型，获得所述待检测图像为违规图像的违规概率，所述违规图像检测模型为：采用样本集对初始模型进行训练得到的，用于检测图像是否为违规图像的模型，所述样本集包括：样本图像与样本图像是否为违规图像的标记；/n根据所述待检测图像的违规概率是否大于预设的违规概率阈值，确定所述待检测图像是否为违规图像。/n

【技术特征摘要】
1.一种图像检测方法，其特征在于，所述方法包括：
获得待检测图像；
将所述待检测图像输入预先训练的违规图像检测模型，获得所述待检测图像为违规图像的违规概率，所述违规图像检测模型为：采用样本集对初始模型进行训练得到的，用于检测图像是否为违规图像的模型，所述样本集包括：样本图像与样本图像是否为违规图像的标记；
根据所述待检测图像的违规概率是否大于预设的违规概率阈值，确定所述待检测图像是否为违规图像。


2.根据权利要求1所述的方法，其特征在于，在所述待检测图像为动态图像的情况下，所述将所述待检测图像输入预先训练的违规图像检测模型，获得所述待检测图像为违规图像的违规概率，包括：
分别将所述待检测图像中各个帧输入预先训练的违规图像检测模型，获得各个帧为违规图像的概率，将所确定的概率最高的帧的概率作为所述待检测图像的违规概率。


3.根据权利要求1或2所述的方法，其特征在于，通过以下方式获得所述违规图像检测模型：
确定样本图像是否为违规图像的标记；
获得样本集，所述样本集包括：样本图像与样本图像是否为违规图像的标记；
将样本图像输入所述违规图像检测模型的初始模型，获得样本图像为违规图像的第一概率；
根据所述样本图像的第一概率是否大于预设的训练违规阈值，获得样本图像是否为违规图像的第一检测结果；
根据所述第一检测结果与所述标记，计算所述初始模型的损失值；
根据所述损失值调整所述初始模型的模型参数，直至所述初始模型满足预设的收敛条件，将调整参数后的所述初始模型确定为违规图像检测模型。


4.根据权利要求3所述的方法，其特征在于，在获得经过训练的违规图像检测模型之后，通过以下方式对所述违规图像检测模型进行验证：
获得验证集，所述验证集包括：验证图像与验证图像是否为违规图像的标记；
将所述验证图像输入所述违规图像检测模型，获得所述验证图像为违规图像的第二概率；
根据所述第二概率与验证图像是否为违规图像的标记计算所述违规图像检测模型的曲线下面积AUC；
根据所述AUC调整所述违规图像检测模型的参数，将调整参数后得到的违规图像检测模型确定为通过验证的违规图像检测模型。


5.根据权利要求4所述的方法，其特征在于，通过以下方式获得违规概率阈值：
获得测试集，所述测试集包括：测试图像与测试图像是否为违规图像的标记；
将所述测试图像输入通过验证的违规图像检测模型，获得所述测试图像为违规图像的第三概率；
选...

【专利技术属性】
技术研发人员：高峰，方元，郑祺星，
申请(专利权)人：北京金山安全软件有限公司，
类型：发明
国别省市：北京;11