一种强鲁棒性的图像内容审查保护方法和系统技术方案

本发明专利技术提供一种强鲁棒性的图像内容审查保护方法和系统，具体操作为接收用户上传的图像，获取用户的信息；对图像进行统一尺寸的调节；对调节后的图像直接进行图像审核；得到原图像审核结果；对调节后的图像进行内容处理，其中，内容处理是采用了一种高效强鲁棒性的中值滤波器方法；再将内容处理后的图像进行图像审核，得到新图像审核结果；对比步骤原图像审核结果和新图像审核结果；若结果一致，则图像审查通过；若结果不一致，则图像审查不通过。针对容易被不法分子滥用缩放攻击，躲避公众平台内容审查，传播不良信息的行为，通过一种高效强鲁棒性的中值滤波器方法，有效抵御缩放攻击的躲避行为，从而保障公众的平台内容安全。从而保障公众的平台内容安全。从而保障公众的平台内容安全。

【技术实现步骤摘要】
一种强鲁棒性的图像内容审查保护方法和系统


[0001]本专利技术涉及信息安全领域，特别涉及一种强鲁棒性的图像内容审查保护方法和系统。

技术介绍

[0002]图像缩放是机器学习中常见的预处理步骤。主流的深度学习框架TensorFlow、Caffe、PyTorch分别采用图像库tf.image， OpenCV， Pillow，各个图像库采用如nearest，bilinear，bicubic，lanczos，area等缩放算法。由于许多学习算法需要固定大小的输入，所以在大多数基于机器学习的图像系统中，缩放是必须的步骤。
[0003]然而，缩放算法容易受到攻击，并且可能被滥用来欺骗基于机器学习的图像系统。参阅图1，缩放攻击通过对源图像A进行轻微扰动后生成的图像B，使得它在缩放到特定维度时，缩放后的版本匹配目标图像C。这在平台的内容审查中，很容易被不法分子利用缩放攻击，上传看似正常的图像，普通用户下载后，缩放到某个图像尺度，显示的却是包含不良的信息的图像，这对平台造成恶劣的影响。
[0004]缩放攻击的抵御方法常见于图像隐写技术中，水印技术是一种很普遍的方法来抵御缩放攻击。它的目的主要分为以下几种：（1）保护原始图像版权。通过将水印嵌入到原始图像中，可根据准确提取到的水印信息判断当前获得的图像是否为盗版图像，该目的并不在于防止不良信息的图像传播。（2）保护隐写信息。基于小波变换、基于下采样轮廓变换、基于位置映射的信息嵌入算法等手段，可保证在图像中隐写的秘密信息遭受缩放攻击后，仍然能够提取出来，该技术目的在于保护图像隐写的秘密信息，不在于审核检测出图像中隐藏的秘密信息，不能解决不良信息躲避内容审查的问题。综上，水印技术不适用于解决不良信息躲避内容审查，且计算复杂度太大，在大型应用中不实际。
[0005]中值滤波器是一种常用的非线性滤波器，其基本原理是选择待处理像素的一个邻域中各像素值的中值来代替待处理的像素，其主要功能是像素的灰度值与周围像素比较接近，从而消除孤立的噪声点，所以中值滤波器能够很好的消除椒盐噪声，达到抵御缩放攻击的效果。但是传统的中值滤波器，每轮中值计算操作都要遍历滤波器窗口内的全部像素，计算复杂度很高。
[0006]现况中，存在如下三个问题：（1）在图像内容审查中，缺乏缩放攻击的抵御方法；（2）若内容审查流程过于面面俱到，会给审查员带来沉重的业务负担；（3）传统的中值滤波效率低下，对于处理大规模的图像计算成本巨大。
[0007]因此，迫切需要一种针对缩放攻击的图像内容审查技术，而且要求审查内容时具备高效率和针对缩放攻击的强鲁棒性。

技术实现思路

[0008]本专利技术的目的在于提供一种强鲁棒性的图像内容审查保护方法和系统，以克服现
有技术中的不足。
[0009]为实现上述目的，本专利技术提供如下技术方案：本申请公开了一种强鲁棒性的图像内容审查保护方法，包括如下步骤：S1、接收用户上传的图像，获取用户的信息；S2、根据用户的信息，检查用户是否符合可上传图像的要求；若符合，则进入S3；反之，不予响应；S3、对图像进行统一尺寸的调节；S4、对步骤S3中调节后的图像直接进行图像审核；得到原图像审核结果；S5、对步骤S3中调节后的图像进行内容处理，再将内容处理后的图像进行图像审核，得到新图像审核结果；S6、对比步骤S4中的原图像审核结果和步骤S5中的新图像审核结果；若结果一致，则图像审查通过；若结果不一致，则图像审查不通过。
[0010]作为优选，步骤S2具体包括如下子步骤：S21、检查用户ip地址是否在黑名单内，若是，则不予响应；反之，进入S22；S22、统计该用户的提交次数，判断是否超过单个用户容许提交的最大次数，若超过，则将该用户加入黑名单；反之，进入步骤S3。
[0011]作为优选，步骤S5的内容处理具体包括如下子步骤：S51、将图像分为等间距的若干行和若干列，根据行数从上往下依次标号；根据列数从左往右依次标号；S52、设置滑动窗口的大小，在图像上选取滑动窗口，所述滑动窗口的初始位置为第0行第0列；S53、判断滑动窗口内的最右边一列是否为图像的最后一列；若是，则进入步骤S54；若不是，进入步骤S55；S54、判断滑动窗口内的最下边一行是否为图像的最后一行；若是；则结束图像内容处理；若不是，将滑动窗口向下移动一行，以该行作为起始点，清空中值计算记录，进入S56；S55、查看是否存在中值计算记录；若不存在，进入步骤S56；若存在，则对滑动窗口内新加入的一列的像素进行中值计算，记录计算结果，形成中值集合，并进入S57；S56、对当前滑动窗口内的每一列的像素分别执行中值计算，得到每一列的像素对应的中值结果，形成中值集合，记录中值集合中的每一个元素；S57、对中值集合再执行中值计算；将结果作为当前滑动窗口的中间位置的像素值，进入S58；S58、移除中值集合内的第一个元素，删除该元素对应的记录，将滑动窗口向右滑动一列；返回S53。
[0012]本专利技术还公开了一种强鲁棒性的图像内容审查保护系统，包括用户端和平台端；所述用户端内设有图像上传模块，用于用户进行图像上传；接收告知模块，用于接收用户告知；用户接口，用于对接平台接口；所述平台端内设有平台接口，用于对接用户接口；用户检查模块，用于检查用户是否符合可上传图像的要求；图像尺寸处理模块，用于图像尺寸处理；内容处理模块，用于图
像内容处理；图像内容审核模块，用于审核图像；审核通知模块，用于接收审核通知，并生成用户告知命令；用户告知模块，用于下发用户告知；上传服务模块，用于图像上传服务。
[0013]作为优选，所述用户检查模块内包括：黑名单检测模块，用于检查用户ip地址是否在黑名单内；阈值审计模块，用于审计用户提交次数。
[0014]作为优选，所述内容处理模块内包括：滑动窗口子模块，用于设置滑动窗口；中值计算子模块，用于中值计算；中值记录子模块，用于记录中值计算结果；像素更新子模块，用于更新滑动窗口内的像素值；新增子模块，用于新增中值集合内元素；移除子模块，用于移除中值集合内元素。
[0015]本专利技术的有益效果：本专利技术提供一种强鲁棒性的图像内容审查保护方法和系统，可以有效抵御图像缩放攻击，避免不法分子利用缩放攻击躲避内容审查，保障公众平台的良好运转。本专利技术的特征及优点将通过实施例结合附图进行详细说明。
附图说明
[0016]图1为背景缩放攻击基本原理示意图；图2为本专利技术的图像内容处理流程图；图3 为本专利技术的滑动窗口处理图。
[0017]图4为本专利技术的强鲁棒性的图像内容审查保护方法的系统架构图。
具体实施方式
[0018]为使本专利技术的目的、技术方案和优点更加清楚明了，下面通过附图及实施例，对本专利技术进行进一步详细说明。但是应该理解，此处所描述的具体实施例仅仅用以解释本专利技术，并不用于限制本专利技术的范围。此外，在以下说明中，省略了对公知结构和技术的描述，以避免不必要地混淆本专利技术的概念。
[0019]参阅图2，本专利技术一种强鲁棒性的图像内容审查保护方法，包括如下步骤：本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种强鲁棒性的图像内容审查保护方法，其特征在于，包括如下步骤：S1、接收用户上传的图像，获取用户的信息；S2、根据用户的信息，检查用户是否符合可上传图像的要求；若符合，则进入S3；反之，不予响应；S3、对图像进行统一尺寸的调节；S4、对步骤S3中调节后的图像直接进行图像审核；得到原图像审核结果；S5、对步骤S3中调节后的图像进行内容处理，再将内容处理后的图像进行图像审核，得到新图像审核结果；S6、对比步骤S4中的原图像审核结果和步骤S5中的新图像审核结果；若结果一致，则图像审查通过；若结果不一致，则图像审查不通过。2.如权利要求1所述的一种强鲁棒性的图像内容审查保护方法，其特征在于：步骤S2具体包括如下子步骤：S21、检查用户ip地址是否在黑名单内，若是，则不予响应；反之，进入S22；S22、统计该用户的提交次数，判断是否超过单个用户容许提交的最大次数，若超过，则将该用户加入黑名单；反之，进入步骤S3。3.如权利要求1所述的一种强鲁棒性的图像内容审查保护方法，其特征在于：步骤S5的内容处理具体包括如下子步骤：S51、将图像分为等间距的若干行和若干列，根据行数从上往下依次标号；根据列数从左往右依次标号；S52、设置滑动窗口的大小，在图像上选取滑动窗口，所述滑动窗口的初始位置为第0行第0列；S53、判断滑动窗口内的最右边一列是否为图像的最后一列；若是，则进入步骤S54；若不是，进入步骤S55；S54、判断滑动窗口内的最下边一行是否为图像的最后一行；若是；则结束图像内容处理；若不是，将滑动窗口向下移动一行，以该行作为起始点，清空中值计算记录，进入S56；S55、查看是否存在中值计算记录；若不存在，进入步骤S56...

【专利技术属性】
技术研发人员：黎海燕，白冰，邹涛，
申请(专利权)人：之江实验室，
类型：发明
国别省市：