内容审核方法以及装置制造方法及图纸

本发明专利技术提供了一种内容审核方法以及装置，该方法通过获取待审核图片，提取所述待审核图片的特征向量；然后将所述特征向量分别输入预先训练好的所有分类模型，得到审核结果；然后基于所述审核结果，对所述待审核图片划分等级；最后将所述等级表征为违规、可能违规以及可能不违规的待审核图片发送给审核人员进行审核。由于发送给审核人员进行审核的图片是所有待审核图片中，直接过滤掉了“不违规”类别后剩余的待审核图片，因此，针对传统的人工审核方法，减少了审核人员的工作量，由于“不违规”类别的待审核图片完全由电子设备进行识别，因此，也减少了审核人员在内容审核工作中所占用的工作比重，提供了审核正确率。

【技术实现步骤摘要】
内容审核方法以及装置
本专利技术涉及移动互联网领域，具体而言，涉及一种内容审核方法以及装置。
技术介绍
对于facebook等社交网站，由于网站的关注群体人员数量庞大，信息传递速度快，因此，很有必要对注册会员每日所发表的内容进行审核。在对内容进行审核时，应该着重注意到对图片内容的审核。目前图片内容审核多数采用人工审核的方法，人工审核首先需要很多的人力成本，同时人在审核的时候可能会出现漏审、操作错误等一系列失误，导致审核结果与实际产生偏差。
技术实现思路
有鉴于此，本专利技术实施例的目的在于提供一种内容审核方法以及装置，以减少在内容审核时，人工审核所占用的比重，增大审核正确率。第一方面，本专利技术实施例提供了一种内容审核方法，所述方法包括：获取待审核图片，提取所述待审核图片的特征向量；将所述特征向量分别输入预先训练好的所有分类模型，得到审核结果；基于所述审核结果，对所述待审核图片划分等级；将所述等级表征为违规、可能违规以及可能不违规的待审核图片发送给审核人员进行审核。第二方面，本专利技术实施例提供了一种内容审核装置，所述装置包括：获取模块，用于获取待审核图片，提取所述待审核图片的特征向量；输入模块，用于将所述特征向量分别输入预先训练好的所有分类模型，得到审核结果；划分模块，用于基于所述审核结果，对所述待审核图片划分等级；发送模块，用于将所述等级表征为违规、可能违规以及可能不违规的待审核图片发送给审核人员进行审核。与现有技术相比，本专利技术各实施例提出的内容审核方法以及装置的有益效果是：通过获取待审核图片，提取所述待审核图片的特征向量；然后将所述特征向量分别输入预先训练好的所有分类模型，得到审核结果；然后基于所述审核结果，对所述待审核图片划分等级；最后将所述等级表征为违规、可能违规以及可能不违规的待审核图片发送给审核人员进行审核。由于发送给审核人员进行审核的图片是所有待审核图片中，直接过滤掉了“不违规”类别后剩余的待审核图片，因此，针对传统的人工审核方法，减少了审核人员的工作量，由于“不违规”类别的待审核图片完全由电子设备进行识别，因此，也减少了审核人员在内容审核工作中所占用的工作比重，提供了审核正确率。为使本专利技术的上述目的、特征和优点能更明显易懂，下文特举较佳实施例，并配合所附附图，作详细说明如下。附图说明为了更清楚地说明本专利技术实施例的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，应当理解，以下附图仅示出了本专利技术的某些实施例，因此不应被看作是对范围的限定，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他相关的附图。图1为本专利技术实施例提供的电子设备的结构框图；图2为本专利技术第一实施例提供的内容审核方法的流程图之一；图3为本专利技术第一实施例提供的内容审核方法的流程图之二；图4为本专利技术第二实施例提供的内容审核装置的结构框图之一；图5为本专利技术第二实施例提供的内容审核装置的结构框图之二。具体实施方式下面将结合本专利技术实施例中附图，对本专利技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本专利技术一部分实施例，而不是全部的实施例。通常在此处附图中描述和示出的本专利技术实施例的组件可以以各种不同的配置来布置和设计。因此，以下对在附图中提供的本专利技术的实施例的详细描述并非旨在限制要求保护的本专利技术的范围，而是仅仅表示本专利技术的选定实施例。基于本专利技术的实施例，本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例，都属于本专利技术保护的范围。应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步定义和解释。同时，在本专利技术的描述中，术语“第一”、“第二”等仅用于区分描述，而不能理解为指示或暗示相对重要性。如图1所示，是所述电子设备100的方框示意图，所述电子设备100可以是个人电脑(personalcomputer，PC)、平板电脑、个人数字助理(personaldigitalassistant，PDA)等。其中，所述电子设备100包括：内容审核装置、存储器110、存储控制器120、处理器130、外设接口140、输入输出单元150、音频单元160、显示单元170。所述存储器110、存储控制器120、处理器130、外设接口140、输入输出单元150、音频单元160以及显示单元170各元件相互之间直接或间接地电性连接，以实现数据的传输或交互。例如，这些元件相互之间可通过一条或多条通讯总线或信号线实现电性连接。所述内容审核装置包括至少一个可以软件或固件(firmware)的形式存储于所述存储器110中或固化在客户端设备的操作系统(operatingsystem，OS)中的软件功能模块。所述处理器130用于执行存储器110中存储的可执行模块，例如所述内容审核装置包括的软件功能模块或计算机程序。其中，存储器110可以是，但不限于，随机存取存储器(RandomAccessMemory，RAM)，只读存储器(ReadOnlyMemory，ROM)，可编程只读存储器(ProgrammableRead-OnlyMemory，PROM)，可擦除只读存储器(ErasableProgrammableRead-OnlyMemory，EPROM)，电可擦除只读存储器(ElectricErasableProgrammableRead-OnlyMemory，EEPROM)等。其中，存储器110用于存储程序，所述处理器130在接收到执行指令后，执行所述程序，前述本专利技术实施例任一实施例揭示的流程定义的电子设备100所执行的方法可以应用于处理器130中，或者由处理器130实现。处理器130可能是一种集成电路芯片，具有信号的处理能力。上述的处理器130可以是通用处理器，包括中央处理器(CentralProcessingUnit，简称CPU)、网络处理器(NetworkProcessor，简称NP)、图像处理器(GraphicsProcessingUnit,简称GPU)等；还可以是数字信号处理器(DSP)、专用集成电路(ASIC)、现场可编程门阵列(FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本专利技术实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。所述外设接口140将各种输入/输出装置耦合至处理器130以及存储器110。在一些实施例中，外设接口140，处理器130以及存储控制器120可以在单个芯片中实现。在其他一些实例中，他们可以分别由独立的芯片实现。输入输出单元150用于提供给用户输入数据实现用户与电子设备100的交互。所述输入输出单元150可以是，但不限于，鼠标和键盘等。音频单元160向用户提供音频接口，其可包括一个或多个麦克风、一个或者多个扬声器以及音频电路。显示单元170在电子设备100与用户之间提供一个交互界面(例如用户操作界面)或用于显示图像数据给用户参考。在本实施例中，所述显示单元170可以是液晶显示器或触控显示器。若为触控显示器，其可为支持单点和多点触控操作的电容式触控屏或电阻式触控屏等。支持单点和多点触控操作是指触控显示器能感应到来自该触控显本文档来自技高网...

【技术保护点】
1.一种内容审核方法，其特征在于，所述方法包括：获取待审核图片，提取所述待审核图片的特征向量；将所述特征向量分别输入预先训练好的所有分类模型，得到审核结果；基于所述审核结果，对所述待审核图片划分等级；将所述等级表征为违规、可能违规以及可能不违规的待审核图片发送给审核人员进行审核。

【技术特征摘要】
1.一种内容审核方法，其特征在于，所述方法包括：获取待审核图片，提取所述待审核图片的特征向量；将所述特征向量分别输入预先训练好的所有分类模型，得到审核结果；基于所述审核结果，对所述待审核图片划分等级；将所述等级表征为违规、可能违规以及可能不违规的待审核图片发送给审核人员进行审核。2.根据权利要求1所述的方法，其特征在于，所述预先训练好的分类模型包括八种，所述将所述特征向量分别输入预先训练好的所有分类模型，得到审核结果，包括：将所述特征向量分别输入预先训练好的八种分类模型，得到所述待审核图片在每个所述分类模型内的分数；将所述分数最高的分类模型对应的分类类别确定为所述待审核图片的审核结果。3.根据权利要求1所述的方法，其特征在于，所述将所述等级表征为违规、可能违规以及可能不违规的待审核图片发送给审核人员进行审核，包括：将所述等级表征为违规的待审核图片全部发送给审核人员进行审核；将所述等级表征为可能违规以及可能不违规的待审核图片按照预设的抽查比例发送给审核人员进行审核。4.根据权利要求1所述的方法，其特征在于，所述方法还包括：获取所述审核人员反馈的所述等级表征为违规的待审核图片的审核确认结果；在所述审核确认结果所对应的分类模型的错误比例达到预设错误比例时，重新训练所述分类模型。5.根据权利要求1-4中任一所述的方法，其特征在于，在所述获取待审核图片之前，所述方法还包括：基于历史数据...

【专利技术属性】
技术研发人员：李浩淼，
申请(专利权)人：北京木瓜移动科技股份有限公司，
类型：发明
国别省市：北京,11