网络文本审核方法、电子设备及存储介质技术

本公开涉及一种网络文本审核方法、电子设备及存储介质，本公开通过通用审核模型对目标网络文本进行审核，得到第一标注结果，之后再通过确定目标网络文本的题材类型，来确定是否使用特殊审核模型对目标网络文本进行审核，若是，则通过特殊审核模型对目标网络文本进行审核，得到第二标注结果，从而实现机器审核目标网络文本，可以减少审核人员的工作量，降低人工审核的成本。工审核的成本。工审核的成本。

【技术实现步骤摘要】
网络文本审核方法、电子设备及存储介质


[0001]本公开涉及互联网
，尤其涉及一种网络文本审核方法、电子设备及存储介质。

技术介绍

[0002]电子书平台需要持续上线新的书籍，以提升平台的内容竞争力。当下网络小说日趋流行，并具有庞大的篇幅和内容量，给平台的审核工作带来了极大的负担。
[0003]目前，电子书平台一般都是通过人工审核新的网络小说，随着平台上线的网络小说的数量逐渐增大，单纯靠人工审核会使得审核人员的工作量过大，难以负担，并且还会让平台的审核成本过高。

技术实现思路

[0004]为了解决上述技术问题或者至少部分地解决上述技术问题，本公开提供了一种网络文本的审核方法、电子设备及存储介质。
[0005]第一方面，本公开提供了一种网络文本审核方法，包括：
[0006]从服务器获取目标网络文本；
[0007]将所述目标网络文本分别输入多个通用审核模型中，基于所述多个通用审核模型分别对所述目标网络文本进行审核，得到所述多个通用审核模型分别对所述目标网络文本的第一标注结果；
[0008]确定所述目标网络文本对应的题材类型；
[0009]确定所述题材类型是否为预设题材类型；
[0010]若是，则根据所述题材类型确定至少一个特殊审核模型；
[0011]将所述目标网络文本输入所述至少一个特殊审核模型中，基于所述至少一个特殊审核模型分别对所述目标网络文本进行审核，得到所述至少一个特殊审核模型分别对所述目标网络文本的第二标注结果。
[0012]第二方面，本公开提供了一种电子设备，包括处理器和存储器，存储器用于存储可执行指令，可执行指令使处理器执行以下操作：
[0013]从服务器获取目标网络文本；
[0014]将所述目标网络文本分别输入多个通用审核模型中，基于所述多个通用审核模型分别对所述目标网络文本进行审核，得到所述多个通用审核模型分别对所述目标网络文本的第一标注结果；
[0015]确定所述目标网络文本对应的题材类型；
[0016]确定所述题材类型是否为预设题材类型；
[0017]若是，则根据所述题材类型确定至少一个特殊审核模型；
[0018]将所述目标网络文本输入所述至少一个特殊审核模型中，基于所述至少一个特殊审核模型分别对所述目标网络文本进行审核，得到所述至少一个特殊审核模型分别对所述
目标网络文本的第二标注结果。
[0019]第三方面，本公开提供了一种计算机可读存储介质，该存储介质存储有计算机程序，当计算机程序被处理器执行时，使得处理器实现第一方面所述的方法。
[0020]本公开提供的技术方案与现有技术相比具有如下优点：
[0021]本公开提供网络文本审核方法、电子设备及存储介质，通过从服务器获取目标网络文本，基于通用审核模型对目标网络文本进行审核，得到第一标注结果，之后再通过确定目标网络文本的题材类型，来判断是否使用特殊审核模型审核目标网络文本，若是，则进一步通过特殊审核模型对目标网络文本进行审核，得到第二标注结果，实现机器审核网络文本，可以减少审核人员的工作量，降低人工审核的成本，并通过针对网络文本的题材类型对网络文本进行审核，来提高机器审核的准确性。
附图说明
[0022]结合附图并参考以下具体实施方式，本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中，相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的，原件和元素不一定按照比例绘制。
[0023]图1为本公开实施例提供的网络文本的审核方法流程图；
[0024]图2为本公开实施例提供的一种应用场景的示意图；
[0025]图3为本公开实施例提供的训练通用审核模型的流程示意图；
[0026]图4为本公开实施例提供的基于至少一个审核模型分别对网络文本进行审核的方法流程图；
[0027]图5本公开实施例中的一种电子设备的结构示意图。
具体实施方式
[0028]下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例，然而应当理解的是，本公开可以通过各种形式来实现，而且不应该被解释为限于这里阐述的实施例，相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是，本公开的附图及实施例仅用于示例性作用，并非用于限制本公开的保护范围。
[0029]应当理解，本公开的方法实施方式中记载的各个步骤可以按照不同的顺序执行，和/或并行执行。此外，方法实施方式可以包括附加的步骤和/或省略执行示出的步骤。本公开的范围在此方面不受限制。
[0030]本文使用的术语“包括”及其变形是开放性包括，即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”；术语“另一实施例”表示“至少一个另外的实施例”；术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。
[0031]需要注意，本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分，并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。
[0032]需要注意，本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的，本领域技术人员应当理解，除非在上下文另有明确指出，否则应该理解为“一个或多个”。
[0033]本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性
的目的，而并不是用于对这些消息或信息的范围进行限制。
[0034]为了能够更清楚地理解本公开的上述目的、特征和优点，下面将对本公开的方案进行进一步描述。需要说明的是，在不冲突的情况下，本公开的实施例及实施例中的特征可以相互组合。
[0035]在下面的描述中阐述了很多具体细节以便于充分理解本公开，但本公开还可以采用其他不同于在此描述的方式来实施；显然，说明书中的实施例只是本公开的一部分实施例，而不是全部的实施例。
[0036]为了净化网络环境，许多负面字段不允许出现在网上，目前互联网上发布文章的平台有许多，包括了大量的文本信息，其中电子书平台会发布大量的网络小说，且网络小说的篇幅庞大，使审核的难度加大，若是全篇网络文本都需要人工逐字审核的话，会使得审核人员工作量太大，从而会提高平台的审核成本。针对该问题，本公开实施例提供了一种网络文本的审核方法，下面结合具体实施例对该方法进行介绍。
[0037]图1为本公开实施例提供的网络文本审核方法流程图，该方法可以由网络文本审核装置执行，可以采用软件和/或硬件的方式实现，该网络文本审核装置可配置于电子设备中，例如终端，终端具体可包括手机、电脑、或平板电脑等。另外，该方法可应用于图2所示的应用场景，该应用场景中包括服务器201和电脑202，网络文本审核装置具体可集成在电脑202中。可以理解的是，本方法还可以应用在其它场景中。
[0038]下面结合图2所示的应用场景，对图1所示的网络文本审核本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种网络文本审核方法，其特征在于，包括：从服务器获取目标网络文本；将所述目标网络文本分别输入多个通用审核模型中，基于所述多个通用审核模型分别对所述目标网络文本进行审核，得到所述多个通用审核模型分别对所述目标网络文本的第一标注结果；确定所述目标网络文本对应的题材类型；确定所述题材类型是否为预设题材类型；若是，则根据所述题材类型确定至少一个特殊审核模型；将所述目标网络文本输入所述至少一个特殊审核模型中，基于所述至少一个特殊审核模型分别对所述目标网络文本进行审核，得到所述至少一个特殊审核模型分别对所述目标网络文本的第二标注结果。2.根据权利要求1所述的方法，其特征在于，所述通用审核模型是通过如下几个步骤训练得到的：获取样本文本；分别标注所述样本文本中多个通用风险类型对应的字段，得到多个真值文本，所述多个真值文本与所述多个通用风险类型一一对应；使用所述样本文本和所述多个真值文本对预设的深度学习模型进行训练，得到所述多个通用审核模型；所述多个通用审核模型与所述多个通用风险类型一一对应。3.根据权利要求2所述的方法，其特征在于，所述第一标注结果是所述通用审核模型对应的通用风险类型。4.根据权利要求1所述的方法，其特征在于，所述目标网络文本包括所述题材类型对应的标识信息；确定所述目标网络文本对应的题材类型，包括：检测所述目标网络文本中的所述标识信息；根据所述标识信息确定所述目标网络文本对应的题材类型。5.根据权利要求4所述的方法，其特征在于，根据所述题材类型确定至少一个特殊审核模型，包括：确定所述题材类型对应的至少一个特殊风险类型；根据所述至少一个特殊风险类型，确定至少一个特殊审核模型，所述至少一个特殊风险类型和所述至少一个特殊审核模型是一一对应的；所述特殊审核模型是根据所述特殊审核模型对应的特殊风险类型包括的风险字段训练得到的。6.根据权利要求5所述的方法，其特征在于，所述基于所述至少一个特殊审核模型分别对所述目标...

【专利技术属性】
技术研发人员：肖岳，刘征，刘龙，
申请(专利权)人：掌阅科技股份有限公司，
类型：发明
国别省市：