【技术实现步骤摘要】
本专利技术涉及文本分类，尤其涉及一种多级分类模型分类方法、训练方法、装置、设备及介质。
技术介绍
1、随着互联网和信息技术的快速发展，自然语言处理技术成为计算机科学领域与人工智能领域中的一个重要方向，可以用于对文本进行分析挖掘，以获取更多的信息。在一些应用场景下，也可以利用自然语言处理技术来预测文本的类别。
2、文本可以为由研发人员在对产品进行测试或者运维的过程中提交的问题单，具体包括问题单的标题、问题描述和解决方案等。为了便于后续研发人员对出现的各类问题进行总结分析，需要对提交的问题单进行分类，以确定问题类别。但是，由于问题单中记录的内容较为复杂、且多为非结构化的文本，故一般来说都是由专门的业务人员进行手工分析整理，一方面耗费较多的时间成本和人力成本，另一方面可能会因误操作，导致文本分类的准确率较低。或者基于非动态词向量或者词向量对文本进行分类，而词向量或者词向量并不能根据它的上下文去改变，信息比较单一，从而导致对文本分类精度不够高。例如，在12345热线系统中，一个重要的处理环节就是对接收到的民众诉求内容进行多层级的分类，以便对其进行细粒度的归档整理和分拨。随着技术的发展，nlp分类模型正逐步代替人工的分类，辅助12345热线更好更快地进行述求处理。针对多级分类场景，现阶段一种解决方案是基于bert分别一个多分类模型和一个nsp匹配模型，不同的模型应对不同的级别分类，这种方式有如下缺点：1.需要两个独立的模型，比起单模型无论是分类还是训练都较为费时且占用更多的显存资源；2.将一级分类和n(n>1)级分类独立
3、因此，基于文本的分类算法目前较多，目前的政务文本分类过程中存在的分类精度低、政务文本对于分类的类型无严格的规定、文本分类过程中语义表达弱、词序丢失，现有的分类算法未考虑到每种词汇在政务领域分类过程中的不同占比等情况，文本分类过程中语义表达弱、词序丢失等情况，如何针对这些大量的公文数据进行有效政务主题分类管理成为了一个巨大的挑战。
技术实现思路
1、有鉴于此，本专利技术实施例提供一种多级分类模型分类方法、训练方法、装置、设备及介质。为解决现有技术的不足，通过融合多分类模型和双塔模型以此对政务事项文本进行层级分类，具备较高的分类准确率和处理效率。
2、第一方面，本专利技术实施例提供一种多级分类模型分类方法，包括：
3、获取文本分类数据，利用编码器对文本分类数据进行分类，得到事项文本的向量，其中，所述文本分类数据是指事项文本分类数据；
4、将所述事项文本的向量输入双塔模型中的多分类模型进行多层级文本分类，得到第一层的一级分类结果；
5、将所述一级分类结果输入双塔模型中的匹配模型进行文本类别分类，得到对应类别文本子集分类结果，其中，所述对应类别文本子集分类结果包括各个对应类别文本向量；
6、对所述事项文本的编码向量和所述各个对应类别文本向量再输入双塔模型中的匹配模型进行二分类向量匹配，得到二级分类结果；直至对应类别文本子集没有为止，得到多个文本分类的分类路径；
7、基于多个文本分类的分类路径进行概率计算，得到各级分类最优的结果。
8、第二方面，本专利技术实施例提供一种多级分类模型训练方法，且所述多级分类模型包括bert模型、双塔模型中的多分类模型以及双塔模型中的匹配模型，包括：
9、获取待训练数据，所述待训练数据包括事项文本训练数据和类别名称训练数据；
10、基于所述bert模型对所述事项文本训练数据和类别名称训练数据进行编码，得到事项文本的编码向量和对应类别文本向量，其中所述对应类别文本向量包括多个文本分类类别标签信息，所述多个文本分类类别标签对应不同种文本分类训练任务；
11、在所述双塔模型中的多分类模型上，对所述事项文本的编码向量提取进行训练，得到对应的目标文本特征，并根据所述目标文本特征预测所述第一级分类结果；
12、在所述双塔模型中的匹配模型上，将所述目标文本特征信息和对应类别文本向量，得到拼接文本特征，并根据所述拼接文本特征预测所述第二级分类结果，直至所有对应类别文本向量完成为止；
13、根据所述第一级分类结果得到对应的第一损失函数、以及根据所述第二文本分类结果得到对应第二损失函数获得所述多级分类模型的目标损失函数，利用所述目标损失函数训练调整所述多级分类模型，直到达到训练停止条件。
14、第三方面，本专利技术实施例提供一种多级分类模型分类装置，包括：
15、数据获取模块，用于获取文本分类数据，利用编码器对文本分类数据进行分类，得到事项文本的向量，其中，所述文本分类数据是指事项文本分类数据；
16、数据分类模块，用于将所述事项文本的向量输入双塔模型中的多分类模型进行多层级文本分类，得到第一层的一级分类结果；
17、数据匹配模块，用于将所述一级分类结果输入双塔模型中的匹配模型进行文本类别分类，得到对应类别文本子集分类结果，其中，所述对应类别文本子集分类结果包括各个对应类别文本向量；
18、数据分类路径模块，用于对所述事项文本的编码向量和所述各个对应类别文本向量再输入双塔模型中的匹配模型进行二分类向量匹配，得到二级分类结果；直至对应类别文本子集没有为止，得到多个文本分类的分类路径；
19、数据分类结果模块，用于基于多个文本分类的分类路径进行概率计算，得到各级分类最优的结果。
20、第四方面，本专利技术实施例提供一种计算机设备，所述计算机设备包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现上述第一方面所述的多级分类模型分类方法。
21、第五方面，本专利技术实施例提供一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行时实现上述第一方面所述的多级分类模型分类方法。
22、本专利技术与现有技术相比存在的有益效果是：
23、本专利技术提供提供一种多级分类模型分类方法、训练方法、装置、设备及介质，在进行多级分类模型分类方法时，通过获取文本分类数据，利用编码器对文本分类数据进行分类，得到事项文本的向量，其中，文本分类数据是指事项文本分类数据，将事项文本的向量输入双塔模型中的多分类模型进行多层级文本分类，得到第一层的一级分类结果，将一级分类结果输入双塔模型中的匹配模型进行文本类别分类，得到对应类别文本子集分类结果，其中，对应类别文本子集分类结果包括各个对应类别文本向量，对事项文本的编码向量和各个对应类别文本向量再输入双塔模型中的匹配模型进行二分类向量匹配，得到二级分类结果；直至对应类别文本子集没有为止，得到多个文本分类的分类路径，基于多个文本分类的分类路径进行概率计算，得到各级分类最优的结果。本本文档来自技高网...
【技术保护点】
1.一种多级分类模型分类方法，其特征在于，包括：
2.如权利要求1所述的一种多级分类模型分类方法，其特征在于，所述将所述事项文本的向量输入双塔模型中的多分类模型进行文本编码分类，得到一级分类结果，包括：
3.如权利要求1所述的一种多级分类模型分类方法，其特征在于，所述将所述一级分类结果输入双塔模型中的匹配模型进行文本类别分类，得到对应类别文本子集分类结果，包括：
4.如权利要求1所述的一种多级分类模型分类方法，其特征在于，对所述事项文本的编码向量和所述各个对应类别文本向量再输入双塔模型中的匹配模型进行二分类向量匹配，得到二级分类结果，直至对应类别文本子集没有为止，得到多个文本分类的分类路径，包括：
5.如权利要求4所述的一种多级分类模型分类方法，其特征在于，基于确定所述事项文本的编码向量与所述任一对应类别文本向量对应的各个候选文本的相似度，确定各个类别文本向量的置信度分数，包括：
6.如权利要求1所述的一种多级分类模型分类方法，其特征在于，所述基于多个文本分类的分类路径进行概率计算，得到各级分类最优的结果，包括：
...【技术特征摘要】
1.一种多级分类模型分类方法，其特征在于，包括：
2.如权利要求1所述的一种多级分类模型分类方法，其特征在于，所述将所述事项文本的向量输入双塔模型中的多分类模型进行文本编码分类，得到一级分类结果，包括：
3.如权利要求1所述的一种多级分类模型分类方法，其特征在于，所述将所述一级分类结果输入双塔模型中的匹配模型进行文本类别分类，得到对应类别文本子集分类结果，包括：
4.如权利要求1所述的一种多级分类模型分类方法，其特征在于，对所述事项文本的编码向量和所述各个对应类别文本向量再输入双塔模型中的匹配模型进行二分类向量匹配，得到二级分类结果，直至对应类别文本子集没有为止，得到多个文本分类的分类路径，包括：
5.如权利要求4所述的一种多级分类模型分类方法，其特征在于，基于确定所述事项文本的编码向量与所述任一对应类别文本向量对应的各个候选文本的相似度...
【专利技术属性】
技术研发人员：李宏彬，杨东泉，余晓填，王孝宇，
申请(专利权)人：深圳云天励飞技术股份有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。