【技术实现步骤摘要】
本专利技术涉及一种基于多层次神经网络的智能变压器运维检测方法，属于变压器运检领域。
技术介绍
1、变压器作为电力系统中的关键设备，其运行状态的监测和检修对于保障电力系统的安全稳定运行至关重要。变压器运检，即变压器的运行维护和检修，涉及到对变压器进行定期的检查、监测、故障诊断和必要的维护工作，以预防故障的发生和及时修复已出现的故障，使用多层次训练可以更有效地从原始数据中提取特征，尤其是在处理大规模、多源异构的数据时。通过不同层次的模型，可以从简单到复杂逐步学习到更深层次的特征表示、能够更好地理解变压器的运行状态和潜在问题，从而为制定预测性维护和状态检修计划提供更准确的依据、有助于模型学习到更加泛化的特征，减少对特定数据集的依赖，提高模型在不同环境和条件下的适用性、多层次训练中的每一层都可以提供对数据的不同解释，有助于理解故障发生的内在原因和机制，从而提高模型的可解释性、可以减少人工干预，提高变压器运检的自动化水平，降低人力成本、结合实时数据流，多层次训练模型可以实时监控变压器状态，并在潜在问题发生前提供预警，从而实现预防性维护。
技术实现思路
1、根据背景所述问题，本专利技术要解决的问题是：提供一种基于多层次神经网络的智能变压器运维检测方法，将变压器运检场景中采集的语料进行预处理、特征提取以及预训练样本的构建，并完成适合于电力行业知识的大模型网络架构，对变压器运检认知大模型进行层次知识预训练，以这种方法对变压器运检的文本和图像有很强的预测能力，并通过各种预训练的手段来提高对于变压器运
2、为实现上述目的，本专利技术提供如下技术方案：提供一种基于多层次神经网络的智能变压器运维检测方法，包括以下步骤：
3、(1)变压器运检场景中的大规模语料采集；
4、(2)对变压器运检采集的大规模预料进行预处理、特征提取和训练样本的构建；
5、(3)构建变压器运检认知模型编码、解码层网络构架；
6、(4)对变压器运检认知大模型进行层次化知识预训练。
7、所述步骤(1)还具体分为以下步骤：
8、(1.1)详细梳理变压器多模态数据范围；
9、(1.2)建立多模态信息的语义层级分类体系；
10、(1.3)将变压器状态规律抽象为知识；
11、(1.4)采集多模态数据中的概念(状态)、描述、知识三个共性层面。
12、所述步骤(2)包括语料预处理、特征提取和训练样本构建；
13、所述语料预处理可以将不同类型的文档，采用不同层级的知识提取策略，针对变压器资料类信息，主要以共性知识为主，通过关联设备产品资料的基础参数作为关联信息，为后续设备对齐提供信息支撑，其他文档类应依据文档内容特征，区分共性和个性知识部分，并分层级提取；
14、所述特征提取的关键技术为transformer，通过相对位置编码和基于电力领域词典的全词遮蔽机制两种技术手段，相对位置编码的相对位置嵌入不是对每个位置使用固定的嵌入，而是根据不同的位置关系生成不同的学习嵌入，加强对相对位置信息的表达能力，使输入模型的经过分词的语料更加准确；基于电力领域词典的全词遮蔽机制，则会对整个词进行遮蔽，使模型在做mlm预测的时候，对整个词语进行预测，进而更好地把握实体信息；
15、所述训练样本构建在一定程度上减少了图像和文本信息之间的语义鸿沟。
16、所述步骤(3)包括视觉模态、语言模态和跨视觉语言混合模态；
17、所述视觉模态编码、解码层等网络构架设计包括transformer和卷积神经网络两种方法；
18、所述transformer的主要操作步骤为对于输入的变压器图片，首先进行分块处理，之后再将每个块输入线性映射层得到初步的视觉编码，通过一个位置编码向量与过完线性层后得到的初步的视觉编码进行拼接(也可以相加)，将拼接后的模型输入到transformerencoder中，进行更近一步地编码，最后利用交叉熵损失函数进行训练；
19、所述卷积神经网络则补充上述的transformer模型中数据量不那么充足的场景，具体操作步骤为输入图像为变压器知识图像，首先通过一个卷积层以及一个最大池化层得到初步的图像特征，之后的4个阶段模型结构组成为下采样层以及残差模块，残差模块的组成为卷积核大小及通道数各异的卷积层叠加，并且输入会直接连接到输出上最一个累加，下采样层将是最大池化层，会对将特征图的大小做2倍的衰减，特征提取从低层次的纹理等特征，逐渐到高层次的语义特征，最后由output层最一个全连接映射到不同的类别使用交叉熵损失函数训练。
20、所述语言模态编码、解码层等网络构架设计包括bert技术和t5技术，bert技术为特定的下游任务添加不同的分类头，还可以用于文本中电力领域知识的实体提取等任务；t5技术通过问答来快速解决技术问题，可以节省大量的时间成本和人力消耗；
21、所述跨视觉语言混合模态编码、解码层等网络构架设计包括单塔融合的跨模态模型和双塔融合的跨模态两种模型，单塔融合的跨模态模型可以捕捉视觉和语言更细粒度的语义对齐关系，分三种任务：语言掩码预测任务、图文匹配任务、图像描述任务来完成单塔融合的跨模态模型中的目的；双塔融合的跨模态可灵活使用视觉和语言塔的场景。
22、所述步骤(4)包括对变压器运检通用知识掩码、判别、置换等预训练和变压器运检基于字符、短语、知识的三阶段预训练；
23、所述变压器运检通用知识掩码、判别、置换等预训练包括文本、多模态预训练基础和运检多阶段递进的预训练三种训练；
24、所述变压器运检基于字符、短语、知识的三阶段预训练包括三个阶段和融合多基础策略和多语义层级的变压器运检认知预训练。
25、所述文本训练包括mlm任务和nsp任务；
26、所述mlm任务减轻网络学习的偏置性，有利于文本预训练模型学习到每个输入词上下文的表征分布，由模型根据图像端对应的电力设备运检图像特征还原原始的类别信息；
27、所述nsp任务可以更好的理解两个句子之间的关系，完成文本训练，更好的处理变压器运检任务中的文本数据；
28、所述多模态预训练基础包括文本掩码任务、掩码图像特征回归任务和掩码物体分类任务；
29、所述文本掩码任务，在变压器运检多模态端预训练任务mlm和文本端预训练mlm设置有所不同；所述掩码图像特征回归任务，模型根据变压器图像周围信息，以及文本端的描述还原被掩码的图像特征；所述掩码物体分类任务，是模型根据变压器运检图像数据的周围信息，以及文本端描述预测掩码特征的类别标签；
30、所述运检多阶段递进的预训练包括单流模型和双流模型；
31、所述单流模型一开始输入时便将图像信息和文本信息进行融合再输入基于bert的模型；所述双流模型将变压器运检图像信息和文本信息先独自进行编码，之后再进行融合编本文档来自技高网...
【技术保护点】
1.一种基于多层次神经网络的智能变压器运维检测方法，其特征在于，包括以下步骤：
2.根据权利要求1所述一种基于多层次神经网络的智能变压器运维检测方法，其特征在于，所述步骤(1)还具体分为以下步骤：
3.根据权利要求1所述一种基于多层次神经网络的智能变压器运维检测方法，其特征在于，所述步骤(2)包括语料预处理、特征提取和训练样本构建；
4.根据权利要求1所述一种基于多层次神经网络的智能变压器运维检测方法，其特征在于，所述步骤(3)包括视觉模态、语言模态和跨视觉语言混合模态；
5.根据权利要求1所述一种基于多层次神经网络的智能变压器运维检测方法，其特征在于，所述步骤(4)包括对变压器运检通用知识掩码、判别、置换等预训练和变压器运检基于字符、短语、知识的三阶段预训练；
6.根据权利要求5所述一种基于多层次神经网络的智能变压器运维检测方法，其特征在于，所述文本训练包括MLM任务和NSP任务；
7.根据权利要求5所述一种基于多层次神经网络的智能变压器运维检测方法，其特征在于，所述第一阶段为图像特征随机打乱任务；
...【技术特征摘要】
1.一种基于多层次神经网络的智能变压器运维检测方法，其特征在于，包括以下步骤：
2.根据权利要求1所述一种基于多层次神经网络的智能变压器运维检测方法，其特征在于，所述步骤(1)还具体分为以下步骤：
3.根据权利要求1所述一种基于多层次神经网络的智能变压器运维检测方法，其特征在于，所述步骤(2)包括语料预处理、特征提取和训练样本构建；
4.根据权利要求1所述一种基于多层次神经网络的智能变压器运维检测方法，其特征在于，所述步骤(3)包括视觉模态、语言模态和跨视觉语言混合模态；
5.根据权利要求1所述一种基于多层次神经网络的智能变压器运维检测方法，其特征在于，所述步骤(4)包括对变压器运检通用知识掩码、判别、置换等预训练和变压器运检基于字符、短语、知识的三阶段预训练；
<...【专利技术属性】
技术研发人员：黄传启，王文宗，马泉泉，常得琳，路嫣茹，张睿智，刘鹏升，张猛，张凌宇，张剑，刘文钊，亓文哲，崔雯迪，康天宇，邵艳，王刚，王通，高延涛，黄英姿，赵大香，宋伊敏，梁斌，陶明峰，樊斌，李贝，
申请(专利权)人：国网山东省电力公司淄博供电公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。