一种基于深度卷积神经网络的换流变压器故障诊断方法技术

本发明专利技术公开了一种基于深度卷积神经网络的换流变压器故障诊断方法。本发明专利技术将深度卷积神经网络模型应用于电网设备故障检测中，既改善了基于统计学和概率论的机器学习算法中参数多、调参过程繁琐、模型性能十分依赖数据预处理和特征工程的不足，也在浅层人工神经网络基础上将数据扩展至更高维度，使模型对复杂函数的拟合能力进一步提高，同时，将残差网络和批量归一化算法应用于深度卷积神经网络，使模型收敛速度和泛化能力得到提高，模型对电网设备故障诊断的准确率相比浅层神经网络有很大提升。

A fault diagnosis method of converter transformer based on deep convolution neural network

【技术实现步骤摘要】
一种基于深度卷积神经网络的换流变压器故障诊断方法
本专利技术属于输变电设备故障诊断领域，具体地说是一种基于深度卷积神经网络的换流变压器故障诊断方法。
技术介绍
目前，大型变压器多为油浸式变压器，采用油纸绝缘结构。变压器正常运行时，其内部的油纸绝缘材料受到热和电的作用，会逐渐老化并分解，产生少量溶解气体。通过分析变压器中的溶解气体H2、CH4、C2H2、C2H4、C2H6、CO、CO2的含量和产气率，可以检测出故障，防止故障恶化。通过对大量DGA结果的统计分析，专家试图建立一个油中溶解气体含量的注意值标准，即认为油中溶解气体含量高于此标准的设备内部可能存在着引发事故的早期潜伏性故障。在变压器故障诊断中，单靠电气试验方法很难发现某些局部故障和发热缺陷，而通过变压器油中气体的色谱分析，对发现变压器内部的某些潜伏性故障及其发展程度的早起诊断非常灵敏且有效，这已被大量故障诊断的实践所证明。在国家颁布执行的电力设备预防性试验规程DL/T596-1996中，将DGA方法放在了首要位置。但实践表明很难把判断有无故障这样一个复杂的问题简化为仅由一个数值界限去机械地进行判断。基于此，Dornenburg提出气体三比值法进行变压器故障的诊断。三比值法避免了油的体积效应，提高了对电力变压器故障诊断的准确率，国内外统计表明，三比值法对油浸式电力设备故障诊断的可靠率在80％左右，在我国国家标准中推荐使用基于DGA结果的三比值法对油浸式设备进行故障诊断。但在实践过程中发现，三比值法存在编码盲点问题，有相当一部分的DGA分析结果落在了三比值法所提出的编码之外，以至于对某些情况无法进行诊断。基于统计学和概率论的机器学习方法对大规模数据有更强的处理和学习能力。当前场景中，油中溶解气体的监测数据多为非线性数据(即溶解气体数据的变化规律难以用线性函数拟合)，且油中溶解气体中各类气体的含量相互影响，存在一定相关性。基于此，基于树模型的机器学习模型对电网系统中产生的大规模油色谱监测数据的拟合能力更有优势。目前，基于树模型的算法中，性能最高的算法是XGBosot算法(仅在2015年Kaggle各类竞赛获胜的29个算法中，有17个使用了XGBoost)。XGBoost是Boosting算法的其中一种。Boosting算法的思想是将许多弱分类器集成在一起形成一个强分类器。XGBoost中使用的基树(弱分类器)为CART回归树模型，CART回归树是假设树为二叉树，通过不断将特征进行分裂。例如，当前树结点是基于第j个特征值进行分裂的，设该特征值小于s的样本划分为左子树，大于s的样本划分为右子树。XGBoost算法思想就是不断地添加树，不断地进行特征分裂来生长一棵树，每次添加一个树，其实是学习一个新函数，去拟合上次预测的残差。当训练完成得到k棵树，要预测一个样本的分数，其实就是根据这个样本的特征，在每棵树中会落到对应的一个叶子节点，每个叶子节点就对应一个分数，最后只需要将每棵树对应的分数加起来就是该样本的预测值。XGBoost显式地加入了正则项来控制模型的复杂度，有利于防止过拟合，从而提高模型的泛化能力；XBGoost支持并行化，虽然树与树之间是串行关系，但是同层级节点可并行，具体地：对于某个节点，节点内选择最佳分裂点，候选分裂点计算增益用多线程并行，训练速度快，因此XGBoost在电网设备故障诊断的准确率上有很大的提升，但模型参数较多、调参过程繁琐，人工干预多，数据预处理和特征工程的好坏直接影响模型的表现。神经网络模型获取知识能力强，能够有效地处理数据中的噪声，能够通过梯度下降方法自主优化参数，不需要数据预处理和特征工程，没有繁琐的参数调优过程，人工干预少，且故障诊断的准确率大幅提升。油中溶解气体监测数据属于序列数据，当前时刻的状态依赖上一时刻，并且影响下一时刻的状态。人工神经网络模型中，对序列数据建模最经典的模型是循环神经网络和卷积神经网络。循环神经网络(RecurrentNeuralNetwork，RNN)是指一个随着时间的推移，重复发生的结构。在自然语言处理(NLP)，语音图像等多个领域均有非常广泛的应用。RNN网络和其他网络最大的不同就在于RNN能够实现某种“记忆功能”，是进行时间序列分析时最好的选择。如同人类能够凭借自己过往的记忆更好地认识这个世界一样。RNN也实现了类似于人脑的这一机制，对所处理过的信息留存有一定的记忆，而不像其他类型的神经网络并不能对处理过的信息留存记忆。一个标准的RNN单元包含三层：输入层，隐藏层和输出层，如图1所示，其中RNN网络中最初始的输入是x0，输出是h0，这代表着0时刻RNN网络的输入为x0，输出为h0，网络神经元在0时刻的状态保存在A中。当下一个时刻1到来时，此时网络神经元的状态不仅仅由1时刻的输入x1决定，也由0时刻的神经元状态决定。以后的情况都以此类推，直到时间序列的末尾t时刻，从而学习到序列中的隐信息。卷积神经网络(ConvolutionalNeuralNetworks，CNN)是一类包含卷积计算且具有深度结构的前馈神经网络，具有强表征学习能力，能够按其阶层结构对输入信息进行平移不变分类，其隐含层内的卷积核参数共享和层间连接的稀疏性使得卷积神经网络能够以较小的计算量对格点化特征，有稳定的效果且对数据没有额外的特征工程要求。一般的，CNN的基本结构包括两层，其一为特征提取层，每个神经元的输入与前一层的局部接受域相连，并提取该局部的特征。一旦该局部特征被提取后，它与其它特征间的位置关系也随之确定下来；其二是特征映射层，网络的每个计算层由多个特征映射组成，每个特征映射是一个平面，平面上所有神经元的权值相等。特征映射结构采用影响函数核小的sigmoid函数作为卷积网络的激活函数，使得特征映射具有位移不变性。此外，由于一个映射面上的神经元共享权值，因而减少了网络自由参数的个数。卷积神经网络中的每一个卷积层都紧跟着一个用来求局部平均与二次提取的计算层，这种特有的两次特征提取结构减小了特征分辨率。卷积神经网络以其局部权值共享的特殊结构在语音识别、序列和图像处理方面有着独特的优越性，其布局更接近于实际的生物神经网络，权值共享降低了网络的复杂性，特别是多维输入向量的图像可以直接输入网络，这一特点避免了特征提取和分类过程中数据重建的复杂度。在大数据背景下，电网系统中产生的设备数据规模日益增大，基于人工智能的设备故障诊断方法对大规模数据有较强的处理能力，能够学习到大规模数据中的隐信息，从而提升设备故障诊断的准确率，因此基于人工智能的设备故障诊断方法有很大的研究价值。目前，针对设备故障诊断的人工智能方法分为两大类：1)以XGBoost为代表的基于统计学和概率论的机器学习；2)以RNN、CNN为代表的人工神经网络。基于统计学和概率论的机器学习有严谨的数学理论支撑，模型可解释性强，并且对电网设备故障诊断的准确率高，同时其缺点也很明显：模型参数多、调参过程繁琐，人工干预多，数据预处理和特征工程的好坏直接影响模型的表现。人工神经网络采用随机梯度下降法自主优化参数，大大减少了人工干预本文档来自技高网...

【技术保护点】
1.一种基于深度卷积神经网络的换流变压器故障诊断方法，其特征在于，/n将深度神经网络与卷积神经网络结合得到基于深度卷积神经网络的换流变压器故障诊断模型，利用该换流变压器故障诊断模型进行故障诊断；/n所述换流变压器故障诊断模型的诊断过程如下：/n输入数据后，进入第I阶段，在第I阶段中，通过卷积操作、批量归一化和Relu激活函数的非线性操作；/n然后进入第II阶段，该阶段为模型核心阶段，即深度卷积网络，包括多个依次叠加的残差结构；在残差结构中，数据将通过两条支路，在第一条支路中，数据首先通过批量归一化，并且使用Relu激活函数对数据进行预激活，之后利用信息丢弃操作防止模型过拟合，最后进行卷积操作；将卷积操作后的结果再次进行批量归一化、Relu激活函数和信息丢弃操作，最后通过卷积操作得到该支路的输出；在第二条支路中，数据直接通过一层最大池化操作进行下采样，从而与第一条支路的数据对齐；最终，将两条支路的输入求和作为第II阶段的输出；/n最后，数据进入第III阶段，通过批量归一化、Relu激活函数和全连接操作，利用softmax激活函数对数据进行激活，得到结果。/n

【技术特征摘要】
1.一种基于深度卷积神经网络的换流变压器故障诊断方法，其特征在于，
将深度神经网络与卷积神经网络结合得到基于深度卷积神经网络的换流变压器故障诊断模型，利用该换流变压器故障诊断模型进行故障诊断；
所述换流变压器故障诊断模型的诊断过程如下：
输入数据后，进入第I阶段，在第I阶段中，通过卷积操作、批量归一化和Relu激活函数的非线性操作；
然后进入第II阶段，该阶段为模型核心阶段，即深度卷积网络，包括多个依次叠加的残差结构；在残差结构中，数据将通过两条支路，在第一条支路中，数据首先通过批量归一化，并且使用Relu激活函数对数据进行预激活，之后利用信息丢弃操作防止模型过拟合，最后进行卷积操作；将卷积操作后的结果再次进行批量归一化、Relu激活函数和信息丢弃操作，最后通过卷积操作得到该支路的输出；在第二条支路中，数据直接通过一层最大池化操作进行下采样，从而与第一条支路的数据对齐；最终，将两条支路的输入求和作为第II阶段的输出；
最后，数据进入第III阶段，通过批量归一化、Relu激活函数和全连接操作，利用softmax激活函数对数据进行激活，得到结果。


2.根据权利要求1所述的一种基于深度卷积神经网络的换流变压器故障诊断方法，其特征在于，模型的输入为设备在线监测数据X＝(x1,x2,...,xi,...,xm)，模型的输出为每条监测数据xi对应的诊断结果yi的集合Y＝(y1,y2,...,yi,...,ym)，yi仅能取值0或1，0代表设备异常，1代表设备正常。


3.根据权利要求2所述的一种基于深度卷积神经网络的换流变压器故障诊断方法，其特征在于，在模型训练阶段，模型损失函数为：



其中，p(·)表示模型将第i条监测数据的诊断结果映射为正确结果yi的概率。


4.根据权利要求1或2所述的一种基于深度卷积神经网络的换流变压器故障诊断方法，其特征在于，每个残差结构包含2个卷积层，每个卷积层都具有步长为16的卷积核，共32k个卷积核，其中k从1开始并且每经过四个残差结构后递增加1；每间隔1个残差结构，对其输入进行采样率为2的下采样，因此原始输入最终以采样率为24倍下采样。

【专利技术属性】
技术研发人员：郑一鸣，王文浩，万梓聪，闫丹凤，毕建刚，王峰渊，袁帅，杨圆，常文治，是艳杰，王广真，邵明鑫，韩睿，杨智，姜炯挺，
申请(专利权)人：国网浙江省电力有限公司电力科学研究院，北京邮电大学，
类型：发明
国别省市：浙江;33