一种基于高斯分布权重采样的贝叶斯卷积神经网络结构表观损伤识别方法技术

本发明专利技术提出一种基于高斯分布权重采样的贝叶斯卷积神经网络结构表观损伤识别方法

【技术实现步骤摘要】
一种基于高斯分布权重采样的贝叶斯卷积神经网络结构表观损伤识别方法


[0001]本专利技术属于深度学习和土木工程
，特别是涉及一种基于高斯分布权重采样的贝叶斯卷积神经网络结构表观损伤识别方法
。

技术介绍

[0002]在土木工程建设日渐趋于饱和的当今时代，对已建成土木结构的检测与维护受到越来越广泛的关注
。
损伤视觉识别在土木工程结构损伤检测中已经有着广泛的应用
。
借助损伤视觉识别技术，可以有效检测结构是否存在缺陷或损伤
、
进行缺陷定位并估测损伤程度，以便对已建成结构的安全状况进行评估并及时实施相应的维护措施
。
然而，建筑结构损伤种类复杂，且实际拍摄损伤图片时易受到光线等自然因素干扰，导致模型输出错误的损伤识别结果，进而引起工程师对结构状态的误判，造成严重损失
。
因此，如何量化损伤视觉识别结果不确定性，对损伤视觉识别结果进行取舍，是目前亟待开展的研究工作
。
[0003]由于深度学习网络随着层数加深存在梯度消失，泛化能力下降等问题，通常难以训练参数量较大，层数较深的卷积神经网络，使得图片识别变得非常困难，这严重限制了损伤视觉识别技术在土木工程结构检测中的有效性
。
基于残差的网络方法能保证识别精度下限，极大地开拓了损伤视觉识别技术在土木工程中的应用前景
。
近年来，基于残差网络结构的损伤视觉识别方法已经成为了研究热点
。
但是，由于实际工况的复杂性，图片噪声的随机性，如何判断损伤识别结果的准确性并进行取舍，是一个值得研究的问题
。
[0004]贝叶斯概率论方法作为处理不确定性的重要手段，充分利用数据信息和先验概率信息，对未知参数推断其后验概率分布，从而量化损伤识别结果的不确定性，即损伤识别推断结果的置信度
(
可靠程度
)。
本专利技术中，将卷积神经网络中的权重由点估计替换为高斯概率分布，通过高斯分布的均值与方差赋予网络权重先验信息
。
利用训练数据更新先验概率分布得到后验概率分布，完成损伤视觉识别
。
同时，通过多次对后验概率分布采样得到模型对损伤视觉识别结果的不确定性指标，从而得到损伤视觉识别结果的置信度
(
可靠程度
)。
根据置信度大小对损伤视觉识别结果进行取舍
。

技术实现思路

[0005]本专利技术目的是为了解决现有技术中的问题，提出了一种基于高斯分布权重采样的贝叶斯卷积神经网络结构表观损伤识别方法
。
所述方法适用于根据已有损伤图片预测得到的损伤视觉识别结果是否可靠
。
[0006]本专利技术是通过以下技术方案实现的，本专利技术提出一种基于高斯分布权重采样的贝叶斯卷积神经网络结构表观损伤识别方法，所述方法包括以下步骤：
[0007]步骤一
、
根据实际需求复杂度建模贝叶斯卷积神经网络，对输入网络模型的图片进行预处理，训练贝叶斯卷积神经网络模型，完成图片损伤种类的视觉识别及模型对识别结果置信度的输出；
[0008]步骤二
、
将验证集图片输入到模型中，得到其损伤视觉识别结果以及网络对该结果的置信度；根据置信度大小判断网络对哪类损伤特征学习不充分，增加该类损伤数据，对网络进一步训练完善；当模型可以正确识别所有图片并给出高置信度的识别结果时，认为模型可以应用于评估结构表观损伤；
[0009]步骤三
、
将监测状态下的结构表观损伤图片输入到训练好的贝叶斯卷积神经网络模型中，获得图片损伤种类以及模型对图片识别结果的置信度；根据置信度选择接受或拒绝模型识别结果，如果拒绝模型识别结果，转到人工判断得到最终损伤识别结果；最后根据损伤识别结果评估结构的安全与可靠性
。
[0010]进一步地，在步骤一中，所述建模贝叶斯卷积神经网络：
[0011]p(W)
～
Ν
(
μ
,
Σ
)
[0012]W
j
～
Ν
(
μ
j
,
Σ
j
)
[0013]其中，
W
j
为网络全连接层第
j
层的权重参数，
μ
j
为网络全连接层第
j
层的均值向量，大小
n
×1，
Σ
j
为网络全连接层第
j
层的协方差矩阵，大小
n
×
n
，且为实对称矩阵，
n
为权重个数
。
[0014]进一步地，在步骤一中，对输入图片数据进行标准化：
[0015][0016]其中，
x
为某个特征的原始值，
μ
为该特征在所有样本中的平均值，
σ
为该特征在所有样本中的标准差，
x
*
为标准化后特征值，
x
*
～
Ν
(0,1)。
[0017]进一步地，在步骤一中，根据先验分布确定网络权重：
[0018]ε
～
N(0,I)
[0019]σ
ij
＝
log(1+exp(
ρ
ij
))
[0020]w
ij
＝
μ
ij
+
σ
ij
·
ε
[0021]其中，
w
ij
代表第
j
层第
i
个权重参数，首先进行标准高斯分布采样，对采样结果进行变换得到网络权重，在变换的过程中赋予权重先验信息；
ρ
ij
表示权重对应的方差，是第
j
层协方差矩阵对角线上的第
i
个元素
。
[0022]进一步地，在步骤一中，根据交叉熵损失函数反向传播更新先验参数
μ
，
Σ
，得到后验分布，完成贝叶斯卷积神经网络训练：
[0023][0024][0025][0026][0027][0028]p(W|D)
～
N(
μ
,
Σ
)
[0029]其中，
L
为交叉熵损失函数，
S
为
softmax
层输出分类评分，
Z
为全连接层输出分类评
分，
μ
为高斯分布均值，
Σ
为协方差矩阵
。
[0030]进一步地，在步骤二中，将验证集图片输入到模型中，根据识别结果置信度改善模型：
[0031]y
i...

【技术保护点】

【技术特征摘要】
1.
一种基于高斯分布权重采样的贝叶斯卷积神经网络结构表观损伤识别方法，其特征在于，所述方法包括以下步骤：步骤一
、
根据实际需求复杂度建模贝叶斯卷积神经网络，对输入网络模型的图片进行预处理，训练贝叶斯卷积神经网络模型，完成图片损伤种类的视觉识别及模型对识别结果置信度的输出；步骤二
、
将验证集图片输入到模型中，得到其损伤视觉识别结果以及网络对该结果的置信度；根据置信度大小判断网络对哪类损伤特征学习不充分，增加该类损伤数据，对网络进一步训练完善；当模型可以正确识别所有图片并给出高置信度的识别结果时，认为模型可以应用于评估结构表观损伤；步骤三
、
将监测状态下的结构表观损伤图片输入到训练好的贝叶斯卷积神经网络模型中，获得图片损伤种类以及模型对图片识别结果的置信度；根据置信度选择接受或拒绝模型识别结果，如果拒绝模型识别结果，转到人工判断得到最终损伤识别结果；最后根据损伤识别结果评估结构的安全与可靠性
。2.
根据权利要求1所述的方法，其特征在于，在步骤一中，所述建模贝叶斯卷积神经网络：
p(W)
～
Ν
(
μ
,
Σ
)W
j
～
Ν
(
μ
j
,
Σ
j
)
其中，
W
j
为网络全连接层第
j
层的权重参数，
μ
j
为网络全连接层第
j
层的均值向量，大小
n
×1，
Σ
j
为网络全连接层第
j
层的协方差矩阵，大小
n
×
n
，且为实对称矩阵，
n
为权重个数
。3.
根据权利要求2所述的方法，其特征在于，在步骤一中，对输入图片数据进行标准化：其中，
x
为某个特征的原始值，
μ
为该特征在所有样本中的平均值，
σ
为该特征在所有样本中的标准差，
x
*
为标准化后特征值，
x
*
～
Ν
(0,1)。4.
根据权利要求3所述的方法，其特征在于，在步骤一中，根据先验分布确定网络权重：
ε
～
N(0,I)
σ
ij
＝
log(1+exp(
ρ
ij
))w
ij
＝
μ
ij
+
σ
ij
·
ε
其中，
w
ij
代表第
j
层第
i
个权重参数，首先进行标准高斯分布采样，对采样结果进行变换得到网络权重，在变换的过程中赋予权重先验信息；
ρ
ij
表示权重对应的方差，是第
j
层协方差矩...

【专利技术属性】
技术研发人员：浦钧森，张浩宇，黄永，吉政林，李惠，
申请(专利权)人：哈尔滨工业大学，
类型：发明
国别省市：