类激活图生成方法、可解释方法、装置、设备及存储介质制造方法及图纸

本发明专利技术公开了一种类激活图生成方法、可解释方法、装置、设备及存储介质，可用于卷积神经网络生成具有较好可解释性的类激活图。本发明专利技术实施例的类激活图生成方法，包括：将原始图像输入经训练卷积神经网络，得到第一激活图；将所述第一激活图输入正特征相关性模块，得到正特征相关性信息；将所述第一激活图输入负特征相关性模块，得到负特征相关性信息；根据所述第一激活图、所述正特征相关性信息和所述负特征相关性信息得到类激活图。本发明专利技术的类激活图生成方法与其它类激活图生成方法相比，同时融合了特征区域与非特征区域和原始图像的关系，因此能较好的降低纠缠语义的影响，使得生成的类激活图有较好的可解释性。类激活图有较好的可解释性。类激活图有较好的可解释性。

【技术实现步骤摘要】
类激活图生成方法、可解释方法、装置、设备及存储介质


[0001]本专利技术涉及神经网络可视化
，特别涉及一种类激活图生成方法、可解释方法、装置、设备及存储介质。

技术介绍

[0002]卷积神经网络(Convolutional Neural Networks，CNN)如今在计算机视觉领域有着广泛的应用，相关技术的图卷积网络(Graph Convolutional Network，GCN)也在各种非欧数据处理中取得了出色的表现。然而，神经网络内部复杂的机制让研究人员需要采用一些可解释方法来对神经网络输出的信息进行理解进而对其进行改进。类激活图(Class Activation Mapping，CAM)作为较为有效的对神经网络的解释技术方式，可以从不同的角度解释神经网络提取的信息和特征。
[0003]现有的CAM方法在类激活图生成过程中，预测层前的最终隐藏层中的不同区域间有可能出现纠缠语义，进而导致非目标区域与目标区域可能产生相似的特征，使得类激活图中的非目标区域的节点被激活，影响类激活图的可解释性。

技术实现思路

[0004]本专利技术旨在至少解决现有技术中存在的技术问题之一。为此，本专利技术提出一种类激活图生成方法、可解释方法、装置、设备及存储介质，能够结合特征区域与输入图像的正特征相关性信息和非特征区域与输入图像的负特征相关性信息来精确量化图像的目标区域与非目标区域的关系，有利于提高类激活图的可解释性。
[0005]本专利技术第一方面实施例提供了一种类激活图生成方法，包括：将原始图像输入经训练卷积神经网络，得到第一激活图；将所述第一激活图输入正特征相关性模块，得到正特征相关性信息；将所述第一激活图输入负特征相关性模块，得到负特征相关性信息；根据所述第一激活图、所述正特征相关性信息和所述负特征相关性信息得到类激活图。
[0006]根据本专利技术第一方面实施例的类激活图生成方法，至少有如下有益效果：本专利技术实施例的类激活图生成方法，先将原始图像输入经训练卷积神经网络进行处理，对处理结果进行上采样和归一化得到第一激活图，将第一激活图输入正特征相关性模块，得到包含特征区域与原始图像关系的正特征相关性信息，将第一激活图输入负特征相关性模块，得到包含非特征区域与原始图像关系的负特征相关性信息，将正特征相关性信息与负特征相关性信息结合后再对第一激活图进行处理，得到类激活图。与其它类激活图生成方法相比，同时融合了特征区域与非特征区域和原始图像的关系，因此能较好的降低纠缠语义的影响，使得生成的类激活图有较好的可解释性。
[0007]在本专利技术的一些实施例中，所述将所述第一激活图输入正特征相关性模块，得到正特征相关性信息，包括：根据所述第一激活图计算获得第一掩码；根据所述第一掩码和所述原始图像计算获得第一蒙版图像；将所述第一蒙版图像输入所述经训练卷积神经网络，得到第一类概率；根据所述第一类概率和所述原始图像的全图类概率得到所述正特征相关
性信息，其中，所述全图类概率由所述原始图像输入所述经训练卷积神经网络得到。
[0008]在本专利技术的一些实施例中，所述将所述第一激活图输入负特征相关性模块，得到负特征相关性信息，包括：根据所述第一激活图计算得到第一负激活图；根据所述第一负激活图计算获得第二掩码；根据所述第二掩码和所述原始图像计算获得第二蒙版图像；将所述第二蒙版图像输入所述经训练卷积神经网络，得到第二类概率；根据所述第二类概率和所述原始图像的所述全图类概率得到所述负特征相关性信息。
[0009]在本专利技术的一些实施例中，所述根据所述第一激活图计算获得第一掩码，包括：对所述第一激活图进行平均值计算，得到第一二值化阈值；根据所述第一二值化阈值对所述第一激活图进行二值化处理，得到所述第一掩码。
[0010]在本专利技术的一些实施例中，所述根据所述第一负激活图计算获得第二掩码，包括：对所述第一负激活图进行平均值计算，得到第二二值化阈值；根据所述第二二值化阈值对所述第一负激活图进行二值化处理，得到所述第二掩码。
[0011]在本专利技术的一些实施例中，所述正特征相关性信息为正点互信息，所述根据所述第一类概率和所述原始图像的全图类概率得到所述正特征相关性信息，包括：对所述第一类概率和所述全图类概率进行点互信息计算，得到所述正点互信息。
[0012]在本专利技术的一些实施例中，所述负特征相关性信息为负点互信息，所述根据所述第二类概率和所述原始图像的所述全图类概率得到所述负特征相关性信息，包括：对所述第二类概率和所述全图类概率进行点互信息计算，得到所述负点互信息。
[0013]在本专利技术的一些实施例中，所述根据所述第一激活图、所述正特征相关性信息和所述负特征相关性信息得到类激活图，包括：将所述正点互信息和所述负点互信息结合对应的预设的比例因子进行计算，得到特征权重；根据所述特征权重和所述第一激活图计算获得所述类激活图。
[0014]本专利技术第二方面实施例提供了一种类激活图可解释方法，包括：获取类激活图，所述类激活图根据本专利技术第一方面实施例所述的类激活图生成方法得到；调整所述正特征相关性信息和所述负特征相关性信息对应的比例因子，以更新所述类激活图；根据更新后的所述类激活图，得到所述正特征相关性信息和所述负特征相关性信息分别对应所述原始图像的重要程度。
[0015]根据本专利技术第二方面实施例的类激活图可解释方法，至少有如下有益效果：通过获取类激活图，之后调整正特征相关性信息和负特征相关性信息对应的比例因子，改变正特征相关性信息和负特征相关性信息对类激活图生成影响的权重，进而生成能够直观显示特征区域相对原始图像的重要程度的新激活图，或者生成能够直观显示非特征区域相对原始图像的重要程度的新激活图，有益于进一步提高生成的类激活图的可解释性，同时也简化了类激活图的处理步骤。
[0016]本专利技术第三方面实施例提供了一种类激活图处理装置，包括：第一输入单元，用于将原始图像输入经训练卷积神经网络，得到第一激活图；第二输入单元，用于将所述第一激活图输入正特征相关性模块，得到正特征相关性信息；第三输入单元，用于将所述第一激活图输入负特征相关性模块，得到负特征相关性信息；处理单元，用于根据所述第一激活图、所述正特征相关性信息和所述负特征相关性信息得到类激活图。
[0017]本专利技术第四方面实施例提供了一种类激活图处理设备，包括：至少一个存储器；至
少一个处理器；至少一个程序；所述程序被存储在所述存储器中，所述处理器执行至少一个所述程序以实现：如本专利技术第一方面实施例所述的类激活图生成方法，或如本专利技术第二方面实施例所述的类激活图可解释方法。
[0018]本专利技术第五方面提供了一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机可执行信号，所述计算机可执行信号用于执行：如本专利技术第一方面实施例所述的类激活图生成方法，或如本专利技术第二方面实施例所述的类激活图可解释方法。
[0019]本专利技术的附加方面和优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本专利技术的实践了解到。...

【技术保护点】

【技术特征摘要】
1.一种类激活图生成方法，其特征在于，包括：将原始图像输入经训练卷积神经网络，得到第一激活图；将所述第一激活图输入正特征相关性模块，得到正特征相关性信息；将所述第一激活图输入负特征相关性模块，得到负特征相关性信息；根据所述第一激活图、所述正特征相关性信息和所述负特征相关性信息得到类激活图。2.根据权利要求1所述的类激活图生成方法，其特征在于，所述将所述第一激活图输入正特征相关性模块，得到正特征相关性信息，包括：根据所述第一激活图计算获得第一掩码；根据所述第一掩码和所述原始图像计算获得第一蒙版图像；将所述第一蒙版图像输入所述经训练卷积神经网络，得到第一类概率；根据所述第一类概率和所述原始图像的全图类概率得到所述正特征相关性信息，其中，所述全图类概率由所述原始图像输入所述经训练卷积神经网络得到。3.根据权利要求2所述的类激活图生成方法，其特征在于，所述将所述第一激活图输入负特征相关性模块，得到负特征相关性信息，包括：根据所述第一激活图计算得到第一负激活图；根据所述第一负激活图计算获得第二掩码；根据所述第二掩码和所述原始图像计算获得第二蒙版图像；将所述第二蒙版图像输入所述经训练卷积神经网络，得到第二类概率；根据所述第二类概率和所述原始图像的所述全图类概率得到所述负特征相关性信息。4.根据权利要求2所述的类激活图生成方法，其特征在于，所述根据所述第一激活图计算获得第一掩码，包括：对所述第一激活图进行平均值计算，得到第一二值化阈值；根据所述第一二值化阈值对所述第一激活图进行二值化处理，得到所述第一掩码。5.根据权利要求3所述的的类激活图生成方法，其特征在于，所述根据所述第一负激活图计算获得第二掩码，包括：对所述第一负激活图进行平均值计算，得到第二二值化阈值；根据所述第二二值化阈值对所述第一负激活图进行二值化处理，得到所述第二掩码。6.根据权利要求3所述的类激活图生成方法，其特征在于，所述正特征相关性信息为正点互信息，所述根据所述第一类概率和所述原始图像的全图类概率得到所述正特征相关性信息，包括：对所述...

【专利技术属性】
技术研发人员：李岩山，梁华杰，
申请(专利权)人：深圳大学，
类型：发明
国别省市：