【技术实现步骤摘要】
【国外来华专利技术】
本专利技术涉及医学图像分析的领域，并且更具体地涉及医学图像的分析的领域。
技术介绍
1、在医学领域的一系列应用中，深度学习(dl)技术的使用越来越引起人们的兴趣。感兴趣的一个特定领域是对医学图像的分析，例如，对医学图像的一个或多个目标发现物的识别或分类。示例发现物包括由医学图像表示的解剖结构的特定结构元素、异常、疾病、状况、病理或状态的预测存在或不存在。通过示例的方式，深度学习技术可以被配置为预测胸部x射线图像中气胸(或其他状况/疾病/病理)的存在或不存在。
2、经验表明，现代深度学习技术(例如，执行分类任务)的成功率与人类专家不相上下，甚至更高。然而，与此同时，深度学习模型有限的可解释性和可理解性仍然是令人担忧的问题，这总体上降低了dl在医疗应用中的接受度。
3、为了克服这些限制，已经开发了用于模型解释的方法，其允许对与分析或分类过程相关的图像区域进行可视化。
4、例如，ivo m.baltruschat、hannes nickisch、michael grass、tobias knopp、axel saalbach的“comparison of deep learning approaches for multi-label chestx-ray classification”(nature scientific reports)表明，这种技术允许对病理(例如，气胸)的定位，从而为深度学习技术决策路径提供了见解。
5、此外，向临床医生提供识别导致特定输出的(医学图像的)关键区域
6、存在对改进临床医生可用的信息的持续期望。
技术实现思路
1、本专利技术由权利要求书限定。
2、根据基于本专利技术的方面的示例，提供了一种确定到神经网络的输入对神经网络的输出的影响的计算机实现的方法，其中，该神经网络处理医学数据。该计算机实现的方法包括：定义神经网络，该神经网络被配置为处理医学数据以产生输出，该医学数据包括具有多个不同区域的医学图像以及一个或多个非图像数据元素，其中，该神经网络被配置为：使用图像处理分支来部分地处理医学图像以导出一个或多个图像特征；将图像特征与一个或多个非图像数据元素组合以形成用于神经网络的组合处理分支的中间输入；以及使用神经网络的组合处理分支处理中间输入以生成神经网络的输出；针对医学图像的每个区域，计算表示该区域对神经网络的输出的影响的数值；针对每个非图像数据元素，计算表示数据元素对神经网络的输出的影响的数值；以及针对医学图像的每个区域和每个非图像数据元素，确定表示医学图像的区域或非图像数据元素的影响的计算出的数值的指示符。
3、本公开提出了一种用于生成表示不同输入对神经网络的输出的影响的指示符的方法。这提供了一种用于将神经网络的输出(的内容)的原因归因于医学图像的一个或多个区域和/或一个或多个非图像数据元素的方法。
4、实施例提出了高效地量化不同区域和/或非图像数据元素对神经网络的输出的影响。然后使用该量化值来定义指示符，该指示符高效地指示所述区域或数据元素是否对神经网络的输出有影响。
5、由此提供的实施例提供了用于评估神经网络的输出的主要原因的有价值的信息。该信息高效地突出了将受益于来自临床医生或操作者的进一步调查或关注的区域。具体地，该信息可以用于评估神经网络的输出的最大贡献原因，这可以帮助确定对主体的适当治疗(例如，通过识别可以被解决或处理的原因以治疗识别出的病理)或改进主体的诊断(例如，通过促进识别提供神经网络的不正确输出的已知原因)。
6、实施例由此提供了用于帮助临床医生做出临床决策的附加信息，并且本实施例由此用作临床辅助。当然，由所提出的实施例生成的指示符可以在附加处理方法中进一步使用。
7、该方法可以包括在用户界面处响应于每个所生成的指示符而提供用户可感知输出的步骤。
8、每个指示符可以具有数值指示符，该数值指示符的值等于计算出的数值。
9、在一些示例中，针对每个非图像数据元素计算数值的步骤包括：处理神经网络的加权以产生表示非图像数据元素的影响的数值。
10、在一些示例中，组合处理分支包括：接收中间输入的全连接层、以及处理全连接层的输出以生成神经网络的输出的激活函数。
11、可选地，针对医学图像的每个区域计算数值包括：计算表示区域对全连接层的输出的影响的数值；和/或针对每个非图像数据元素计算数值包括：计算表示数据元素对神经网络的输出的影响的数值。
12、针对每个非图像数据元素计算数值的步骤可以包括：针对每个非图像数据元素：识别由神经网络的全连接层在产生全连接层的输出时应用于非图像数据元素的加权；以及计算识别出的加权与非图像数据元素的值的乘积作为数值。
13、在一些示例中，图像处理分支包括：倒数第二层，其产生一个或多个特征图，其中，每个特征图的区域对应于医学图像的区域；以及最后一层，其根据每个特征图产生图像特征；以及针对医学图像的每个区域计算数值包括：针对每个图像特征：识别由全连接层应用于图像特征以产生全连接层的输出的加权；以及确定识别出的加权与从其导出图像特征的特征图的乘积，以产生经加权的特征图，以及针对医学图像的每个区域，基于经加权的特征图来确定表示医学图像的区域的影响的数值。
14、特征图的区域可以映射到或对应于医学图像的不同区域。因此，特征图的每个区域可以表示医学图像的不同区域(例如，像素或像素组)。可以预先确定特征图的区域与医学图像的区域之间的位置和空间关系。
15、倒数第二层可以是卷积层，并且最后一层可以是池化层，例如，最大池化层或平均池化层。
16、在至少一个实施例中，针对医学图像的每个区域确定数值的步骤包括：对经加权的特征图进行求和以产生类激活图，该类激活图包含表示医学图像的不同区域对神经网络的输出的影响的数值。
17、在一些实施例中，针对每个非图像数据元素计算表示数据元素对神经网络的输出的影响的数值的步骤包括：使用梯度类激活图技术。
18、在至少一个实施例中，每个非图像数据元素是相应的值，并且针对每个非图像数据元素计算数值的步骤包括：针对每个非图像数据元素：计算输出相对于非图像数据元素的梯度；以及计算计算出的梯度与非图像数据元素的乘积作为数值。
19、该方法利用梯度类激活图(cam)方法来评估非图像数据元素的影响。当然，本领域技术人员将利用梯度类激活图方法来评估医学图像的每个区域对神经网络的输出的影响。
20、在一些实施例中，针对每个非图像数据元素计算表示数据元素对神经网络的输出的影响的数值的步骤包括：使用消融类激活图技术。
21、例如，在一些实施例中，神经网络的输出和每个非图像数据元素是相应的值，并且针对每个非图像数据本文档来自技高网...
【技术保护点】
1.一种确定到神经网络(100、200)的输入对所述神经网络的输出(150、430)的影响的计算机实现的方法(300)，其中，所述神经网络处理医学数据，所述计算机实现的方法包括：
2.根据权利要求1所述的计算机实现的方法，还包括以下步骤：在用户界面(620)处响应于每个所生成的指示符而提供(350)用户可感知输出。
3.根据权利要求1或2所述的计算机实现的方法，其中，每个指示符是数值指示符，所述数值指示符的值等于所述计算出的数值。
4.根据权利要求1至3中任一项所述的计算机实现的方法，其中，针对每个非图像数据元素计算数值的步骤包括：处理所述神经网络的加权以产生表示所述非图像数据元素的影响的所述数值。
5.根据权利要求1至4中任一项所述的计算机实现的方法，其中，所述组合处理分支(130)包括：接收中间输入的全连接层(131)、以及处理所述全连接层的输出以生成所述神经网络的输出的激活函数(132)。
6.根据权利要求5所述的计算机实现的方法，其中：
7.根据权利要求6所述的计算机实现的方法，其中，针对每个非图像数
8.根据权利要求6或7中任一项所述的计算机实现的方法，其中：
9.根据权利要求8所述的计算机实现的方法，其中，针对所述医学图像的每个区域确定数值的步骤包括：
10.根据权利要求1至5中任一项所述的计算机实现的方法，其中，每个非图像数据元素是相应的值，并且针对每个非图像数据元素计算数值的步骤包括：针对每个非图像数据元素：
11.根据权利要求1至5中任一项所述的计算机实现的方法，其中，所述神经网络的输出和每个非图像数据元素是相应的值，并且针对每个非图像数据元素计算数值的步骤包括：针对每个非图像数据元素：
12.根据权利要求1至11中任一项所述的计算机实现的方法，其中，每个指示符是指示所述数值是否超过预定阈值的二进制指示符。
13.根据权利要求12所述的计算机实现的方法，包括：
14.一种计算机程序产品，包括计算机程序代码单元，所述计算机程序代码单元当在具有处理系统的计算设备上执行时，使所述处理系统执行根据权利要求1至13中任一项所述的方法的所有步骤。
15.一种用于确定到神经网络(100、200)的输入对所述神经网络的输出(150、430)的影响的处理系统(500、610)，其中，所述神经网络处理医学数据，所述处理系统被配置为：
...【技术特征摘要】
【国外来华专利技术】
1.一种确定到神经网络(100、200)的输入对所述神经网络的输出(150、430)的影响的计算机实现的方法(300)，其中，所述神经网络处理医学数据，所述计算机实现的方法包括：
2.根据权利要求1所述的计算机实现的方法，还包括以下步骤：在用户界面(620)处响应于每个所生成的指示符而提供(350)用户可感知输出。
3.根据权利要求1或2所述的计算机实现的方法，其中，每个指示符是数值指示符，所述数值指示符的值等于所述计算出的数值。
4.根据权利要求1至3中任一项所述的计算机实现的方法，其中，针对每个非图像数据元素计算数值的步骤包括：处理所述神经网络的加权以产生表示所述非图像数据元素的影响的所述数值。
5.根据权利要求1至4中任一项所述的计算机实现的方法，其中，所述组合处理分支(130)包括：接收中间输入的全连接层(131)、以及处理所述全连接层的输出以生成所述神经网络的输出的激活函数(132)。
6.根据权利要求5所述的计算机实现的方法，其中：
7.根据权利要求6所述的计算机实现的方法，其中，针对每个非图像数据元素计算数值的步骤包括：针对每个非图像数据元素：
8.根据权利要求6或7中任一项所述...
【专利技术属性】
技术研发人员：A·扎尔巴赫，N·沙德瓦尔特，S·雷尼施，H·舒尔茨，M·兰加，
申请(专利权)人：皇家飞利浦有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。