用于机器学习的设备和计算机实现方法，其中所述方法包括：提供针对模型(200)的输入(101)；利用所述模型(200)确定指示针对所述输入(101)的类的第一分类；利用所述模型(200)依照所述输入(101)来确定专家确定针对所述输入(101)的正确分类的可能性；利用所述模型(200)依照所述输入(101)来确定所述输入(101)相对于在其上训练所述模型(200)的数据分布而是分布中数据或分布外数据的可能性；依照所述第一分类且依照所述可能性来确定第二分类，指示所述输入(101)相对于在其上训练所述模型(200)的数据分布而被视为分布中数据还是分布外数据；依照所述第一分类和所述第二分类来确定所述模型(200)的输出(105)；以及输出所述输出(105)。
【技术实现步骤摘要】
本专利技术涉及用于机器学习的设备和计算机实现方法。
技术介绍
1、对于机器学习系统，期望提供输入的可靠分类，特别是在推理中给分类器呈现的输入的分布与在训练中给分类器呈现的输入的分布相比有移位的情况下。
技术实现思路
1、根据独立权利要求的设备和计算机实现方法提供了可靠机器学习。
2、用于机器学习的方法包括：提供针对模型的输入；利用所述模型确定指示针对所述输入的类的第一分类；利用所述模型依照所述输入来确定专家确定针对所述输入的正确分类的可能性；利用所述模型依照所述输入来确定所述输入相对于在其上训练所述模型的数据分布而是分布中数据或分布外数据的可能性；依照所述第一分类且依照所述可能性来确定第二分类，所述第二分类指示所述输入相对于在其上训练所述模型的数据分布而被视为分布中数据还是分布外数据；依照所述第一分类和所述第二分类来确定所述模型的输出；以及输出所述输出。这提供了针对机器学习系统的可靠分布外检测。所得到的机器学习系统使用基于分布外的输入的输出来进行缓解。
3、根据一些实施例，所述输出包括针对技术系统的控制信号，所述技术系统特别是物理系统，优选为机器人、交通工具、家用电器、动力工具、个人助理系统、访问控制系统、医学成像设备。
4、根据一些实施例，所述输入包括传感器信号，特别是音频数据或数字图像，优选地来自相机、雷达传感器、lidar传感器、红外传感器、超声传感器或运动传感器。
5、确定所述输出可以包括：确定所述第二分类指示所述输入被视为分布中数据，其中如果所述第二分类指示所述输入被视为分布中数据，则所述输出是依照所述第一分类来确定的。这意味着：当输出被视为分布中数据时，使用它。
6、确定所述输出可以包括：确定所述第二分类指示所述输入被视为分布外数据；以及拒绝第一分类。这意味着：当输出被视为分布外数据时，不使用它。
7、确定所述输出可以包括：将所述输入和/或所述第一分类提供给专家，特别地提供给所述模型外的分类器或者经由人机接口提供给人类；以及如果所述第二分类指示所述输入被视为分布外数据，则依照来自所述专家的对所述输入和/或所述第一分类的响应来确定所述输出。这意味着：当输入被视为分布外数据时，它被委托给(defer to)专家。专家可以是另一机器学习系统。这提供了混合机器学习系统。专家可以是人类。这提供了将人类和机器智能进行组合的混合智能系统。
8、用于机器学习的设备包括至少一个处理器和至少一个存储器，其中所述至少一个处理器被配置成执行在由所述至少一个处理器执行时使所述设备执行所述方法的指令，其中所述至少一个存储器被配置成存储所述指令。
9、一种计算机程序包括在由计算机执行时使所述计算机执行所述方法的指令。
本文档来自技高网...
【技术保护点】
1.一种用于机器学习的计算机实现方法，其特征在于：提供(302)针对模型(200)的输入(101)；利用所述模型(200)确定(304)指示针对所述输入(101)的类的第一分类；利用所述模型(200)依照所述输入(101)来确定(306)专家确定针对所述输入(101)的正确分类的可能性；利用所述模型(200)依照所述输入(101)来确定(308)所述输入(101)相对于在其上训练所述模型(200)的数据分布而是分布中数据或分布外数据的可能性；依照所述第一分类且依照所述可能性来确定(310)第二分类，所述第二分类指示所述输入(101)相对于在其上训练所述模型(200)的数据分布而被视为分布中数据还是分布外数据；依照所述第一分类和所述第二分类来确定(312)所述模型(200)的输出(105)；以及输出(314)所述输出(105)。
2.根据权利要求1所述的方法，其特征在于：所述输出(105)包括(312)针对技术系统(106)的控制信号，所述技术系统(106)特别是物理系统，优选为机器人、交通工具、家用电器、动力工具、个人助理系统、访问控制系统、医学成像设备。
>3.根据前述权利要求之一所述的方法，其特征在于：所述输入(101)包括(302)传感器信号，特别是音频数据或数字图像。4.根据前述权利要求之一所述的方法，其特征在于：确定(312)所述输出(105)包括：确定所述第二分类指示所述输入(101)被视为分布中数据，其中如果所述第二分类指示所述输入(101)被视为分布中数据，则所述输出(105)包括依照所述第一分类而确定的输入的分类。
5.根据前述权利要求之一所述的方法，其特征在于：确定(312)所述输出(105)包括：确定所述第二分类指示所述输入(101)被视为分布外数据；以及拒绝第一分类。
6.根据前述权利要求之一所述的方法，其特征在于：确定(312)所述输出(105)包括：将所述输入(101)和/或所述第一分类提供给专家，特别地提供给所述模型(200)外的分类器或者经由人机接口提供给人类；以及如果所述第二分类指示所述输入(101)被视为分布外数据，则依照来自所述专家的对所述输入(101)和/或所述第一分类的响应来确定所述输出(105)。
7.一种用于机器学习的设备(100)，其特征在于至少一个处理器(102)和至少一个存储器(103)，其中所述至少一个处理器(102)被配置成执行在由所述至少一个处理器(102)执行时使所述设备(100)执行根据权利要求1至6之一所述的方法的指令，其中所述至少一个存储器(103)被配置成存储所述指令。
8.根据权利要求7所述的设备(100)，其特征在于：所述设备(100)被配置成从用于监视技术系统(106)的传感器(107)接收输入(101)，优选地从相机、雷达传感器、lidar传感器、红外传感器、超声传感器或运动传感器；或者所述设备(100)被配置成依照输出(105)来控制技术系统(106)的促动器(108)。
9.计算机程序，其特征在于：所述计算机程序包括在由计算机执行时使所述计算机执行根据权利要求1至6之一所述的方法的指令。
...
【技术特征摘要】
1.一种用于机器学习的计算机实现方法，其特征在于：提供(302)针对模型(200)的输入(101)；利用所述模型(200)确定(304)指示针对所述输入(101)的类的第一分类；利用所述模型(200)依照所述输入(101)来确定(306)专家确定针对所述输入(101)的正确分类的可能性；利用所述模型(200)依照所述输入(101)来确定(308)所述输入(101)相对于在其上训练所述模型(200)的数据分布而是分布中数据或分布外数据的可能性；依照所述第一分类且依照所述可能性来确定(310)第二分类，所述第二分类指示所述输入(101)相对于在其上训练所述模型(200)的数据分布而被视为分布中数据还是分布外数据；依照所述第一分类和所述第二分类来确定(312)所述模型(200)的输出(105)；以及输出(314)所述输出(105)。
2.根据权利要求1所述的方法，其特征在于：所述输出(105)包括(312)针对技术系统(106)的控制信号，所述技术系统(106)特别是物理系统，优选为机器人、交通工具、家用电器、动力工具、个人助理系统、访问控制系统、医学成像设备。
3.根据前述权利要求之一所述的方法，其特征在于：所述输入(101)包括(302)传感器信号，特别是音频数据或数字图像。
4.根据前述权利要求之一所述的方法，其特征在于：确定(312)所述输出(105)包括：确定所述第二分类指示所述输入(101)被视为分布中数据，其中如果所述第二分类指示所述输入(101)被视为分布中数据，则所述输出(105)包括...
【专利技术属性】
技术研发人员：E·纳利斯尼克，V·费舍尔，
申请(专利权)人：罗伯特·博世有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。