System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 协作学习知识转移制造技术_技高网

协作学习知识转移制造技术

技术编号:43158832 阅读:9 留言:0更新日期:2024-11-01 19:53
协作学习中的集成知识转移的示例包括:在主节点处,接收来自多个远程节点的多个经训练的代理机器学习(ML)模型,其中被接收的每个代理ML模型来自多个远程节点中不同的一个远程节点,并且其中多个远程节点中的每个远程节点跨网络远离主节点;使用多个代理ML模型来训练主ML模型,其中训练主ML模型包括:对于主训练数据集的多个训练例中的每个训练例,至少基于关于至少基于所述代理ML模型中每个代理ML模型训练例的置信度,对来自相应代理ML模型的结果进行加权。

【技术实现步骤摘要】
【国外来华专利技术】


技术介绍

1、联合学习(fl)是一种隐私友好的针对训练机器学习(ml)模型的解决方案,其中多个边缘设备节点(客户端)(例如,蜂窝用户设备或物联网(iot)设备)参与协作学习,而不公开其数据。用于在每个边缘-设备节点上进行训练的数据集(可以包含语音样本或图像等用户数据),保留在该节点上,并且被用于本地训练ml模型。然后经本地训练的ml模型被发送到聚合服务器以用于转移所学习的知识,例如使用匹配平均或聚合来自其他节点的经本地训练的ml模型。由于成本和/或隐私考虑,当不期望针对传统ml训练使用经标记的训练数据集时,可以使用fl。

2、不幸的是,这些途径要求ml模型具有一致的架构。客户端上的资源限制(例如,存储器和处理能力)排除了在客户端上训练大型ml模型,从而致使大型ml模型架构和一些ml架构不适合于fl,即使是在聚合服务器(聚合服务器可能不具有相同的资源限制)上也是如此。


技术实现思路

1、下面参考下列附图详细描述所公开的示例。提供以下
技术实现思路
以说明在此公开的一些示例。然而,并不意味着将所有示例限制于任何特定的配置或操作序列。

2、协作学习中的集成知识转移的示例包括:在主节点处接收来自多个远程节点的多个经训练的代理机器学习(ml)模型(代理ml模型的集成),其中被接收的每个代理ml模型来自多个远程节点中不同的一个远程节点,并且其中多个远程节点中的每个远程节点跨网络远离主节点;使用多个代理ml模型来训练主ml模型,其中训练主ml模型包括:对于主训练数据集的多个训练例中的每个训练例,至少基于关于多个训练例的相应代理ml模型的置信度,对来自代理ml模型的每个代理ml模型的结果进行加权。

本文档来自技高网...

【技术保护点】

1.一种系统,包括:

2.根据权利要求1所述的系统,其中所述指令还可操作以:

3.根据权利要求1所述的系统,其中所述代理ML模型中的至少两个代理ML模型具有彼此不同的架构,并且所述代理ML模型中的至少一个代理ML模型具有与所述主ML模型不同的架构。

4.根据权利要求1所述的系统,其中所述指令还可操作以:

5.根据权利要求4所述的系统,其中所述指令还可操作以:

6.一种计算机化的方法,包括:

7.根据权利要求6所述的方法,还包括:

8.根据权利要求6所述的方法,其中所述代理ML模型中的至少两个代理ML模型具有彼此不同的架构,并且所述代理ML模型中的至少一个代理ML模型具有与所述主ML模型不同的架构。

9.根据权利要求6所述的方法,还包括:

10.根据权利要求9所述的方法,还包括:

11.一个或多个计算机存储设备,具有存储在其上的计算机可执行指令,所述计算机可执行指令在由计算机执行时使所述计算机执行操作,所述操作包括:

12.根据权利要求11所述的一个或多个计算机存储设备,其中所述操作还包括:

13.根据权利要求11所述的一个或多个计算机存储设备,其中所述代理ML模型中的至少两个代理ML模型具有彼此不同的架构,并且所述代理ML模型中的至少一个代理ML模型具有与所述主ML模型不同的架构。

14.根据权利要求11所述的一个或多个计算机存储设备,其中所述操作还包括:

15.根据权利要求14所述的一个或多个计算机存储设备,其中所述操作还包括:

...

【技术特征摘要】
【国外来华专利技术】

1.一种系统,包括:

2.根据权利要求1所述的系统,其中所述指令还可操作以:

3.根据权利要求1所述的系统,其中所述代理ml模型中的至少两个代理ml模型具有彼此不同的架构,并且所述代理ml模型中的至少一个代理ml模型具有与所述主ml模型不同的架构。

4.根据权利要求1所述的系统,其中所述指令还可操作以:

5.根据权利要求4所述的系统,其中所述指令还可操作以:

6.一种计算机化的方法,包括:

7.根据权利要求6所述的方法,还包括:

8.根据权利要求6所述的方法,其中所述代理ml模型中的至少两个代理ml模型具有彼此不同的架构,并且所述代理ml模型中的至少一个代理ml模型具有与所述主ml模型不同的架构。

9.根据...

【专利技术属性】
技术研发人员:D·B·迪米特利亚迪斯A·A·蒙泰罗·马诺埃尔R·A·西姆Y·J·周
申请(专利权)人:微软技术许可有限责任公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1