【技术实现步骤摘要】
模型学习方法、装置、系统及计算机可读存储介质
[0001]本专利技术涉及算法学习
，尤其是涉及一种模型学习方法、装置、系统及计算机可读存储介质。
技术介绍
[0002]拜占庭攻击在模型学习过程中是十分常见的，恶意节点可对梯度进行任意的修改，并可向服务器发送虚假的梯度信息如从梯度的方向与模长上对数据进行修改，使得通过对修改后的梯度进行聚合来更新模型后，会对训练模型造成恶劣的影响。
[0003]因此，需要提出一种新方法以改善上述问题。
技术实现思路
[0004]有鉴于此，本专利技术的目的在于提供一种模型学习方法、装置、系统及计算机可读存储介质，以改善上述技术问题。
[0005]第一方面，本专利技术实施例提供了一种模型学习方法，所述方法包括以下步骤：
[0006]获取客户端通过区域链发送的梯度并对所述梯度进行编号，其中，每个所述客户端对应一个梯度；
[0007]按照所述编号根据所述梯度的方向和大小确定所述梯度是否为预报恶意梯度；
[0008]通过所述客户端判断被确定为预报恶意梯度的所述梯度是否为恶意梯度，并在所述梯度被判断为恶意梯度超过预定次数时，剔除所述梯度对应的客户端；
[0009]对剩余客户端对应的梯度进行平均聚合来更新所述客户端的模型并重复上述步骤，直至所述模型收敛。
[0010]结合第一方面，本专利技术实施例提供了第一方面的第一种可能的实施方式，其中，所述按照所述编号根据所述梯度的方向和大小确定所述梯度是否为预报恶意梯度，包括：>[0011]计算梯度总和减去待判断的梯度的新梯度总和；
[0012]对所述新梯度总和与所述待判断的梯度进行点积，得到点积结果；
[0013]当所述点积结果小于零时，确定所述梯度为第一预报恶意梯度。
[0014]结合第一方面的第一种可能的实施方式，本专利技术实施例提供了第一方面的第二种可能的实施方式，其中，所述按照所述编号根据所述梯度的方向和大小确定所述梯度是否为预报恶意梯度，还包括：
[0015]当所述点积结果大于零时，确定所述梯度的比例倍数；
[0016]当所述比例倍数大于预设阈值时，确定所述梯度为第二预报恶意梯度。
[0017]结合第一方面，本专利技术实施例提供了第一方面的第三种可能的实施方式的第二种可能的实施方式，其中，所述比例倍数通过下式得出：
[0018][0019]其中，i为所述梯度的编号，g
i
为编号为i的梯度；g
′
sum
为梯度总和减去待判断的梯
度的新梯度总和。
[0020]结合第一方面的第二种可能的实施方式或第三种可能的实施方式，本专利技术实施例提供了第一方面的第四种可能的实施方式，其中，所述通过所述客户端判断被确定为预报恶意梯度的所述梯度是否为恶意梯度，包括：
[0021]通过所述客户端对被确定为第一预报恶意梯度或第二预报恶意梯度的梯度进行投票，当所述客户端中超过二分之一的客户端认为所述第一预报恶意梯度或所述第二预报恶意梯度为恶意梯度时，确定所述第一预报恶意梯度或所述第二预报恶意梯度为恶意梯度。
[0022]第二方面，本专利技术实施例提供了一种模型学习装置，所述装置包括：
[0023]梯度获取模块，用于获取客户端通过区域链发送的梯度并对所述梯度进行编号，其中，每个所述客户端对应一个梯度；
[0024]梯度确定模块，用于按照所述编号根据所述梯度的方向和大小确定所述梯度是否为预报恶意梯度；
[0025]梯度剔除模块，用于通过所述客户端判断被确定为预报恶意梯度的所述梯度是否为恶意梯度，并在所述梯度被判断为恶意梯度超过预定次数时，剔除所述梯度对应的客户端；
[0026]模型更新模块，用于对剩余客户端对应的梯度进行平均聚合来更新所述客户端的模型并重复上述步骤，直至所述模型收敛。
[0027]结合第二方面，本专利技术实施例提供了第二方面的第一种可能的实施方式，其中，所述梯度确定模块用于：
[0028]计算梯度总和减去待判断的梯度的新梯度总和；
[0029]对所述新梯度总和与所述待判断的梯度进行点积，得到点积结果；
[0030]当所述点积结果于小零时，确定所述梯度为第一预报恶意梯度。
[0031]结合第二方面，本专利技术实施例提供了第二方面的第二种可能的实施方式，其中，所述梯度确定模块还用于：
[0032]当所述点积结果大于零时，确定所述梯度的比例倍数；
[0033]当所述比例倍数大于预设阈值时，确定所述梯度为第二预报恶意梯度。
[0034]第三方面，本专利技术实施例还提供一种模型学习系统，该系统包括存储器、处理器，所述存储器中存储有可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现上述方法。
[0035]第四方面，本专利技术实施例还提供一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被处理器运行时执行上述方法的步骤。
[0036]本专利技术实施例带来了以下有益效果：本专利技术实施例提供的一种模型学习方法、装置、系统及计算机可读存储介质，首先获取客户端通过区域链发送的梯度并对梯度进行编号，然后按照编号根据梯度的方向和大小确定梯度是否为预报恶意梯度，并通过客户端判断被确定为预报恶意梯度的梯度是否为恶意梯度，并在梯度被判断为恶意梯度超过预定次数时，剔除该梯度对应的客户端，最后对剩余客户端对应的梯度进行平均聚合来更新客户端的模型并重复上述步骤，直至模型收敛。本专利技术的模型学习方法、装置、系统及计算机可读存储介质，通过客户端根据梯度的方向和大小以及投票机制判断出恶意梯度后将恶意梯
度剔除，并对剩余的梯度进行平均聚合来更新客户端的模型并重复上述步骤直至模型收敛，达到了防止恶意梯度通过平均聚合更新模型后会对模型造成恶劣影响的技术效果。
[0037]本专利技术的其他特征和优点将在随后的说明书中阐述，并且部分地从说明书中变得显而易见，或者通过实施本专利技术而了解。本专利技术的目的和其他优点在说明书、权利要求书以及附图中所特别指出的结构中实现和获得。
[0038]为使本专利技术的上述目的、特征和优点能够更加明显易懂，下文特举优选实施例，并配合所附附图，作详细说明如下。
附图说明
[0039]为了更清楚地说明本专利技术的具体实施方式或现有技术中的技术方案，下面将对具体实施方式或现有技术描述中所需要使用的附图进行简单的介绍，显而易见地，下面描述中的附图是本专利技术的一些实施方式，对于本领域技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
[0040]图1为本专利技术实施例提供的一种模型学习方法的流程图；
[0041]图2为本专利技术实施例提供的另一种模型学习方法的流程图；
[0042]图3为本专利技术实施例提供的一种模型学习装置的结构框图；
[0043]图4为本专利技术实施例提供的一种模型学习系统的结构示意图。
具体实施方式
[0044]为本文档来自技高网...
【技术保护点】
【技术特征摘要】
1.一种模型学习方法，其特征在于，所述方法包括：获取客户端通过区域链发送的梯度并对所述梯度进行编号，其中，每个所述客户端对应一个梯度；按照所述编号根据所述梯度的方向和大小确定所述梯度是否为预报恶意梯度；通过所述客户端判断被确定为预报恶意梯度的所述梯度是否为恶意梯度，并在所述梯度被判断为恶意梯度超过预定次数时，剔除所述梯度对应的客户端；对剩余客户端对应的梯度进行平均聚合来更新所述客户端的模型并重复上述步骤，直至所述模型收敛。2.根据权利要求1所述的模型学习方法，其特征在于，所述按照所述编号根据所述梯度的方向和大小确定所述梯度是否为预报恶意梯度，包括：计算梯度总和减去待判断的梯度的新梯度总和；对所述新梯度总和与所述待判断的梯度进行点积，得到点积结果；当所述点积结果小于零时，确定所述梯度为第一预报恶意梯度。3.根据权利要求2所述的模型学习方法，其特征在于，所述按照所述编号根据所述梯度的方向和大小确定所述梯度是否为预报恶意梯度，还包括：当所述点积结果大于零时，确定所述梯度的比例倍数；当所述比例倍数大于预设阈值时，确定所述梯度为第二预报恶意梯度。4.根据权利要求3所述的模型学习方法，其特征在于，所述比例倍数通过下式得出：其中，i为所述梯度的编号，g
i
为编号为i的梯度；为梯度总和减去待判断的梯度的新梯度总和。5.根据权利要求2或3所述的模型学习方法，其特征在于，所述通过所述客户端判断被确定为预报恶意梯度的所述梯度是否为恶意梯度，包括：通过所述客户端对被确定为第一预报恶意梯度或第二预报恶意梯度的梯度进行投票，当所述客户端中超过二分之一的客户端认为所述第一预报恶...
【专利技术属性】
技术研发人员：邱炜伟，詹士潇，曾磊，黄方蕾，张珂杰，
申请(专利权)人：杭州趣链科技有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。