System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种基于边缘智能和同态加密的具有隐私保护的卷积神经网络推理方法技术_技高网
当前位置: 首页 > 专利查询>江苏大学专利>正文

一种基于边缘智能和同态加密的具有隐私保护的卷积神经网络推理方法技术

技术编号:42128794 阅读:13 留言:0更新日期:2024-07-25 00:44
本发明专利技术提出了一种基于边缘智能和同态加密的具有隐私保护的卷积神经网络推理方法,首先,在云端服务器构建一个支持同态计算的卷积神经网络模型并通过对已有数据集进行预训练来优化模型性能,经过训练的模型将被分割部署到终端设备和边缘智能节点上,以实现分布式推理。可信机构负责生成和分发系统中其他实体的所有密钥;终端设备用自己的公钥对原始数据加密并在本地的模型中进行安全卷积操作计算;边缘云端接收计算后的数据完成CNN剩余层的同态计算,边缘端将得到的推理结果返回给终端,终端解密得到推理结果。本发明专利技术在没有泄露终端用户的隐私下,实现了数据在卷积神经网络中的安全推理。该方法还显著减少了数据传输需求,有效地削减了通信开销。

【技术实现步骤摘要】

本专利技术属于信息安全,具体涉及一种基于边缘智能和同态加密的具有隐私保护的卷积神经网络推理方法


技术介绍

1、深度学习在计算机视觉、自然语言处理和语音识别等多个领域取得了巨大成功,推动物联网发展的一项关键技术。在深度学习领域,卷积神经网络(convolutional neuralnetworks,cnn)广泛应用于图像分类与识别任务。然而,基于cnn的应用程序通常需要大量计算,这使得cnn在物联网中的广泛应用迎来了新的挑战,尤其是在实时应用和资源受限的环境下。在传统的基于云的集中训练和推理方法中,移动设备生成的输入数据被发送到云端进行处理,然后推理后将结果发送回移动设备。大量的数据上传会带来明显的延迟,从而导致在自动驾驶汽车、实时监控和增强现实等需要即时响应的应用中无法达到最佳性能。为了克服这些挑战,边缘智能得到了广泛关注。

2、边缘智能利用离数据源更近的分布式计算能力,将数据处理、存储和决策能力推近数据源,减少对云的依赖。通过利用边缘云的计算能力,边缘智能使设备能够在本地处理数据并做出实时决策,从而提高响应速度、减少延迟提高整体系统效率,减轻集中式云端基础设施的负担。为实现在硬件受限的终端设备上部署复杂的dnn(深度神经网络)模型,一个可行的方法是将模型拆分为两部分,dnn浅层部分在终端运行,密集层部分在边缘端运行。具体来说,保留对输入特征提取意义重大的前几层在终端设备上运行,以获得局部特征。而层数较多的后半部分模型则部署在边缘服务器上,从前部分获得的特征作为输入,完成更深层次的特征提取和分类、预测任务。这种协同计算的模式,既减轻了终端的计算负担,发挥了边缘端强大计算能力的优势,又保证了端到端模型的高精度。与云端集中部署相比,也降低了云边间的数据传输量。

3、然而基于边缘智能范式下将模型拆分到终端和边缘端,也带来了潜在的隐私风险。大量的用户隐私数据在传输、处理和存储的过程中增加了数据泄露和侵犯隐私的潜在风险。

4、在现有的技术中,差分隐私通过在数据中添加噪声实现对隐私的保护,但在准确性和效用之间需要权衡。而全同态加密(fhe)是一种突破性的加密技术,可在无需解密的情况下对加密数据进行计算。通过将fhe应用于cnn推理,在边缘进行隐私保护计算变得可行,从而确保敏感数据在整个过程中保持加密和安全。


技术实现思路

1、本专利技术的目的在于提供一种基于边缘智能和同态加密的具有隐私保护的卷积神经网络推理系统,以实现在保护终端用户数据隐私的条件下的安全计算和推理。

2、为实现上述目的,本专利技术采用如下技术方案:

3、一种基于边缘智能和同态加密的具有隐私保护的卷积神经网络推理方法,用于解决神经网络模型在边缘智能环境中存在的隐私信息泄露和通信开销问题。所述系统模型由终端、边缘云端、可信机构、云服务器组成;包括以下步骤:(1)在云端服务器构建一个支持同态计算的卷积神经网络(cnn)模型并通过对已有数据集进行预训练来优化模型性能,经过训练的模型将被分割部署到终端设备和边缘智能节点上,以实现分布式推理。(2)可信机构负责生成和分发系统中其他实体的所有密钥;(3)终端设备用自己的公钥对原始数据加密并在本地的模型中进行安全卷积操作计算;(4)边缘云端接收计算后的数据完成cnn剩余层的同态计算,边缘端将得到的推理结果返回给终端;(5)终端解密得到推理结果。

4、所述步骤(1)构建一个支持同态计算的卷积神经网络(cnn)模型,并将模型分割部署到终端设备和边缘端;其步骤如下:

5、cnn常用的层包括卷积层、激活层、池化层和全连接层,它们执行不同的操作,主要包括权重和、最大池、均值池和激活函数。只有由加法和乘法运算组成的多项式函数可以直接在同态加密中计算,因此,需要修改除加法和乘法之外的其他运算,以适用于的场景。利用修改的切比雪夫多项式modified chebyshev polynomials进行逼近激活函数relu(rectified linear unit线性整流函数),sigmoid(s型生长曲线)和tanh(双曲正切函数),并在对加密数据进行运算时用这些多项式来代替它们,以便对加密数据进行操作。每个激活函数f(x)可以用下面的形式来近似,其中u是将x映射到范围[-1,1]的某种变换:然后,通过寻找与每个激活函数相匹配的最小二乘来求解系数c。

6、按照拆分学习的思想将训练的模型解耦为两部分,将充当特征提取器模块的网络初始层部署到终端设备上,其余计算量大的层被卸载到边缘服务器端进行推理。对于一个l层的cnn模型f,将其前l层模型部署在终端设备作为数据特征提取器,表示为f1:{fi}i∈{1,...,l},后\[l-l\]层放到边缘云端进行推理,表示为f2:{fi}i∈{l+1,...,l}。该部署大大减少了终端设备和云之间所需的网络通信。

7、进一步,所述步骤(2)可信机构生成和分发密钥,其步骤如下:

8、用户申请注册,可信机构ta选取安全参数λ,利用ckks同态加密方案生成用户的公私钥对(pk,sk)和辅助计算密钥evk,其中私钥sk=(1,s),公钥pk=(b,a),b=-as+e(modql)。可信机构将公私钥对(pk,sk)安全的发送给用户,将公钥和辅助密钥(pk,evk)安全发送到云端和边缘端服务器。

9、模型参数加密:云服务器对训练好的预测模型参数值进行加密,并将加密后的参数发送到终端和边缘端。云服务器选择一个随机数rc,对卷积层中大小为d×d的卷积核的值k(模型中设一个卷积核)进行加密,卷积核向量的第(i,j)个分量加密结果表示为:ctk=epk(rck)=epk(rck1,1,rck1,2,…,rck1,d,rck2,1,…,rckd,d);同理选择随机数rf对全连接层参数w加密表示为ctw=epk(rfw)=epk(rfw1,1,rfw1,2,…,rfw1,k,rfw2,1,…,rfwj,h),偏置参数b加密为ctb=epk(rfb)=epk(rfb1,rfb2,…,rfbh),其中d,j,h均表示模型参数或向量的维度大小。之后分别加密得到加密结果并发送给边缘服务器。

10、进一步,所述步骤(3)终端设备用其公钥对原始数据加密并在本地的模型中进行安全卷积操作计算;其步骤如下:

11、步骤3.1:使用终端用户公钥收集的原始数据进行加密。ckks同态加密方案中利用多项式环的结构实现明文和密文空间中的运算,因此需要对数据编码为多项式的形式再利用用户公钥进行加密;

12、将用户终端收集的图像数据集表示为x=(x1,x2,…,xl),每个xi为大小n×n矩阵的图像数据表示为xi=(x1,1,x1,2,…,x1,n,…,xn,n)。为了保护数据的隐私,同样对收集的原始数据进行加密。ckks同态加密方案中利用多项式环的结构实现明文和密文空间中的运算,因此需要对数据编码为多项式的形式再进行加密。将原始数据编码为明文多项式x编码后的明文向量表示为(m1,m2,…ml),利用用户本文档来自技高网...

【技术保护点】

1.一种基于边缘智能和同态加密的具有隐私保护的卷积神经网络推理方法,其特征在于,包括以下步骤:(1)在云端服务器构建一个支持同态计算的卷积神经网络CNN模型并通过对已有数据集进行预训练来优化模型性能,经过训练的模型将被分割部署到终端设备和边缘智能节点上,以实现分布式推理;(2)可信机构负责生成和分发系统中其他实体的所有密钥;(3)终端设备用自己的公钥对原始数据加密并在本地的模型中进行安全卷积操作计算;(4)边缘云端接收计算后的数据完成CNN剩余层的同态计算,边缘端将得到的推理结果返回给终端;(5)终端解密得到推理结果。

2.根据权利要求1所述的一种方法,其特征在于,所述步骤(1)的具体步骤如下:

3.根据权利要求1所述的一种方法,其特征在于,所述步骤(2)的具体步骤如下:

4.根据权利要求1所述的一种方法,其特征在于,所述步骤(3)的具体步骤如下:

5.根据权利要求1所述的一种方法,其特征在于,所述步骤(4)的具体步骤如下:

6.根据权利要求1所述的一种方法,其特征在于,所述步骤(5)的具体步骤如下:

【技术特征摘要】

1.一种基于边缘智能和同态加密的具有隐私保护的卷积神经网络推理方法,其特征在于,包括以下步骤:(1)在云端服务器构建一个支持同态计算的卷积神经网络cnn模型并通过对已有数据集进行预训练来优化模型性能,经过训练的模型将被分割部署到终端设备和边缘智能节点上,以实现分布式推理;(2)可信机构负责生成和分发系统中其他实体的所有密钥;(3)终端设备用自己的公钥对原始数据加密并在本地的模型中进行安全卷积操作计算;(4)边缘云端接收计算后的数据完成cnn剩余层的同态计算,边缘端将得到的推理结果返回...

【专利技术属性】
技术研发人员:韩牟朱雨
申请(专利权)人:江苏大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1