【技术实现步骤摘要】
本专利技术涉及软件工程，具体涉及一种基于数据保护的云端推理方法、装置、存储介质及系统。
技术介绍
1、随着大模型时代的到来，人类的生活实现了极大的便利，也加剧了数据隐私和模型隐私保护的困境。在用户数据传输过程中，若未采用加密措施，容易遭受中间人攻击，导致敏感数据泄露。同时，用户数据存储在云端，可能因云服务提供商的内部员工、第三方访问权限或配置错误等原因，导致数据泄露或被滥用。而大模型服务通常在多租户环境中运行，若隔离机制不完善，同样容易造成数据泄露。在大模型服务中，历史会话数据与当前请求的访问控制不严格，也可能导致用户隐私泄露。大模型在推理过程中，若处理不当，可能泄露用户输入的敏感数据。因此，在工业环境下，如何在保护用户数据隐私的前提下在云端推理模型，成为要解决的技术焦点。
2、现有技术中公开了一种数据可控使用方法，其定义了一种隐私计算的新范式，即数据使用方的存储/计算节点被划分成数据提供方控制的安全域，隐私数据只能在安全域中进行加工和处理。安全域是一个逻辑上的概念，指由相应密钥和加密算法保护的存储、计算单元。该数据可控使用方法可以保证数据提供方的隐私数据对数据使用方可见，同时防止数据使用方以各种方式拷贝数据流出对应安全域从而进行二次贩卖。此外，上述隐私计算新范式还具有对原有业务系统的无侵入性，即不会对原业务代码进行任何修改或者任何限制。
3、上述隐私计算新范式具有一些优点，但是其并不能满足大模型服务方模型推理的需求，无法解决大模型服务方需要数据来训练模型和用户担心隐私泄露的矛盾。
1、本专利技术实施例的目的在于提供一种基于数据保护的云端推理方法、装置、存储介质及系统，以在满足大模型服务方模型推理需求的前提下，解决大模型服务方需要数据来训练模型和用户担心隐私泄露的矛盾。
2、为实现上述目的，第一方面，本专利技术实施例提供了一种基于数据保护的云端推理方法，包括：
3、接收用户发起的推理请求；
4、根据所述推理请求，调用用户服务进程访问多个用户安全域以读取用户数据和该用户的历史会话数据；
5、通过所述用户服务进程将所述用户数据和该用户的历史会话数据发送至推理服务进程；
6、通过所述推理服务进程从大模型服务安全域中加载推理模型对所述用户数据和该用户的历史会话数据进行推理，得到推理结果；
7、通过所述推理服务进程和用户服务进程将所述推理结果返回给用户；
8、其中，多个所述用户安全域和大模型服务安全域均存储于云服务端，且所述云服务端提供所述用户服务进程和推理服务进程。
9、作为本申请的一种优选实现方式，接收用户发起的推理请求之前，所述方法还包括创建多个用户安全域，具体为：
10、用户端生成或导入昌钥；所述昌钥用于加密luks中的主密钥，表示用户安全域的控制权；所述昌钥包括昌公钥和昌私钥；
11、云服务端基于当前的系统环境信息生成文钥；所述文钥包括文私钥和文公钥，所述文私钥被封存在tpm中；
12、使用所述文公钥封存所述昌私钥；
13、以所述昌私钥为密钥文件，为多个用户创建多个用户安全域。
14、作为本申请的一种优选实现方式，接收用户发起的推理请求之前，所述方法还包括创建大模型服务安全域，具体为：
15、获取多个用户密钥，每一用户密钥包括用户私钥和用户公钥；
16、根据多个用户私钥，采用基于椭圆曲线的非对称密钥算法计算模型服务私钥；
17、根据所述模型服务私钥计算模型服务方公钥；
18、根据所述模型服务私钥和模型服务公钥创建大模型服务安全域。
19、作为本申请的一种具体实现方式，计算模型服务私钥和模型服务公钥具体为：
20、若用户数为n，设椭圆曲线的阶为p，生成元为g，则：
21、用户i私钥为，公钥为；
22、在用户服务进程中计算模型服务私钥为 ，模型服务公钥为，。
23、第二方面，本专利技术实施例还提供了一种基于数据保护的云端推理装置，包括处理器、输入设备、输出设备和存储器，所述处理器、输入设备、输出设备和存储器相互连接，其中，所述存储器用于存储计算机程序，所述计算机程序包括程序指令，所述处理器被配置用于调用所述程序指令，执行上述第一方面的方法。申请专利技术实施例还提供了一种计算机可读存储介质，其内存储有计算机程序，所述计算机程序包括程序指令，所述程序指令当被处理器执行时使所述处理器执行上述第一方面的方法。
24、第四方面，本专利技术实施例提供了一种基于数据保护的云端推理系统，包括用户端及云服务端，所述用户端用于发起推理请求；
25、所述云服务端存储有多个用户安全域及大模型服务安全域，且所述云服务端提供用户服务进程和推理服务进程；所述云服务端用于：
26、根据所述推理请求，调用用户服务进程访问多个用户安全域以读取用户数据和该用户的历史会话数据；
27、通过所述用户服务进程将所述用户数据和该用户的历史会话数据发送至推理服务进程；
28、通过所述推理服务进程从大模型服务安全域中加载推理模型对所述用户数据和该用户的历史会话数据进行推理，得到推理结果；
29、通过所述推理服务进程和用户服务进程将所述推理结果返回给用户。
30、实施本专利技术实施例，通过可控计算技术建立安全域并实施严格的数据隔离与加密传输，将用户数据和历史会话数据放在各自的安全域，模型方的安全域密钥由各用户密钥生成，并通过用户服务进程和推理服务进程实现用户数据和模型数据的隔离，在进行模型推理的同时，保护了用户隐私。相比于传统方法，本方法在满足大模型服务方模型推理的需求的同时，保护了用户的隐私，兼顾了系统性能与安全。
本文档来自技高网...【技术保护点】
1.一种基于数据保护的云端推理方法，其特征在于，包括：
2.如权利要求1所述的基于数据保护的云端推理方法，其特征在于，接收用户发起的推理请求之前，所述方法还包括创建多个用户安全域，具体为：
3.如权利要求1所述的基于数据保护的云端推理方法，其特征在于，接收用户发起的推理请求之前，所述方法还包括创建大模型服务安全域，具体为：
4.如权利要求3所述的基于数据保护的云端推理方法，其特征在于，计算模型服务私钥和模型服务公钥具体为：
5.如权利要求3所述的基于数据保护的云端推理方法，其特征在于，基于椭圆曲线的非对称密钥算法包括Secp256k1算法和SM2算法。
6.一种基于数据保护的云端推理装置，其特征在于，包括处理器、输入设备、输出设备和存储器，所述处理器、输入设备、输出设备和存储器相互连接，其中，所述存储器用于存储计算机程序，所述计算机程序包括程序指令，所述处理器被配置用于调用所述程序指令，执行如权利要求1-5任一项所述的方法。
7.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机程序，所述
8.一种基于数据保护的云端推理系统，包括用户端及云服务端，其特征在于，所述用户端用于发起推理请求；
9.如权利要求8所述的基于数据保护的云端推理系统，其特征在于，所述用户端还用于生成或导入昌钥；所述昌钥用于加密LUKS中的主密钥，表示用户安全域的控制权；所述昌钥包括昌公钥和昌私钥；
10.如权利要求8或9所述的基于数据保护的云端推理系统，其特征在于，所述云服务端还用于创建大模型服务安全域，具体为：
...【技术特征摘要】
1.一种基于数据保护的云端推理方法，其特征在于，包括：
2.如权利要求1所述的基于数据保护的云端推理方法，其特征在于，接收用户发起的推理请求之前，所述方法还包括创建多个用户安全域，具体为：
3.如权利要求1所述的基于数据保护的云端推理方法，其特征在于，接收用户发起的推理请求之前，所述方法还包括创建大模型服务安全域，具体为：
4.如权利要求3所述的基于数据保护的云端推理方法，其特征在于，计算模型服务私钥和模型服务公钥具体为：
5.如权利要求3所述的基于数据保护的云端推理方法，其特征在于，基于椭圆曲线的非对称密钥算法包括secp256k1算法和sm2算法。
6.一种基于数据保护的云端推理装置，其特征在于，包括处理器、输入设备、输出设备和存储器，所述处理器、输入设备、输出设备和存储器相互连接，其中，所述存...
【专利技术属性】
技术研发人员：曾驭龙，司晓冰，张金波，王宸敏，汤载阳，范学鹏，
申请(专利权)人：北京熠智科技有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。