一种智能调节神经网络模型的方法技术

技术编号:23051172 阅读:84 留言:0更新日期:2020-01-07 14:56
本发明专利技术涉及一种智能调节神经网络模型的方法,设置一服务端以及与服务端远程连接的用户端;服务端内预设一训练完成的具有预设压缩率的神经网络模型;用户端内包括需要应用神经网络模型处理数据的应用程序;方法具体包括:步骤S1,服务端将神经网络模型发送至用户端,用户端应用神经网络模型,通过应用程序对数据进行处理;步骤S2,用户端在预设时段内判断数据的处理结果的正确率是否匹配神经网络模型当前的压缩率:若不匹配,则用户端调整神经网络模型的压缩率,随后转向下一个预设时段,并返回步骤S2;若匹配,则用户端保持神经网络模型当前的压缩率不变,随后退出。可以有效的节省存储器的空间和降低使用神经网络功能时的功耗。

A method of intelligent adjusting neural network model

【技术实现步骤摘要】
一种智能调节神经网络模型的方法
本专利技术涉及神经网络模型领域,尤其涉及一种智能调节神经网络模型的方法。
技术介绍
边缘计算是指在靠近物或数据源头的一侧,采用网络、计算、存储、应用核心能力为一体的开放平台,就近提供最近端服务。其应用程序在边缘侧发起,产生更快的网络服务响应,满足行业在实时业务、应用智能、安全与隐私保护等方面的基本需求。边缘计算处于物理实体和工业连接之间,或处于物理实体的顶端。而云端计算,仍然可以访问边缘计算的历史数据;对物联网而言,边缘计算技术取得突破,意味着许多控制将通过本地设备实现而无需交由云端,处理过程将在本地边缘计算层完成。这无疑将大大提升处理效率,减轻云端的负荷。由于更加靠近用户,还可为用户提供更快的响应,将需求在边缘端解决;边缘设备其存储器所能存储的数据容量往往比较小,因此将边缘计算AI软件、神经网络模型在边缘设备中广泛的部署,其软件的容量大小往往成为一个重要问题。
技术实现思路
本专利技术的目的在于,提供一种智能调节神经网络模型的方法,解决以上技术问题。本专利技术所解决的技术问题可以采用以下技术方案来实现:一种智能调节神经网络模型的方法,其特征在于,设置一服务端以及与所述服务端远程连接的用户端;于所述服务端内预设有一训练完成的神经网络模型,所述神经网络模型具有预设的压缩率;于所述用户端内包括需要应用所述神经网络模型处理数据的应用程序;所述方法具体包括:步骤S1,所述服务端将所述神经网络模型发送至所述用户端,所述用户端应用所述神经网络模型,通过所述应用程序对数据进行处理;步骤S2,所述用户端在预设时段内判断数据的处理结果的正确率是否匹配于所述神经网络模型当前的压缩率:若不匹配,则所述用户端调整所述神经网络模型的压缩率,随后转向下一个预设时段,并返回所述步骤S2;若匹配,则所述用户端保持所述神经网络模型当前的压缩率不变,随后退出。优选地,所述步骤S2具体包括:步骤S21a,所述用户端在当前的预设时段内判断数据的处理结果的正确率是否不低于一预设的第一更新阈值:若是,则转向步骤S22a;若否,则所述用户端保持所述神经网络模型当前的压缩率不变,随后退出;步骤S22a,所述用户端对所述神经网络模型进行一次压缩,随后转向下一个所述预设时段,并转向步骤S23a;步骤S23a,所述用户端在当前的所述预设时段内判断所述处理结果的正确率是否不低于一预设的更新阈值:若是,则返回所述步骤S22a;若否,则转向步骤S24a;步骤S24a,所述用户端判断所述处理结果的正确率是否低于一预设的第一下限阈值:若是,则所述用户端将所述神经网络模型恢复成上一个所述预设时段内应用的压缩率,随后退出;若否,则所述用户端保持所述神经网络模型当前的压缩率不变,随后退出。优选地,所述服务端发送给所述用户端的所述神经网络模型未经过压缩。优选地,预先将所述神经网络模型的压缩率由高至低划分为多个压缩等级;所述步骤S1中,所述服务端向所述用户端发送的所述神经网络模型拥有最高的压缩等级的压缩率;所述步骤S2具体包括:步骤S21b,所述用户端在当前的预设时段内判断数据的处理结果的正确率是否不低于一预设的第二下限阈值:若是,则所述用户端保持所述神经网络模型当前的压缩率不变,随后退出;若否,则所述用户端将所述神经网络模型的压缩率调至低一级的压缩等级,随后转向下一个所述预设时段,并返回所述步骤S21b。优选地,预先将所述神经网络模型的压缩率由高至低划分为多个压缩等级,多个所述压缩等级中包括一中间的压缩等级;所述步骤S1中,所述服务端向所述用户端发送的所述神经网络模型拥有中间的压缩等级的压缩率;所述步骤S2具体包括:步骤S21c,所述用户端在当前的预设时段内判断数据的处理结果的正确率:若所述正确率不低于一预设的第二更新阈值,则转向步骤S22c;若所述正确率在所述第二更新阈值和一预设的第三下限阈值之间,则转向步骤S23c;若所述正确率低于所述第三下限阈值,则转向步骤S24c;步骤S22c,所述用户端对所述神经网络模型进行一次压缩,随后转向下一个预设时段,并转向步骤S25c;步骤S23c,所述用户端保持所述神经网络模型当前的压缩率不变,随后退出;步骤S24c,所述用户端将所述神经网络模型的压缩率调至低一级的压缩等级,随后转向下一个所述预设时段,并转向步骤S26c;步骤S25c,所述用户端在当前的所述预设时段内再次判断数据的处理结果的正确率:若所述正确率不低于所述第三下限阈值,则返回所述步骤S22c;若所述正确率在所述第二更新阈值和一预设的第三下限阈值之间,则返回所述步骤S23c;若所述正确率低于所述第三下限阈值,则将所述神经网络模型恢复成上一个所述预设时段内应用的压缩率,随后退出;步骤S26c,所述用户端在当前的所述预设时段内再次判断数据的处理结果的正确率:若所述正确率低于所述第三下限阈值,则返回所述步骤S24c;若所述正确率不低于所述第三下限阈值,则保持所述神经网络模型当前的压缩率不变,随后退出。优选地,所述预设时段为一周或者一个月。优选地,所述用户端包括便携式电子设备、边缘计算设备。优选地,所述方法为通过使用不同的变量类型表示神经网络模型的参数。其有益效果在于:本专利技术通过提供一种智能调节神经网络模型的方法可以有效的节省存储器的空间和降低使用神经网络功能时的功耗。附图说明图1为本专利技术的方法流程图;图2为本专利技术的未压缩的神经网络模型的方法流程图;图3为本专利技术的压缩率最高的神经网络模型的方法流程图;图4为本专利技术的压缩率中间的神经网络模型的方法流程图。具体实施方式下面将结合本专利技术实施例中的附图,对本专利技术实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本专利技术一部分实施例,而不是全部的实施例。基于本专利技术中的实施例,本领域普通技术人员在没有作出创造性劳动的前提下所获得的所有其他实施例,都属于本专利技术保护的范围。需要说明的是,在不冲突的情况下,本专利技术中的实施例及实施例中的特征可以相互组合。下面结合附图和具体实施例对本专利技术作进一步说明,但不作为本专利技术的限定。对于边缘计算设备具备可靠性能在离线的情况下完成相应的功能,但是边缘设备往往存储容量不大且需求低功耗,因此可以使用本专利技术来有效的节省边缘设备的存储空间以及降低使用时的能耗。如图1所示,一种智能调节神经网络模型的方法,设置一服务端以及与服务端远程连接的用户端;于服务端内预设有一训练完成的神经网络模型,神经网络模型具有预设的压缩率;于用户端内包括需要应用神经网络模型处理数据的应用程序;方法具体包括:步骤S1,服务端将神经网络本文档来自技高网...

【技术保护点】
1.一种智能调节神经网络模型的方法,其特征在于,设置一服务端以及与所述服务端远程连接的用户端;/n于所述服务端内预设有一训练完成的神经网络模型,所述神经网络模型具有预设的压缩率;/n于所述用户端内包括需要应用所述神经网络模型处理数据的应用程序;/n所述方法具体包括:/n步骤S1,所述服务端将所述神经网络模型发送至所述用户端,所述用户端应用所述神经网络模型,通过所述应用程序对数据进行处理;/n步骤S2,所述用户端在预设时段内判断数据的处理结果的正确率是否匹配于所述神经网络模型当前的压缩率:/n若不匹配,则所述用户端调整所述神经网络模型的压缩率,随后转向下一个预设时段,并返回所述步骤S2;/n若匹配,则所述用户端保持所述神经网络模型当前的压缩率不变,随后退出。/n

【技术特征摘要】
1.一种智能调节神经网络模型的方法,其特征在于,设置一服务端以及与所述服务端远程连接的用户端;
于所述服务端内预设有一训练完成的神经网络模型,所述神经网络模型具有预设的压缩率;
于所述用户端内包括需要应用所述神经网络模型处理数据的应用程序;
所述方法具体包括:
步骤S1,所述服务端将所述神经网络模型发送至所述用户端,所述用户端应用所述神经网络模型,通过所述应用程序对数据进行处理;
步骤S2,所述用户端在预设时段内判断数据的处理结果的正确率是否匹配于所述神经网络模型当前的压缩率:
若不匹配,则所述用户端调整所述神经网络模型的压缩率,随后转向下一个预设时段,并返回所述步骤S2;
若匹配,则所述用户端保持所述神经网络模型当前的压缩率不变,随后退出。


2.根据权利要求1所述的方法,其特征在于,所述步骤S2具体包括:
步骤S21a,所述用户端在当前的预设时段内判断数据的处理结果的正确率是否不低于一预设的第一更新阈值:
若是,则转向步骤S22a;
若否,则所述用户端保持所述神经网络模型当前的压缩率不变,随后退出;
步骤S22a,所述用户端对所述神经网络模型进行一次压缩,随后转向下一个所述预设时段,并转向步骤S23a;
步骤S23a,所述用户端在当前的所述预设时段内判断所述处理结果的正确率是否不低于一预设的更新阈值:
若是,则返回所述步骤S22a;
若否,则转向步骤S24a;
步骤S24a,所述用户端判断所述处理结果的正确率是否低于一预设的第一下限阈值:
若是,则所述用户端将所述神经网络模型恢复成上一个所述预设时段内应用的压缩率,随后退出;
若否,则所述用户端保持所述神经网络模型当前的压缩率不变,随后退出。


3.根据权利要求2所述的方法,其特征在于,所述服务端发送给所述用户端的所述神经网络模型未经过压缩。


4.根据权利要求1所述一种智能调节所应用神经网络模型的压缩率的方法,其特征在于,预先将所述神经网络模型的压缩率由高至低划分为多个压缩等级;
所述步骤S1中,所述服务端向所述用户端发送的所述神经网络模型拥有最高的压缩等级的压缩率;
所述步骤S2具体包括:
步骤S21b,所述用户端在当前的预设时段内判断数据的处理结果的正确率是否不低于一预设的...

【专利技术属性】
技术研发人员:李程兴王海波郭继鹏景蔚亮陈邦明
申请(专利权)人:上海新储集成电路有限公司
类型:发明
国别省市:上海;31

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1