一种神经网络模型参数的更新方法技术

本发明专利技术提供了一种神经网络模型参数的更新方法，应用于客户端。该更新方法包括：获取神经网络模型新参数；将所述神经网络模型新参数存储到保存有所述神经网络模型的当前参数的内存中的可用存储空间；调用保存的所述神经网络模型新参数以更新所述神经网络模型的当前参数。在无文件系统的嵌入式环境中，通过直接将神经网络模型新参数保存到内存中并调用神经网络模型新参数用于神经网络模型识别，而无需重启来重新加载神经网络模型，实现了在不中断识别处理业务的前提下方便快捷地对模型参数进行更新，提高系统可用性，提升用户体验。

【技术实现步骤摘要】
一种神经网络模型参数的更新方法
本专利技术涉及人工智能算法
，特别是一种神经网络模型参数的更新方法。
技术介绍
智能语音交互是目前设备控制的研究热点，正得到越来越广泛的应用。特别是对于汽车车机(车机是车载信息娱乐系统的简称，也可称为车载多媒体信息娱乐系统，车载导航系统等)，智能语音交互是重要功能。自然语言处理作为语音交互的核心。基于神经网络的自然语言处理模型，需要比较大的计算力，通常被部署在云端服务器上。以汽车车机为例，汽车车机接收的输入语音通过网络传输到云端，由云端服务器部署的神经网络模型完成推理，再把推理结果下发到汽车车机，从而完成自然语言处理。但是，当汽车行驶至网络信号较差、甚至没有网络的地方时，用户的语音交互请求将得不到正确的反馈，严重影响用户体验。为了解决这个问题，出现了将基于神经网络模型的自然语言处理模块部署到客户端(例如汽车车机)上的方式，使得能够在客户端上实现自然语言处理，这样，即使在无网络的情况下也能进行语音交互。但是，这种方式面临对神经网络模型进行更新的难题，特别是对于更新频率较高的神经网络模型参数来说，如何实现更新是必须考虑的问题。一般来说，在Linux、Android等操作系统环境下更新神经网络模型参数，可通过在文件系统中更新参数文件，然后再重新加载神经网络模型即可完成模型参数的更新。但是，由于客户端的计算力和存储空间的限制，其上运行的通常不是Linux、Android等大型操作系统。以汽车车机为例，车机上进行神经网络模型推理的芯片上运行的通常是简单高效的实时操作系统(Real-TimeOperatingSystem，RTOS)，或者甚至没有操作系统，由于实时操作系统一般都不带文件系统，在这种情况下，就无法通过更新参数文件的方式来实现模型参数的更新。另外，通过更新参数文件后重新加载神经网络模型的方式进行更新，在加载期间会造成自然语言处理业务的中断，一定程度上影响用户体验。
技术实现思路
鉴于上述问题，提出了本专利技术以便提供一种克服上述问题或者至少部分地解决上述问题的神经网络模型参数的更新方法。本专利技术的一个目的在于提供一种应用于客户端的神经网络模型参数的更新方法，其能够在不中断识别处理业务的前提下实现参数更新，提高系统可用性，提升用户体验。本专利技术的一个进一步的目的在于节省客户端的内存占用，从而提高运行效率。根据本专利技术实施例的一方面，提供了一种神经网络模型参数的更新方法，应用于客户端，所述更新方法包括：获取神经网络模型新参数；将所述神经网络模型新参数存储到保存有所述神经网络模型的当前参数的内存中的可用存储空间；调用保存的所述神经网络模型新参数以更新所述神经网络模型的当前参数。可选地，所述调用保存的所述神经网络模型新参数以更新所述神经网络模型的当前参数，包括：将指向所述神经网络模型的当前参数所在内存中的存储地址的第一参数指针切换至所述神经网络模型新参数所在内存中的存储空间所在地址；调用所述第一参数指针以读取所述神经网络模型新参数。可选地，所述更新方法还包括：获取所述神经网络模型的预定义的测试样本；基于更新所述新参数之后的所述神经网络模型对所述测试样本进行识别，得到对所述测试样本的测试识别结果；将所述测试识别结果与所述测试样本的预期识别结果进行比较；若所述测试识别结果与所述预期识别结果相符合，则将所述神经网络模型新参数保存到所述客户端的非易失性存储器中；若所述测试识别结果与所述预期识别结果不符合，则将指向所述神经网络模型新参数所在内存中的存储空间所在地址的第一参数指针重新切换至所述神经网络模型的当前参数所在内存中的存储地址。可选地，在所述神经网络模型的当前参数存入所述内存中之前，还包括：在所述内存中为所述神经网络模型的当前参数动态分配存储空间；在将所述神经网络模型新参数存储到保存有所述神经网络模型的当前参数的内存中的可用存储空间之前，还包括：在所述内存中为所述神经网络模型新参数动态分配可用存储空间；在将所述神经网络模型新参数保存到非易失性存储器中之后，还包括：释放所述内存中存储所述神经网络模型的当前参数的存储空间。可选地，在所述神经网络模型的当前参数存入所述内存中之前，还包括：在所述内存中为所述神经网络模型的当前参数动态分配存储空间；在将所述神经网络模型新参数存储到保存有所述神经网络模型的当前参数的内存中的可用存储空间之前，还包括：在所述内存中为所述神经网络模型新参数动态分配可用存储空间；在将指向所述神经网络模型新参数所在内存中的存储空间所在地址的第一参数指针重新切换至所述神经网络模型的当前参数所在内存中的存储地址之后，还包括：释放所述内存中存储所述神经网络模型新参数的存储空间。可选地，所述将所述神经网络模型新参数保存到所述客户端的非易失性存储器中，包括：将所述神经网络模型新参数存储在与所述神经网络模型的当前参数所在所述非易失性存储器中的存储地址不同的存储地址；将指向所述神经网络模型的当前参数所在所述非易失性存储器中的存储地址的第二参数指针切换至所述神经网络模型新参数所在所述非易失性存储器中的存储地址；或者，将所述神经网络模型新参数保存到所述非易失性存储器中存储所述神经网络模型的当前参数的存储地址，以使所述神经网络模型新参数覆盖所述神经网络模型的当前参数。可选地，所述获取神经网络模型新参数包括：通过网络传输获取包括神经网络模型新参数的更新数据包；提取所述更新数据包中的神经网络模型新参数。可选地，所述更新数据包通过以下方式生成：将所述神经网络模型新参数以指定数据格式进行合并，并按照指定编码格式对合并的所述神经网络模型新参数进行编码得到神经网络模型新参数集合；对所述神经网络模型新参数集合进行打包，得到所述更新数据包。可选地，所述指定数据格式为类型+长度+数值的数据格式；所述提取所述更新数据包中的神经网络模型新参数包括：从所述更新数据包中取出所述神经网络模型新参数集合，丢弃所述神经网络模型新参数集合中的类型和长度字段，得到所述新参数集合中的所述数值作为所述神经网络模型新参数。可选地，在对所述神经网络模型新参数集合进行打包之前，还包括：根据指定校验算法对所述神经网络模型新参数集合进行计算得到第一校验码；所述对所述神经网络模型新参数集合进行打包，得到所述更新数据包，包括：对所述神经网络模型新参数集合和所述第一校验码进行打包，得到所述更新数据包；在通过网络传输获取包括神经网络模型新参数的更新数据包之后，还包括：根据所述指定校验算法对所述更新数据包中的神经网络模型新参数集合进行计算得到第二校验码；比较所述第二校验码是否与所述第一校验码相同；若是，则执行所述提取所述更新数据包中的神经网络模型新参数的步骤；若否，则重新通过网络传输本文档来自技高网...

【技术保护点】
1.一种神经网络模型参数的更新方法，应用于客户端，其特征在于，所述更新方法包括：/n获取神经网络模型新参数；/n将所述神经网络模型新参数存储到保存有所述神经网络模型的当前参数的内存中的可用存储空间；调用保存的所述神经网络模型新参数以更新所述神经网络模型的当前参数。/n

【技术特征摘要】
1.一种神经网络模型参数的更新方法，应用于客户端，其特征在于，所述更新方法包括：
获取神经网络模型新参数；
将所述神经网络模型新参数存储到保存有所述神经网络模型的当前参数的内存中的可用存储空间；调用保存的所述神经网络模型新参数以更新所述神经网络模型的当前参数。


2.根据权利要求1所述的更新方法，其特征在于，
所述调用保存的所述神经网络模型新参数以更新所述神经网络模型的当前参数，包括：
将指向所述神经网络模型的当前参数所在内存中的存储地址的第一参数指针切换至所述神经网络模型新参数所在内存中的存储空间所在地址；
调用所述第一参数指针以读取所述神经网络模型新参数。


3.根据权利要求2所述的更新方法，其特征在于，在调用保存的所述神经网络模型新参数以更新所述神经网络模型的当前参数之后，还包括：
获取所述神经网络模型的预定义的测试样本；
基于更新所述新参数之后的所述神经网络模型对所述测试样本进行识别，得到对所述测试样本的测试识别结果；
将所述测试识别结果与所述测试样本的预期识别结果进行比较；
若所述测试识别结果与所述预期识别结果相符合，则将所述神经网络模型新参数保存到所述客户端的非易失性存储器中；
若所述测试识别结果与所述预期识别结果不符合，则将指向所述神经网络模型新参数所在内存中的存储空间所在地址的第一参数指针重新切换至所述神经网络模型的当前参数所在内存中的存储地址。


4.根据权利要求3所述的更新方法，其特征在于，在所述神经网络模型的当前参数存入所述内存中之前，还包括：
在所述内存中为所述神经网络模型的当前参数动态分配存储空间；
在将所述神经网络模型新参数存储到保存有所述神经网络模型的当前参数的内存中的可用存储空间之前，还包括：
为所述神经网络模型新参数动态分配可用存储空间；
在将所述神经网络模型新参数保存到非易失性存储器中之后，还包括：
释放所述内存中存储所述神经网络模型的当前参数的存储空间。


5.根据权利要求3所述的更新方法，其特征在于，在所述神经网络模型的当前参数存入所述内存中之前，还包括：
在所述内存中为所述神经网络模型的当前参数动态分配存储空间；
在将所述神经网络模型新参数存储到保存有所述神经网络模型的当前参数的内存中的可用存储空间之前，还包括：
在所述内存中为所述神经网络模型新参数动态分配可用存储空间；
在将指向所述神经网络模型新参数所在内存中的存储空间所在地址的第一参数指针重新切换至所述神经网络模型的当前参数所在内...

【专利技术属性】
技术研发人员：李林峰，黄海荣，
申请(专利权)人：湖北亿咖通科技有限公司，
类型：发明
国别省市：湖北;42