数据处理方法、装置及计算机设备、存储介质、产品制造方法及图纸

本申请公开了数据处理方法、装置及计算机设备、存储介质、产品，其中，方法包括：获取语音数据处理模型的模型推理图，模型推理图是对语音数据处理模型的训练前向图中包括调用缓存数据的各个网络层统一输入输出接口后生成的；确定模型推理图的总输入缓存数据、初始偏移量和初始输入数据；基于总输入缓存数据、初始偏移量和初始输入数据确定模型推理图每个网络层的输出缓存数据、输出偏移量和输出数据；基于多个网络层的输出缓存数据、输出偏移量和输出数据确定模型推理图的目标输出缓存数据、目标输出偏移量和目标输出数据。通过该方法，实现了模型推理图的输入输出接口的统一，通过偏移量就能查询输入缓存数据，从而提升了模型推理图的导出效率。理图的导出效率。理图的导出效率。

【技术实现步骤摘要】
数据处理方法、装置及计算机设备、存储介质、产品


[0001]本申请涉及计算机
，尤其涉及数据处理方法、数据处理装置、计算机设备、计算机可读存储介质以及计算机程序产品。

技术介绍

[0002]基于神经网络的人工智能模型在实际的应用中，由于模型前向推理过程相比于训练过程往往需要精简一部分算子操作，使得输入到输出过程中的数据流会存在一定的差异。因此，为了解决这一问题，出现了模型推理图这一概念，通过模型推理图可以将人工智能模型的前向过程进行修改或者重新设计，保证在计算结果正确的前提下，实现人工智能模型的部署与落地。
[0003]针对自然语言处理领域(例如语音识别领域)的人工智能模型的模型推理图的输出数据需要依赖于当前输入数据和历史数据，在这类模型推理图的导出过程中需要通过大幅改变代码实现对涉及到的函数接口的输入输出参数的修改，然后将所有的历史信息变量汇总到一起后，再到具体的每一层网络中进行拆解，从而实现模型推理图的导出，对于此类方法，若要修改模型推理图中的网络结构，则会存在以下问题：(1)部分层的输入和输出的历史信息不止一个，若产生变化(增多、减少或替换)就需要重新修改相关函数接口的输入输出参数，使得相关代码产生较大的修改；(2)需要对修改的函数重新进行单独的调试验证，以保证修改后的计算结果正确，需要耗费额外的时间。
[0004]因此，怎样实现对模型推理图中的输入输出接口的统一，实现模型推理图的快速导出成为亟待解决的技术问题。

技术实现思路

[0005]本申请实施例提供了数据处理方法、装置及计算机设备、存储介质、产品，可以实现模型推理图的输入输出接口的统一，通过偏移量就可以实现对模型推理图的导出，从而提升了模型推理图的导出效率。
[0006]本申请实施例一方面公开了一种数据处理方法，该方法包括：
[0007]获取语音数据处理模型的模型推理图，所述模型推理图是对所述语音数据处理模型的训练前向图中的目标网络层统一输入输出接口后生成的，所述目标网络层包括调用缓存数据的各个网络层，所述模型推理图包括多个网络层；
[0008]确定所述模型推理图的总输入缓存数据、初始偏移量以及初始输入数据；
[0009]基于所述总输入缓存数据、所述初始偏移量以及所述初始输入数据，确定所述多个网络层中每个网络层的输出缓存数据、输出偏移量以及输出数据；
[0010]基于所述多个网络层的输出缓存数据、输出偏移量以及输出数据，确定所述模型推理图的目标输出缓存数据、目标输出偏移量以及目标输出数据。
[0011]本申请实施例一方面公开了一种数据处理装置，该装置包括：
[0012]获取单元，用于获取语音数据处理模型的模型推理图，所述模型推理图是对所述
语音数据处理模型的训练前向图中的目标网络层统一输入输出接口后生成的，所述目标网络层包括调用缓存数据的各个网络层，所述模型推理图包括多个网络层；
[0013]确定单元，用于确定所述模型推理图的总输入缓存数据、初始偏移量以及初始输入数据；
[0014]所述确定单元，还用于基于所述总输入缓存数据、所述初始偏移量以及所述初始输入数据，确定所述多个网络层中每个网络层的输出缓存数据、输出偏移量以及输出数据；
[0015]所述确定单元，还用于基于所述多个网络层的输出缓存数据、输出偏移量以及输出数据，确定所述模型推理图的目标输出缓存数据、目标输出偏移量以及目标输出数据。
[0016]本申请实施例一方面公开了一种计算机设备，该计算机设备包括：处理器，适于实现一条或多条计算机程序；以及，计算机存储介质，所述计算机存储介质存储有一条或多条计算机程序，所述一条或多条计算机程序适于由所述处理器加载并执行以上述的数据处理方法。
[0017]本申请实施一方面公开了一种计算机可读存储介质，所述计算机可读存储介质存储有一条或多条计算机程序，所述一条或多条计算机程序适于由处理器加载并执行上述的数据处理方法。
[0018]本申请实施例一方面公开了一种计算机程序产品，该计算机程序产品包括计算机程序，该计算机程序存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机程序，处理器执行该计算机程序，使得该计算机设备执行上述的数据处理方法。
[0019]本申请实施例中，获取语音数据处理模型的模型推理图，模型推理图是对语音数据处理模型的训练前向图中的目标网络层统一输入输出接口后生成的，目标网络层包括调用缓存数据的各个网络层，模型推理图包括多个网络层；统一了接口的模型推理图，使其具有模块化的特性，不需要再次对模型推理图的各个输入输出接口进行更改，开发者可以便捷的对新设计的模型进行推理图的导出，可以减小工作量，提升模型推理图的导出效率；在确定出模型推理图后，确定模型推理图的总输入缓存数据、初始偏移量以及初始输入数据；基于总输入缓存数据、初始偏移量以及初始输入数据，确定多个网络层中每个网络层的输出缓存数据、输出偏移量以及输出数据；最后基于多个网络层的输出缓存数据、输出偏移量以及输出数据，确定模型推理图的目标输出缓存数据、目标输出偏移量以及目标输出数据。基于偏移量确定每个网络层的输入缓存数据，而不需要进行代码更改改变接口，从而提升了模型推理图的导出过程。
附图说明
[0020]为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
[0021]图1是本申请实施例公开的一种数据处理系统的架构示意图；
[0022]图2是本申请实施例公开的一种模型推理图的导出过程；
[0023]图3是本申请实施例公开的一种数据处理的流程示意图；
[0024]图4是本申请实施例公开的一种另一种模型推理图的导出过程；
[0025]图5是本申请实施例公开的一种数据处理装置的结构示意图；
[0026]图6是本申请实施例公开的一种计算机设备的结构示意图。
具体实施方式
[0027]下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。
[0028]为了提升了模型推理图的导出效率，本申请实施例公开了一种数据处理方法，基于该方法，可以将语音数据处理模型的缓存数据统一化，通过偏移量对缓存数据进行访问，实现了输入输出接口的统一，从而提升了语音数据处理模型的模型推理图的导出效率。
[0029]在可行的实施例中，本申请实施例提供的数据处理方法可以基于人工智能(Artificial Intelligence，AI)技术实现，AI是指利用数字计算机或者数字计算机控制的机器模拟、延伸本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种数据处理方法，其特征在于，所述方法包括：获取语音数据处理模型的模型推理图，所述模型推理图是对所述语音数据处理模型的训练前向图中的目标网络层统一输入输出接口后生成的，所述目标网络层包括调用缓存数据的各个网络层，所述模型推理图包括多个网络层；确定所述模型推理图的总输入缓存数据、初始偏移量以及初始输入数据；基于所述总输入缓存数据、所述初始偏移量以及所述初始输入数据，确定所述多个网络层中每个网络层的输出缓存数据、输出偏移量以及输出数据；基于所述多个网络层的输出缓存数据、输出偏移量以及输出数据，确定所述模型推理图的目标输出缓存数据、目标输出偏移量以及目标输出数据。2.根据权利要求1所述的方法，其特征在于，所述基于所述总输入缓存数据、所述初始偏移量以及所述初始输入数据，确定所述多个网络层中每个网络层的输出缓存数据、输出偏移量以及输出数据，包括：基于所述初始偏移量以及所述总输入缓存数据，确定所述每个网络层的输入缓存数据以及输出偏移量；基于所述初始输入数据以及所述每个网络层的输入缓存数据，确定所述每个网络层的输出缓存数据以及输出数据。3.根据权利要求2所述的方法，其特征在于，所述基于所述初始偏移量以及所述总输入缓存数据，确定所述每个网络层的输入缓存数据以及输出偏移量，包括：将所述初始偏移量作为所述多个网络层中第一个网络层的输入偏移量；基于所述第一个网络层的输入偏移量以及所述总输入缓存数据，确定所述第一个网络层的输入缓存数据以及输出偏移量；将所述多个网络层中第i个网络层的输出偏移量作为第i+1个网络层的输入偏移量，所述i为大于或等于1的整数；基于所述第i+1个网络层的输入偏移量以及所述总输入缓存数据，确定所述第i+1个网络层的输入缓存数据以及输出偏移量。4.根据权利要求3所述的方法，其特征在于，所述第i+1个网络层包括多个网络结构，所述基于所述第i+1个网络层的输入偏移量以及所述总输入缓存数据，确定所述第i+1个网络层的输入缓存数据以及输出偏移量，包括：将所述第i+1个网络层的输入偏移量作为所述多个网络结构中第一个网络结构的输入偏移量，并基于所述第一个网络结构的输入偏移量从所述总输入缓存数据中查询所述第一个网络结构的输入缓存数据；基于第j个网络结构的输入偏移量以及所述第j个网络结构的输入缓存数据的大小，确定第j+1个网络结构的输入偏移量，所述j为大于或等于1的整数；基于所述第j+1个网络结构的输入偏移量，从所述总输入缓存数据中查询所述第j+1个网络结构的输入缓存数据；基于最后一个网络结构的输入偏移量以及所述最后一个网络结构的输入缓存数据的大小，确定所述第i+1个网络层的输出偏移量。5.根据权利要求2
‑
4任一项所述的方法，其特征在于，所述基于所述初始输入数据以及所述每个网络层的输入缓存数据，确定所述每个网络层的输出缓存数据以及输出数据，包
括：将所述初始输入数据作为所述多个网络层中第一个网络层的输入数据；基于所述第一个网络层的输入数据以及输入缓存数据，确定所述第一个网络层的输出缓存数据以及输出数据；将所述多个网络层中第k个网络层的输出数据作为第k+1个网络层的输入数据，所述k为大于或等于1的整数；基于所述第k+1个网络层的输入数据以及输入缓存数据，确定所述第k+1个网络层的输出缓存数据以及输出数据。6.根据权利要求5所述的方法，其特征在于，所述第k+1个网络层包括多个网络结构，所述基于所述第k+1个网络层的输入数据以及输入缓存数据，确定所述第k+1个网络层的输出缓存数据以及输出数据，包括：将所述第k+1个网络层的输入数据作为所述多个网络结构中第一个网络...

【专利技术属性】
技术研发人员：王雄，
申请(专利权)人：腾讯科技深圳有限公司，
类型：发明
国别省市：