请求处理方法、装置、电子设备及存储介质制造方法及图纸

本公开提供了请求处理方法、装置、电子设备及存储介质，涉及计算机技术领域，尤其涉及深度学习、智能搜索等人工智能技术领域以及芯片技术领域。具体实现方案为：在控制第一部件第i次处理第一请求的过程中，控制第二部件第k次处理第二请求；i、k为大于1的整数；在确定第一部件第i次处理第一请求得到第一请求的第i个中间数据的情况下，控制第二部件根据第i个中间数据第i+1次处理第一请求，得到第一请求的第i+1个中间数据；根据第一请求的第i+1个中间数据，得到第一请求的处理结果，并根据第二部件第k次处理第二请求得到的第二请求的第k个中间数据，得到第二请求的处理结果。本公开实施例能够提高请求处理效率。实施例能够提高请求处理效率。实施例能够提高请求处理效率。

Request processing method, device, electronic device and storage medium

【技术实现步骤摘要】
请求处理方法、装置、电子设备及存储介质


[0001]本公开涉及计算机
，尤其涉及深度学习、智能搜索等人工智能
以及芯片


技术介绍

[0002]随着计算机技术的发展，需要计算机处理的数据也越来越多，处理难度越来越大，为了满足用户日益增长的使用需求，请求处理技术也不断面临着新的挑战。因此，如何更加高效的对接收到的请求进行处理并得到对应的处理结果，就成为需要解决的问题。

技术实现思路

[0003]本公开提供了一种请求处理方法、装置、电子设备及存储介质。
[0004]根据本公开的第一方面，提供了一种请求处理方法，包括：
[0005]在控制第一部件第i次处理第一请求的过程中，控制第二部件第k次处理第二请求；i、k为大于1的整数；
[0006]在确定第一部件第i次处理第一请求得到第一请求的第i个中间数据的情况下，控制第二部件根据第i个中间数据第i+1次处理第一请求，得到第一请求的第i+1个中间数据；
[0007]根据第一请求的第i+1个中间数据，得到第一请求的处理结果，并根据第二部件第k次处理第二请求得到的第二请求的第k个中间数据，得到第二请求的处理结果。
[0008]根据本公开的第二方面，提供了一种请求处理装置，包括：
[0009]第一处理模块，用于在控制第一部件第i次处理第一请求的过程中，控制第二部件第k次处理第二请求；i、k为大于1的整数；
[0010]第二处理模块，用于在确定第一部件第i次处理第一请求得到第一请求的第i个中间数据的情况下，控制第二部件根据第i个中间数据第i+1次处理第一请求，得到第一请求的第i+1个中间数据；
[0011]第一处理结果模块，用于根据第一请求的第i+1个中间数据，得到第一请求的处理结果；
[0012]第二处理结果模块，用于根据第二部件第k次处理第二请求得到的第二请求的第k个中间数据，得到第二请求的处理结果。
[0013]根据本公开的第三方面，提供了一种电子设备，包括：
[0014]至少一个处理器；以及
[0015]与该至少一个处理器通信连接的存储器；其中，
[0016]该存储器存储有可被该至少一个处理器执行的指令，该指令被该至少一个处理器执行，以使该至少一个处理器能够执行前述第一方面的信息展示方法。
[0017]根据本公开的第四方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，该计算机指令用于使该计算机执行前述方法。
[0018]根据本公开的第五方面，提供了一种计算机程序产品，包括计算机程序，该计算机
程序在被处理器执行时实现前述方法。
[0019]应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
[0020]本实施例提供的方案，能够在控制第一部件处理第一请求得到第一请求的中间数据的过程中，同步制第二部件第k次处理第二请求，从而可将不同的请求先后输入第一部件或第二部件，控制第一部件和第二部件并行执行请求处理操作，提高请求处理效率和处理资源的利用率。
附图说明
[0021]附图用于更好地理解本方案，不构成对本公开的限定。其中：
[0022]图1是根据本公开一实施例的请求处理方法的流程示意图；
[0023]图2是根据本公开另一实施例的请求处理方法的流程示意图；
[0024]图3是根据本公开另一实施例的请求处理方法的流程另一示意图；
[0025]图4是根据本公开一示例的目标模型示意图；
[0026]图5是根据本公开一示例的单卡执行示意图；
[0027]图6是根据本公开一示例的两个流水线阶段示意图；
[0028]图7A、7B是顺序执行和采用本公开实施例提供的方法执行的效率对比示意图；
[0029]图8是根据本公开一实施例的请求处理装置的一种组成结构示意图；
[0030]图9是根据本公开一实施例的请求处理装置的另一种组成结构示意图；
[0031]图10是根据本公开另一实施例的请求处理装置的一种组成结构示意图；
[0032]图11是根据本公开另一实施例的请求处理装置的另一种组成结构示意图；
[0033]图12是根据本公开又一实施例的请求处理装置的一种组成结构示意图；
[0034]图13是根据本公开又一实施例的请求处理装置的另一种组成结构示意图；
[0035]图14是用来实现本公开实施例的请求处理方法的电子设备的框图。
具体实施方式
[0036]以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
[0037]本公开第一方面实施例提供一种请求处理方法，如图1所示，包括：
[0038]步骤S101：在控制第一部件第i次处理第一请求的过程中，控制第二部件第k次处理第二请求；i、k为大于1的整数；
[0039]步骤S102：在确定第一部件第i次处理第一请求得到第一请求的第i个中间数据的情况下，控制第二部件根据第i个中间数据第i+1次处理第一请求，得到第一请求的第i+1个中间数据；
[0040]步骤S103：根据第一请求的第i+1个中间数据，得到第一请求的处理结果，并根据第二部件第k次处理第二请求得到的第二请求的第k个中间数据，得到第二请求的处理结果。
[0041]本实施例提供的方案可以应用于电子设备，尤其是终端设备，比如个人电脑、平板电脑、手机等等。
[0042]上述第一部件可以是用于处理数据的资源，可以包括软件资源，比如算子；也可以包括多种资源，比如算子和算子对应的运行空间。前述运行空间可以通过处理器提供，比如CPU(Central Processing Unit，中央处理单元)、GPU(Graphics Processing Unit，图形处理单元)、MCU(Microcontroller Unit，微控制单元)等。
[0043]上述第一部件也可以是硬件，比如CPU(Central Processing Unit，中央处理单元)、GPU(Graphics Processing Unit，图形处理单元)、MCU(Microcontroller Unit，微控制单元)等
[0044]在本公开所有实施例中，第一请求的处理过程可以与第二请求的处理过程相同。
[0045]上述第二部件可以是与第一部件种类、结构相同的其它处理部件，比如，第一部件和第二部件均是CPU。上述第一请求每次经过一个部件处理，即可产生一个第一请求的中间结果。在接收到最初未经处理的第一请求的情况下，可控制第一部件对第一请求执行第1次处理，得到第一请求本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种请求处理方法，包括：在控制第一部件第i次处理第一请求的过程中，控制第二部件第k次处理第二请求；i、k为大于1的整数；在确定所述第一部件第i次处理第一请求得到第一请求的第i个中间数据的情况下，控制所述第二部件根据所述第i个中间数据第i+1次处理所述第一请求，得到所述第一请求的第i+1个中间数据；根据所述第一请求的第i+1个中间数据，得到所述第一请求的处理结果，并根据所述第二部件第k次处理所述第二请求得到的所述第二请求的第k个中间数据，得到所述第二请求的处理结果。2.根据权利要求1所述的方法，其中，所述根据所述第一请求的第i+1个中间数据，得到所述第一请求的处理结果，包括：根据所述第一请求的第i+1个中间数据，确定所述第一请求的循环处理次数；在所述循环处理次数达到预设的循环阈值的情况下，将所述第一请求的第i+1个中间数据作为所述第一请求的处理结果。3.根据权利要求2所述的方法，还包括：在所述循环处理次数未达到预设的循环阈值的情况下，控制所述第一部件和所述第二部件，根据所述第一请求的第i+1个中间数据更新循环处理次数。4.根据权利要求2或3所述的方法，还包括：获取第一数量个原始词语；根据所述第一数量个原始词语，得到所述第一请求；所述第一请求的处理结果用于获取第二数量个预测词语；所述第二数量等于所述循环阈值。5.根据权利要求1所述的方法，其中，所述控制第一部件第i次处理第一请求，包括：控制所述第一部件通过第一模型层第i次处理第一请求；所述第一模型层为目标模型中至少一个模型层中的一个；所述控制第二部件第k次处理第二请求，包括：控制所述第二部件通过第二模型层第k次处理所述第二请求；所述第二模型层为目标模型中至少一个模型层中之一，所述第二模型层与所述第一模型层不同。6.根据权利要求5所述的方法，还包括：根据原始模型所包括的请求处理算子以及不同的所述请求处理算子之间的关系，得到所述原始模型的算子图；根据所述原始模型的算子图，删除所述请求处理算子中的冗余算子，或根据所述原始模型的算子图，合并所述请求处理算子中的重复算子，得到处理后的算子图；根据所述处理后的算子图，得到所述目标模型。7.一种请求处理装置，包括：第一处理模块，用于在控制第一部件第i次处理第一请求的过程中，控制第二部件第k次处理第二请求；i、k为大于1的整数；第二处理模块，用于在确定所述第一部件第i次处理第一请求得到第一请求的第i个中间数据的情况下，控制所述第二部件根据所述第i个中间数据第i+1次处理所述第一请求，得到所述第一请求的第i+1个中间数据；
第一处理结果模块，用于根据所述第一请求的第i+1个...

【专利技术属性】
技术研发人员：刘雨昂，王曦，王国霞，李雨芮，巩伟宝，吴志华，
申请(专利权)人：北京百度网讯科技有限公司，
类型：发明
国别省市：