一种协同计算方法及系统技术方案

本说明书公开了一种协同计算方法及系统。所述方法应用于包括中转模块、至少一个前置计算模块和至少一个后置计算模块的系统中，前置计算模块与后置计算模块配置于不同设备中。所述方法包括：任一前置计算模块获得任一计算任务的输入数据后，执行前置处理以得到中间计算结果；确定该计算任务所属的主题类型；构建包含中间计算结果和主题类型标识的主题消息，将主题消息传输至中转模块；中转模块接收各前置计算模块发送的主题消息，根据主题类型与后置计算模块的对应关系，将特定主题类型标识的主题消息转发至对应的后置计算模块；任一后置计算模块接收到主题消息后，通过解析得到中间计算结果，针对中间计算结果执行后置处理以完成计算任务。

A collaborative computing method and system

【技术实现步骤摘要】
一种协同计算方法及系统
本说明书实施例涉及计算机应用
，尤其涉及一种协同计算方法及系统。
技术介绍
目前，在实际的业务处理过程中，存在许多具有实时处理需求的计算任务，需要在较短的时间内得到计算结果。以指纹解锁场景为例，获取指纹信息后需要在较短的时间内得到验证结果并进行解锁，时间需要短于密码解锁耗费的时间，因此具有实时处理的需求。当数据处理量及业务复杂度提升后，仅利用单一设备处理全部的计算任务，会面临算力不足、多任务竞争计算资源等问题。例如，在进行人机交互时，需要尽量减小交互的时延，提升用户体验。而对于较为复杂的人机交互操作，设备需要获取到多个图像，进行姿势识别等复杂计算操作，同时还需要根据计算结果进行高精度渲染操作，将渲染结果投射到屏幕上。其中，复杂计算操作和高精度渲染操作都十分耗费算力，如果在单一设备上处理，将难以满足低时延的要求，从而对用户体验造成影响。
技术实现思路
为了满足计算任务的实时处理需求，本说明书公开了一种协同计算方法及系统。技术方案如下：一种协同计算方法，应用于包括中转模块、至少一个前置计算模块和至少一个后置计算模块的系统中，前置计算模块与后置计算模块配置于不同设备中，分别用于执行同一计算任务的不同阶段；所述方法包括：任一前置计算模块获得任一计算任务的输入数据后，执行前置处理以得到中间计算结果；以及，确定该计算任务所属的主题类型；构建包含中间计算结果以及主题类型标识的主题消息，将所述主题消息传输至中转模块；中转模块接收各前置计算模块发送的主题消息，根据预设的主题类型与后置计算模块的对应关系，将具有特定主题类型标识的主题消息转发至对应的后置计算模块；任一后置计算模块接收到主题消息后，对主题消息进行解析得到中间计算结果，并针对中间计算结果执行后置处理以完成计算任务。一种协同计算系统，包括中转模块、至少一个前置计算模块和至少一个后置计算模块，前置计算模块与后置计算模块配置于不同设备中，分别用于执行同一计算任务的不同阶段；所述系统包括：前置计算模块：用于获得任一计算任务的输入数据后，执行前置处理以得到中间计算结果；以及，确定该计算任务所属的主题类型；构建包含中间计算结果以及主题类型标识的主题消息，将所述主题消息传输至中转模块；中转模块：用于接收各前置计算模块发送的主题消息，根据预设的主题类型与后置计算模块的对应关系，将具有特定主题类型标识的主题消息转发至对应的后置计算模块；后置计算模块：用于接收到主题消息后，对主题消息进行解析得到中间计算结果，并针对中间计算结果执行后置处理以完成计算任务。上述技术方案中，增加了用于完成计算任务的设备，提高了计算系统的算力，同时采用发布订阅模式进行数据传输，降低了数据传输的时延，能够满足计算任务的实时处理需求。附图说明为了更清楚地说明本说明书实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本说明书实施例中记载的一些实施例，对于本领域普通技术人员来讲，还可以根据这些附图获得其他的附图。图1是本说明书实施例提供的一种具体的用于实现上述协同计算方案的协同计算系统的结构示意图；图2是本说明书实施例提供的一种协同计算方法的流程示意图；图3是本说明书实施例提供的一种协同计算方法中任一前置计算模块的处理流程示意图；图4是本说明书实施例提供的一种协同计算方法中中转模块的处理流程示意图；图5是本说明书实施例提供的一种协同计算方法中任一后置计算模块的处理流程示意图；图6是本说明书实施例提供的一种人机交互方法的流程示意图；图7是本说明书实施例提供的一种具体的用于实现上述人机交互方案的人机交互系统的结构示意图；图8是用于配置本说明书实施例方法的一种设备的结构示意图。具体实施方式目前，在实际的业务处理过程中，存在许多具有实时处理需求的计算任务，需要在较短的时间内得到计算结果。例如，在手机解锁的场景下，指纹解锁的方式需要在获取指纹信息后尽快得到指纹验证结果并进行解锁，这一过程的时间需要短于输入密码解锁耗费的时间，才能方便用户的操作。因此，指纹解锁这一计算任务具有实时处理的需求。如果具有实时处理需求的计算任务比较简单，仅使用单一设备，可以依靠足够的算力将完成计算任务的时间缩短，满足实时处理需求。但是，当数据处理量及业务复杂度提升后，如果依然仅使用单一设备处理全部的计算任务，不仅会因为单一设备算力不足，使得完成计算任务的时间较长，而且还会产生不同的计算任务竞争存储资源、计算资源等的问题，进一步造成更大的时延，从而无法满足计算任务的实时处理需求。例如，在进行人机交互时，需要尽量减小交互的时延，提升用户体验，因此人机交互任务具有实时处理需求。而对于复杂的人机交互任务，设备需要获取到用户的多个图像，首先利用深度学习进行人体检测、姿势识别等复杂计算操作，再根据复杂计算操作的计算结果，对模型或画面进行高精度渲染操作，最后将渲染操作的渲染结果投射到屏幕上展示给用户，完成一次人机交互。其中，复杂计算操作和高精度渲染操作都十分耗费算力，并且都需要竞争中央处理器（CentralProcessingUnit，CPU）和图形处理器（GraphicsProcessingUnit，GPU）的计算资源。如果在单一设备上处理，将难以满足低时延的要求，从而对用户体验造成影响。为了解决上述问题，本说明书实施例提供的方案，首先考虑利用多个设备分别处理计算任务的不同阶段以满足计算任务的实时处理需求的方法。其中，复杂计算任务可以被分解为多个阶段，由不同的物理设备进行处理，一方面，将复杂的计算任务分派给不同的物理设备，可以有效缓解单一设备算力不足的问题、减少了不同阶段的计算对计算资源和存储资源的竞争。另一方面，由于不同阶段的任务对于系统资源的需求不同、使用方式不同，因此这种分派处理的方式，可以针对不同阶段任务的实际处理需求对设备进行优化配置，在多任务处理场景中，这种方式更能充分发挥设备性能，从而在整体上提升处理效率。例如，对于特定的渲染任务，可以对处理渲染任务的物理设备进行算法或结构上的优化，使得该物理设备能够更快地处理渲染任务，从而提升处理效率。然而，上述方案由于使用了多个不同的物理设备，还需要考虑不同的物理设备之间的数据传输问题，也就是说，除了考虑计算所需的时间外，还需要考虑数据传输所耗费的时间。因此，为了满足计算任务的实时处理需求，需要尽量减少在不同物理设备之间传输数据所耗费的时间。在进行数据传输时，普通采用的方案是：不同物理设备之间通过请求应答模式传输数据，即在传输数据之前物理设备先向其他物理设备发送请求建立连接，连接建立成功后传输数据，数据传输完成后断开连接。其中连接建立和断开所耗费的时间较长，同时造成连接资源的浪费。尤其在面对设备之间的高频数据传输时，频繁地建立和断开连接，进一步增加了连接所耗费的时间和连接资源的浪费本文档来自技高网...

【技术保护点】
1.一种协同计算方法，应用于包括中转模块、至少一个前置计算模块和至少一个后置计算模块的系统中，前置计算模块与后置计算模块配置于不同设备中，分别用于执行同一计算任务的不同阶段；所述方法包括：/n任一前置计算模块获得任一计算任务的输入数据后，执行前置处理以得到中间计算结果；以及，确定该计算任务所属的主题类型；构建包含中间计算结果以及主题类型标识的主题消息，将所述主题消息传输至中转模块；/n中转模块接收各前置计算模块发送的主题消息，根据预设的主题类型与后置计算模块的对应关系，将具有特定主题类型标识的主题消息转发至对应的后置计算模块；/n任一后置计算模块接收到主题消息后，对主题消息进行解析得到中间计算结果，并针对中间计算结果执行后置处理以完成计算任务。/n

【技术特征摘要】
1.一种协同计算方法，应用于包括中转模块、至少一个前置计算模块和至少一个后置计算模块的系统中，前置计算模块与后置计算模块配置于不同设备中，分别用于执行同一计算任务的不同阶段；所述方法包括：
任一前置计算模块获得任一计算任务的输入数据后，执行前置处理以得到中间计算结果；以及，确定该计算任务所属的主题类型；构建包含中间计算结果以及主题类型标识的主题消息，将所述主题消息传输至中转模块；
中转模块接收各前置计算模块发送的主题消息，根据预设的主题类型与后置计算模块的对应关系，将具有特定主题类型标识的主题消息转发至对应的后置计算模块；
任一后置计算模块接收到主题消息后，对主题消息进行解析得到中间计算结果，并针对中间计算结果执行后置处理以完成计算任务。


2.根据权利要求1所述的方法，为不同的前置计算模块分别单独配置中转模块，或者
为不同的前置计算模块配置统一的中转模块。


3.根据权利要求1所述的方法，至少一个前置计算模块与中转模块配置于同一设备中，或者
每个前置计算模块都与中转模块配置于不同设备中。


4.根据权利要求3所述的方法，在前置计算模块与中转模块配置于不同设备的情况下，所述将所述主题消息传输至中转模块，具体包括：
前置计算模块基于轻量通信协议将所述主题消息传输至中转模块。


5.根据权利要求1所述的方法，所述将具有特定主题类型标识的主题消息转发至对应的后置计算模块，具体包括：
基于轻量通信协议，将具有特定主题类型标识的主题消息转发至对应的后置计算模块。


6.根据权利要求1所述的方法，所述确定该计算任务所属的主题类型，具体包括：
根据该计算任务的输入数据或者中间计算结果确定该计算任务所属的主题类型。


7.根据权利要求1所述的方法，所述构建包含中间计算结果以及主题类型标识的主题消息，具体包括：
构建包含编码格式为JSON格式的中间计算结果以及主题类型标识的主题消息。


8.一种人机交互方法，应用于包括中转模块、至少一个识别模块和至少一个渲染模块的系统中，识别模块与渲染模块配置于不同设备中，分别用于执行同一交互任务的识别阶段和渲染阶段；所述方法包括：
任一识别模块获得任一交互任务的输入数据后，通过深度学习计算得到识别结果；以及，确定该交互任务所属的主题类型；构建包含识别结果以及主题类型标识的主题消息，将所述主题消息传输至中转模块；
中转模块接收各识别模块发送的主题消息，根据预设的主题类型与渲染模块的对应关系，将具有特定主题类型标识的主题消息转发至对应的渲染模块；
任一渲染模块接收到主题消息后，对主题消息进行解析得到识别结果，并...

【专利技术属性】
技术研发人员：杨颢，
申请(专利权)人：支付宝杭州信息技术有限公司，
类型：发明
国别省市：浙江;33