神经元计算机操作系统的SNN模型动态映射方法及装置制造方法及图纸

本发明专利技术公开了神经元计算机操作系统的SNN模型动态映射方法及装置，通过根据节点之间连接关系、设置的初始解空间映射，以及输入、输出虚拟节点相对物理神经元拟态核边缘核心的位置，构建脉冲通信代价计算模型，计算前继节点与后继节点对应物理坐标间的距离，基于节点间的距离和对应的权重信息，得到脉冲通信代价；同时，基于初始解空间，通过贪心算法遍历逻辑神经元拟态核在不同空闲物理神经元拟态核时的脉冲通信代价，得到最小脉冲通信代价时，逻辑神经元拟态核与物理神经元拟态核的映射关系。从而解决了类脑硬件资源因碎片化而无法直接将模型的逻辑神经元拟态核相对位置一一映射到物理神经元拟态核的问题。射到物理神经元拟态核的问题。射到物理神经元拟态核的问题。

【技术实现步骤摘要】
神经元计算机操作系统的SNN模型动态映射方法及装置


[0001]本专利技术属于新型人工智能软件体系结构领域，具体涉及神经元计算机操作系统的SNN模型动态映射方法及装置。

技术介绍

[0002]传统的冯诺依曼体系结构的计算机难以满足目前高速发展的人工智能计算性能需求，尤其是面对低功耗高性能计算领域，如边缘计算。因此，脉冲神经网络为寻求更低功耗和更高效计算性能提供了一条可行的路径，但在冯诺依曼体系结构计算机上仿真脉冲神经网络较困难，为了解决这一难题，出现了类脑计算芯片，类脑计算芯片通过对生物大脑结构的模仿来运行脉冲神经网络；相对于现有的计算体系结构，类脑计算是借鉴了生物大脑中信息处理的基本规律，在硬件实现与软件算法等多层面做出了本质变革，从而实现在功耗和计算能力等诸多方面的大幅改进。类脑计算机是由多个类脑计算芯片采用水平扩展的方式构建而成，具有运行超大规模脉冲神经任务能力的新型计算机模型。神经元计算机操作系统为用户提供透明的计算资源管理及SNN模型映射到类脑计算资源的能力。SNN（Spiking Neural Network，脉冲神经网络）模型是指经由类脑编译器编译输出的可部署到类脑硬件的脉冲神经网络及其依赖的编解码算法。
[0003]在类脑应用的软硬件生态系统中，在编译阶段完成基于硬件约束的SNN模型神经元簇到神经元拟态核的映射。为了实现神经网络模型和类脑硬件的解耦合，大部分生态系统在编译阶段完成的模型映射是映射到逻辑神经元计算核，在映射阶段只考虑基于核心约束的模型映射方案，但不考虑全局的物理神经元计算核的运行现状，如输入/输出路由、资源碎片、路由拥塞等。
[0004]类脑计算芯片是由m*n的二维网格结构组成，多个芯片通过互联线级联，实现更大规模的二维网格结构，每个网格包括一个路由模块和一个神经拟态核，神经拟态核可以模拟神经元和突触的行为。由于类脑计算芯片的特性，神经元计算机操作系统只能与类脑计算芯片的边缘核心交互，输入路由是指为了将脉冲源从芯片外输入到物理神经元拟态核的路由，输出路由是指模型的发放神经元发送脉冲到芯片外的路由。
[0005]神经元计算机操作系统负责将类脑计算资源抽象为一个大型的二维网格，并负责类脑计算资源的管理，如为SNN模型分配物理神经元计算核，资源释放和状态更新等。神经元计算机操作系统支持多个SNN模型的并行部署，统一为多个SNN模型分配资源，在分配资源时结合降低类脑计算资源的碎片化以及片上网络脉冲路由拥塞情况等策略统一为多个SNN模型动态分配资源。神经元计算机操作系统在为SNN模型分配资源时，将逻辑神经元拟态核映射到物理神经元拟态核，当物理资源存在碎片时，那么SNN模型将无法按照逻辑神经元拟态核的相对位置一一映射到物理神经元拟态核，神经元计算机操作系统将按照当下的物理资源重新映射逻辑神经元拟态核到空闲的物理神经元拟态核。

技术实现思路

[0006]为解决现有技术的不足，在重新映射神经元拟态核时，考虑输入输出神经元核心以及核心间的通信代价，实现SNN模型运行时脉冲通信路由代价最小化的目的，本专利技术采用如下的技术方案：
[0007]神经元计算机操作系统的SNN模型动态映射方法，神经元计算机操作系统资源管理模块为SNN模型分配硬件资源块，硬件资源块是根据物理神经元拟态核的坐标分布的矩阵，根据神经元计算机操作系统与片上网络核心交互的通道设定输入输出方向，将脉冲源作为虚拟输入节点，脉冲目的作为虚拟输出节点，动态映射方法包括如下步骤：
[0008]步骤S1：设置节点映射之间的权重；设定虚拟输入节点到逻辑经元拟态核及逻辑经元拟态核到虚拟输出节点的权重，将编译器输出的神经元簇映射到一组逻辑神经元拟态核，获取一组逻辑神经元拟态核及其节点之间连接关系和权重信息；
[0009]步骤S2：初始解空间映射；将逻辑神经元拟态核的节点映射到物理神经元拟态核的核心，得到基于映射关系的初始解空间；
[0010]步骤S3：构建脉冲通信代价计算模型；根据节点之间连接关系、初始解空间，以及输入、输出虚拟节点相对物理神经元拟态核边缘核心的位置，计算前继节点与后继节点对应物理坐标间的距离，基于节点间的距离和对应的权重信息，得到脉冲通信代价；
[0011]步骤S4：基于初始解空间，通过贪心算法遍历逻辑神经元拟态核在不同空闲物理神经元拟态核时的脉冲通信代价，得到最小脉冲通信代价时，逻辑神经元拟态核与物理神经元拟态核的映射关系，从而最小化核心间脉冲通信距离和最小化输入输出。
[0012]进一步地，所述步骤S1中，脉冲源和脉冲目的是位于物理神经元拟态核之外的节点，基于硬件封包协议，为了最小化脉冲输入输出为目标，即尽量将脉冲输入和脉冲输出的逻辑神经元拟态核分配到离输入输出方向较近的物理神经元拟态核上，因此，为了使虚拟输入节点到物理神经拟态核心之间的路由步长最短，当逻辑神经元拟态核映射到物理神经元拟态核后，如果此物理神经元拟态核的入度是虚拟输入节点，则此物理神经元拟态核的虚拟输入节点为距离此物理神经元拟态核最近的位置，如果此物理神经元拟态核的出度是虚拟输出节点，则此物理神经元拟态核的虚拟输出节点为距离此物理神经元拟态核最近的位置，根据位置设定虚拟输入节点到逻辑经元拟态核及逻辑经元拟态核到虚拟输出节点的权重。
[0013]进一步地，所述步骤S3的脉冲通信代价计算模型，公式如下：
[0014][0015]说明：m表示节点之间连接关系和权重信息node_graph_and_weight中前继节点个数，n表示前继节点所有连接的后继节点个数，表示节点映射的物理神经元拟态核core，和分别表示物理神经元拟态核core的横、纵坐标值，表示节点到节点的连接的权重；芯片内路由采用
XY策略，物理神经元拟态核到的路由步长为两个核心之间的曼哈顿距离：step()=|[x]‑ꢀ
[x]|+|[y]‑
[y]|。
[0016]进一步地，输入、输出方向是神经元计算机操作系统与片上网络核心交互的通道，基于输入、输出方向，则设置对应的输入、输出核心。
[0017]进一步地，基于硬件限制输入、输出方向一共有四个方向，包括左WEST、右EAST、上NORTH、下SOURTH，基于输入、输出方向Direct=WEST、EAST，设置对应的输入、输出核心为(
‑
1,[y])、(
‑
1,[y])，
‑
1表示硬件资源块以外的左侧位置，[y]表示第i个作为前继节点的核心，其入度是虚拟输入节点，[y]表示第j个作为后继节点的核心，其出度是虚拟输出节点。
[0018]进一步地，设置逻辑神经元拟态核连接关系和权重字典的变量node_graph_and_weight；根据硬件资源分配情况，构建全局变量cores，包括物理神经元拟态核坐标和占用情况，步骤S4包括如下步骤：
[0019]步骤S4.1：基于初始解空间node_and_map_to_core，计算脉冲通信代价，并作为当前最小脉冲通信代价cost_min；
[002本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.神经元计算机操作系统的SNN模型动态映射方法，神经元计算机操作系统为SNN模型分配硬件资源块，硬件资源块是根据物理神经元拟态核的坐标分布的矩阵，将脉冲源作为虚拟输入节点，脉冲目的作为虚拟输出节点，其特征在于动态映射方法包括如下步骤：步骤S1：设置节点映射之间的权重；设定虚拟输入节点到逻辑经元拟态核及逻辑经元拟态核到虚拟输出节点的权重，获取一组逻辑神经元拟态核及其节点之间连接关系和权重信息；步骤S2：初始解空间映射；将逻辑神经元拟态核的节点映射到物理神经元拟态核的核心，得到基于映射关系的初始解空间；步骤S3：构建脉冲通信代价计算模型；根据节点之间连接关系、初始解空间，以及输入、输出虚拟节点相对物理神经元拟态核边缘核心的位置，计算前继节点与后继节点对应物理坐标间的距离，基于节点间的距离和对应的权重信息，得到脉冲通信代价；步骤S4：基于初始解空间，通过贪心算法遍历逻辑神经元拟态核在不同空闲物理神经元拟态核时的脉冲通信代价，得到最小脉冲通信代价时，逻辑神经元拟态核与物理神经元拟态核的映射关系。2.根据权利要求1所述的神经元计算机操作系统的SNN模型动态映射方法，其特征在于：所述步骤S1中，当逻辑神经元拟态核映射到物理神经元拟态核后，如果此物理神经元拟态核的入度是虚拟输入节点，则此物理神经元拟态核的虚拟输入节点为距离此物理神经元拟态核最近的位置，如果此物理神经元拟态核的出度是虚拟输出节点，则此物理神经元拟态核的虚拟输出节点为距离此物理神经元拟态核最近的位置，根据位置设定虚拟输入节点到逻辑经元拟态核及逻辑经元拟态核到虚拟输出节点的权重。3.根据权利要求1所述的神经元计算机操作系统的SNN模型动态映射方法，其特征在于：所述步骤S3的脉冲通信代价计算模型，公式如下：，说明：m表示节点之间连接关系和权重信息node_graph_and_weight中前继节点个数，n表示前继节点所有连接的后继节点个数，表示节点映射的物理神经元拟态核core，和分别表示物理神经元拟态核core的横、纵坐标值，表示节点到节点的连接的权重；物理神经元拟态核到的路由步长为两个核心之间的曼哈顿距离。4.根据权利要求3所述的神经元计算机操作系统的SNN模型动态映射方法，其特征在于：输入、输出方向是神经元计算机操作系统与片上网络核心交互的通道，基于输入、输出方向，则设置对应的输入、输出核心。5.根据权利要求4所述的神经元计算机操作系统的SNN模型动态映射方法，其特征在于：输入、输出方向包括左WEST、右EAST、上NORTH、下SOURTH，基于输入、输出方向Direct=WEST、EAST，设置对应的输入、输出核心为(
‑
1,[y])、(
‑
1,[y])，
‑
1表示硬件资源
块以外的左侧位置，[y]表示第i个作为前继节点的核心，其入度是虚拟输入节点，[y]表示第j个作为后继节点的核心，其出度是虚拟输出节点。6.根据权利要求1所述的神经元计算机操作系统的SNN模型动态映射方法，其特征在于：设置逻辑神经元拟态核连接关系和权重字典的变量node_graph_and_weight；根据硬件资源分配情况，构建全局变量cores，包括物理神经元拟态核坐标和占用情况，步骤S4包括如下步骤：步骤S4.1：基于初始解空间node_and_map_to_core，计算脉冲通信代价，并作为当前最小脉冲通信代价cost_min；步骤S4.2：设置临时变量core_map_node记录当前的初始解空间node_and_map_to_core，基于当前初始解空间node_and_map_to_core得到物理神...

【专利技术属性】
技术研发人员：吕攀，王凤娟，沈嘉玮，金欧文，黄雷，杨国青，李红，李莹，邓水光，潘纲，
申请(专利权)人：之江实验室，
类型：发明
国别省市：