针对神经模型的群组标签的实现方案的方法和装置制造方法及图纸

本申请的某些方面支持将神经元和/或突触分配给群组标签，其中，群组标签具有相关联的参数集合。通过使用群组标签，可以向群中的神经元或突触分配群组标签。然后，通过改变与该群组标签相关联的参数，可以改变该群组中的全部突触或神经元的该参数。

【技术实现步骤摘要】
【国外来华专利技术】基于35U.S.C.§119声明优先权本申请要求享有于2013年9月25日递交的美国临时专利申请序列号No.61/882,465，以及于2014年5月2日递交的美国申请序列号No.14/268,152的权益，将这两个美国申请的全部内容以引用方式并入本文。
本申请的某些方面通常涉及人工神经系统，更具体地说，涉及用于实现针对神经元和突触的群组标签的方法和装置。
技术介绍
人工神经网络(其可以包括相互连接的人工神经元(即，神经处理单元)群组)是计算设备或者表示由计算设备执行的方法。人工神经网络可以具有相应的生物神经网络中的结构和/或功能。然而，人工神经网络可以针对某些应用提供新颖和有用的计算技术，在这些应用中，传统的计算技术繁琐、不实用或者不能胜任。由于人工神经网络可以通过观察来推断出功能，因此这些网络在其中任务或数据的复杂度使得通过传统技术设计的功能很繁重的应用中特别有用。人工神经网络的一种类型是尖峰神经网络，其将时间的概念以及神经元和突触状态纳入其操作模型中，从而提供了丰富的行为集合，根据该行为集合，计算功能可以在神经网络中出现。尖峰神经网络是基于如下构思：神经元根据该神经元的状态而在特定的一个或多个时刻发放(fire)或“产生尖峰”，并且该时刻对神经元功能较为重要。当神经元发放时，其生成传播到其它神经元的尖峰，这些其它神经元转而可以基于接收到该尖峰的时间来对它们的状态进行调整。换句话说，在神经网络中的尖峰的相对或绝对时序中，可以对信息进行编码。
技术实现思路
本申请的某些方面提供了一种用于对人工神经系统进行操作的方法。所述方法通常包括：将人工神经系统的第一突触群或第一人工神经元群中的至少一个分配给第一群组标签，其中，所述第一群组标签是与第一突触类型或第一神经元类型中的至少一个以及第一参数集合相关联的；将人工神经系统的第二突触群或第二人工神经元群中的至少一个分配给第二群组标签，其中，所述第二群组标签是与第二突触类型或第二神经元类型中的至少一个以及第二参数集合相关联的；以及改变第一参数集合或第二参数集合中的至少一个参数集合中的一个或多个参数引起改变下列各项中的至少一项的一个或多个参数：第一群或第二群中的至少一个中的一个或多个突触、或者第一群或第二群中的至少一个中的一个或多个人工神经元。本申请的某些方面提供了一种用于对人工神经系统进行操作的装置。所述装置通常包括处理系统和耦合到所述处理系统的存储器。处理系统通常被配置成：将人工神经系统的第一突触群或第一人工神经元群中的至少一个分配给第一群组标签，其中，所述第一群组标签是与第一突触类型或第一神经元类型中的至少一个以及第一参数集合相关联的；将人工神经系统的第二突触群或第二人工神经元群中的至少一个分配给第二群组标签，其中，所述第二群组标签是与第二突触类型或第二神经元类型中的至少一个以及第二参数集合相关联的；以及改变第一参数集合或第二参数集合中的至少一个参数集合中的一个或多个参数引起改变下列各项中的至少一项的一个或多个参数：第一群或第二群中的至少一个中的一个或多个突触、或者第一群或第二群中的至少一个中的一个或多个人工神经元。本申请的某些方面提供了一种用于对人工神经系统进行操作的装置。所述装置通常包括以下单元：用于将人工神经系统的第一突触群或第一人工神经元群中的至少一个分配给第一群组标签的单元，其中，所述第一群组标签是与第一突触类型或第一神经元类型中的至少一个以及第一参数集合相关联的；用于将人工神经系统的第二突触群或第二人工神经元群中的至少一个分配给第二群组标签的单元，其中，所述第二群组标签是与第二突触类型或第二神经元类型中的至少一个以及第二参数集合相关联的；以及用于改变第一参数集合或第二参数集合中的至少一个参数集合中的一个或多个参数引起改变下列各项中的至少一项的一个或多个参数的单元：第一群或第二群中的至少一个中的一个或多个突触、或者第一群或第二群中的至少一个中的一个或多个人工神经元。本申请的某些方面提供了一种用于对人工神经系统进行操作的计算机程序产品。所述计算机程序产品通常包括具有可执行如下操作的指令的计算机可读介质：将人工神经系统的第一突触群或第一人工神经元群中的至少一个分配给第一群组标签，其中，所述第一群组标签是与第一突触类型或第一神经元类型中的至少一个以及第一参数集合相关联的；将人工神经系统的第二突触群或第二人工神经元群中的至少一个分配给第二群组标签，其中，所述第二群组标签是与第二突触类型或第二神经元类型中的至少一个以及第二参数集合相关联的；以及改变第一参数集合或第二参数集合中的至少一个参数集合中的一个或多个参数引起改变下列各项中的至少一项的一个或多个参数：第一群或第二群中的至少一个中的一个或多个突触、或者第一群或第二群中的至少一个中的一个或多个人工神经元。本申请的某些方面提供了一种用于对人工神经系统进行操作的方法。所述方法通常包括：将人工神经系统的人工神经元和突触的群组分配给具有相关联的参数集合的群组标签；以及发送单个消息以改变集合中的参数值，引起群组中的全部人工神经元和突触的参数的同时切换。本申请的某些方面提供了一种用于操作人工神经系统的装置。所述装置通常包括处理系统和耦接到所述处理系统的存储器。处理系统通常被配置为：将人工神经系统的人工神经元和突触的群组分配给具有相关联的参数集合的群组标签；以及发送单个消息以改变集合中的参数值，引起群组中的全部人工神经元和突触的参数的同时切换。本申请的某些方面提供了一种用于对人工神经系统进行操作的装置。所述方装置通常包括如下单元：用于将人工神经系统的人工神经元和突触的群组分配给具有相关联的参数集合的群组标签的单元；以及用于发送单个消息以改变集合中的参数值，引起群组中的全部人工神经元和突触的参数的同时切换的单元。本申请的某些方面提供了一种用于对人工神经系统进行操作的计算机程序产品。所述计算机程序产品通常包括具有可执行如下操作的指令的计算机可读介质：将人工神经系统的人工神经元和突触的群组分配给具有相关联的参数集合的群组标签；以及发送单个消息以改变集合中的参数值，引起群组中的全部人工神经元和突触的参数的同时切换。附图说明为了能够详细地理解本申请的上述特征的实现方案，可以通过参照多个方面对上面的简要概括进行更具体的描述，在附图中示出了这些方面中的一些方面。然而，应当注意的是，附图仅示出了本申请的某些本文档来自技高网...

【技术保护点】
一种用于对人工神经系统进行操作的方法，包括：将所述人工神经系统的第一突触群或第一人工神经元群中的至少一个分配给第一群组标签，其中，所述第一群组标签是与第一突触类型或第一神经元类型中的至少一个以及第一参数集合相关联的；将所述人工神经系统的第二突触群或第二人工神经元群中的至少一个分配给第二群组标签，其中，所述第二群组标签是与第二突触类型或第二神经元类型中的至少一个以及第二参数集合相关联的；以及改变所述第一参数集合或所述第二参数集合中的至少一个中的一个或多个参数，引起改变针对下列各项中的至少一项的所述一个或多个参数：所述第一群或所述第二群中的至少一个中的一个或多个突触、或者所述第一群或所述第二群中的至少一个中的一个或多个人工神经元。

【技术特征摘要】
【国外来华专利技术】2013.09.25 US 61/882,465;2014.05.02 US 14/268,1521.一种用于对人工神经系统进行操作的方法，包括：
将所述人工神经系统的第一突触群或第一人工神经元群中的至少一个
分配给第一群组标签，其中，所述第一群组标签是与第一突触类型或第一
神经元类型中的至少一个以及第一参数集合相关联的；
将所述人工神经系统的第二突触群或第二人工神经元群中的至少一个
分配给第二群组标签，其中，所述第二群组标签是与第二突触类型或第二
神经元类型中的至少一个以及第二参数集合相关联的；以及
改变所述第一参数集合或所述第二参数集合中的至少一个中的一个或
多个参数，引起改变针对下列各项中的至少一项的所述一个或多个参数：
所述第一群或所述第二群中的至少一个中的一个或多个突触、或者所述第
一群或所述第二群中的至少一个中的一个或多个人工神经元。
2.根据权利要求1所述的方法，还包括：
给下列各项中的至少一项设置标签：具有所述第一群组标签和所述第
二群组标签二者的所述人工神经元中的一个或多个、或者所述突触中的一
个或多个。
3.根据权利要求1所述的方法，还包括：
改变与所述第一突触类型和所述第二突触类型相关联的参数，引起改
变针对在所述第一群和所述第二群中的全部突触的这些参数；以及
改变与所述第一神经元类型和所述第二神经元类型相关联的其它参
数，引起改变针对在所述第一群和所述第二群中的全部人工神经元的这些
其它参数。
4.根据权利要求1所述的方法，其中，所述第一参数集合和所述第二
参数集合包括以下各项中的至少一项：用于启用可塑性的标志、用于禁止
可塑性的标志、针对突触后电势(PSP)传输的标志、针对多巴胺的标志、
动态平衡启用标志、动态平衡禁止标志、可塑性启用标志或可塑性禁止标

\t志。
5.根据权利要求4所述的方法，还包括：
同时控制所述用于启用可塑性的标志、所述用于禁止可塑性的标志、
所述针对突触后电势(PSP)传输的标志和所述针对多巴胺的标志。
6.根据权利要求1所述的方法，其中，与所述第一突触类型和所述第
二突触类型相关联的参数包括以下各项中的至少一项：尖峰时序依赖可塑
性(STDP)表、资源模型或可塑性参数。
7.根据权利要求1所述的方法，还包括：
同时控制在所述第一集合和所述第二集合中的参数。
8.根据权利要求1所述的方法，其中：
所述第一突触类型与所述第二突触类型相同，并且
所述第一神经元类型与所述第二神经元类型相同，并且所述方法还包
括：
在不同时刻改变在所述第一集合和所述第二集合中的参数，以及
参数在所述第一集合中的值与所述参数在所述第二集合中的值不同。
9.根据权利要求1所述的方法，其中：
所述第一突触群和所述第二突触群是相同层或相同类型中的至少一个
的突触集合的子集，并且
所述第一人工神经元群和所述第二人工神经元群是相同层或相同类型
中的至少一个的人工神经元集合的子集。
10.根据权利要求1所述的方法，其中，所述第一集合和所述第二集
合中的参数与关联于所述第一突触类型和所述第二突触类型的参数不相交
的。
11.根据权利要求1所述的方法，其中，所述第一集合和所述第二集
合中的至少一个参数与关联于所述第一突触类型和所述第二突触类型的至
少一个参数是公共的，所述方法还包括：
基于所述第一集合和所述第二集合中的所述至少一个参数，来重写与
所述第一突触类型和所述第二突触类型相关联的所述至少一个参数。
12.根据权利要求1所述的方法，其中，所述第一群组标签或所述第
二群组标签中的至少一个是动态分配的。
13.根据权利要求12所述的方法，其中，对第一群组标签或第二群组
标签中的所述至少一个进行动态分配是与具有低于阈值的权重的所述第一
突触群或所述第二突触群中的至少一个突触群的突触相关联的。
14.根据权利要求12所述的方法，其中，对第一群组标签或第二群组
标签中的所述至少一个进行动态分配还包括：
对所述第一突触群或所述第二突触群中的至少一个的未充分使用的突
触以及所述第一人工神经元群或所述第二人工神经元群中的至少一个的未
充分使用的人工神经元设置标签，以用于重新分配或结构可塑性中的至少
一个。
15.根据权利要求1所述的方法，其中，改变所述一个或多个参数包
括启用和禁止可塑性，并且所述方法还包括：
基于所述第一人工神经元群或所述第二人工神经元群尖峰的特定人工
神经元，来启用可塑性；以及
基于所述第一人工神经元群或所述第二人工神经元群尖峰的其它特定
人工神经元，来禁止可塑性。
16.根据权利要求1所述的方法，其中，改变所述一个或多个参数包
括启用和禁止可塑性，并且所述方法还包括：
基于所述第一人工神经元群或所述第二人工神经元群尖峰中的至少一

\t个的人工神经元集合，来启用可塑性。
17.根据权利要求1所述的方法，其中，改变所述一个或多个参数包
括启用和禁止可塑性，并且所述方法还包括：
基于具有已...

【专利技术属性】
技术研发人员：D·J·朱利安，J·A·莱温，J·B·格尔哈尔，
申请(专利权)人：高通股份有限公司，
类型：发明
国别省市：美国;US