用于在尖峰神经元网络中实现基于事件的更新的装置和方法制造方法及图纸

可以执行人工神经元网络中的基于事件的更新。可以定义内部事件，以便更新神经元的输入连接。内部事件可以由外部信号触发和/或由神经元内部地触发。强化信号可以用于触发神经元的内部事件，以便执行突触更新，而不必具有突触后响应。可以定义外部事件，以便向期望的目标传送神经元的响应。外部事件和内部事件可以组合成复合事件，该复合事件被配置为实行连接更新以及向突触后目标传送尖峰。内部事件的范围可以包括各神经元，但不扩展到网络的其它神经元。相反地，外部事件的范围可以例如经由突触后尖峰传送扩展到网络的其它神经元。

【技术实现步骤摘要】
【国外来华专利技术】用于在尖峰神经元网络中实现基于事件的更新的装置和方法相关申请的交叉引用本申请涉及以下申请：2011年9月21日递交的、并且名称为“ELEMENTARYNETWORKDESCRIPTIONFORNEUROMORPHICSYSTEMS(针对神经形态系统的初级网络描述)”(代理人案卷号021672-0399229)的美国专利申请No.13/239,123；2011年9月21日递交的、并且名称为“ELEMENTARYNETWORKDESCRIPTIONFOREFFICIENTLINKBETWEENNEURONALMODELSANDNEUROMORPHICSYSTEMS(针对神经元模型与神经形态系统之间的有效链接的初级网络描述)”(代理人案卷号021672-0399230)的美国专利申请No.13/239,148；2011年9月21日递交的、并且名称为“ELEMENTARYNETWORKDESCRIPTIONFOREFFICIENTMEMORYMANAGEMENTINNEUROMORPHICSYSTEMS(针对神经形态系统中有效存储管理的初级网络描述)”(代理人案卷号021672-0399232)的美国专利申请No.13/239,155；2011年9月21日递交的、并且名称为“ELEMENTARYNETWORKDESCRIPTIONFOREFFICIENTIMPLEMENTATIONOFEVENT-TRIGGEREDPLASTICITYRULESINNEUROMORPHICSYSTEMS(针对神经形态系统中事件触发的可塑性规则的有效实现的初级网络描述)”(代理人案号021672-0399233)的美国专利申请No.13/239,163；2011年9月21日递交的、并且名称为“APPARATUSANDMETHODFORPARTIALEVALUATIONOFSYNAPTICUPDATESBASEDONSYSTEMEVENTS(用于局部评估基于系统事件的突触更新的装置和方法)”的美国专利申请No.13/239,259；以及2011年9月21日递交的、并且名称为“APPARATUSANDMETHODSFORSYNAPTICUPDATEINAPULSE-CODEDNETWORK(用于编码脉冲网络中突触更新的装置和方法)”的美国专利申请No.13/239,255；2012年7月27日递交的、名称为“"APPARATUSANDMETHODSFORGENERALIZEDSTATE-DEPENDENTLEARNINGINSPIKINGNEURONNETWORKS(用于尖峰神经元网络中广义情景关联学习的装置和方法)”(代理人案号021672-0410044，客户案号BC201212A)的美国专利申请序列No.13/560,902；以及2012年7月27日递交的、名称为“APPARATUSANDMETHODSFOREFFICIENTUPDATESINSPIKINGNEURONNETWORKS(用于尖峰神经元网络中的有效更新的装置和方法)”(代理人案号021672-040936，客户案号BC201221A)的美国专利申请序列No.13/560,891；前述申请中的每一个都是共同未决的、共有的，并通过引用方式将其整体并入本文。版权本专利文件的公开内容的一部分包含受版权保护的材料。版权所有者不反对任何人对该专利文件或专利公开进行复制，如同其出现在专利商标局的专利文档或记录中一样，但除此之外保留所有的版权。
本公开内容涉及用于模拟神经元网络的并行分布式计算机系统，其中，神经元网络执行神经计算，例如，视觉感知、电机控制和/或其它神经计算。
技术介绍
大部分神经元模型和系统由被简单单元(称为神经元)的网络组成，神经元彼此交互，并经由被称为突触的连接与外部世界交互。在这种神经元系统中的信息处理可以并行执行。一些现有的并行硬件架构和相应语言(其可以针对神经元模型的并行执行和仿真而被优化)，可以采用事件驱动的网络更新。当在神经网络中实现学习时，理想的是，能够采用选择性地修改网络的某些方面(例如，改变突触权重)的事件，同时保持网络的其它方面不受影响(例如，修改这些权重，而不产生神经元输出)。然而，现有的实施方式采用将连接权重调整与针对网络的神经元的突触后响应产生组合起来的事件。因此，格外需要额外的机制来将网络范围的连接调整从网络中的突触后响应产生去耦合，从而允许尖峰神经元网络中的学习算法能够更灵活地实现。
技术实现思路
除其他方式外，本技术还通过提供用于实现灵活的基于事件的更新的装置和方法来满足前述需求。本公开内容的一个方面涉及一种操作具有输入连接和输出连接的人工尖峰神经元的方法。该方法发包括提供第一事件类型的一个或多个事件，其包括第一事件。第一事件可以被配置为实行输入连接的可塑性的更新。输入连接的可塑性可以被配置为调整与输入连接相关联的参数。所述调整的特征在于时间段。该方法可以包括提供第二事件类型的一个或多个事件，其包括第二事件。该第二事件可以被配置为实行经由输出连接的神经元的响应的传送。在一些实施方式中，第一事件可以基于提供给神经元的外部信号。参数可以包括输入连接权重。在一些实施方式中，输入连接可以被配置为向神经元提供前馈激励。神经元可以根据被配置为产生目标结果的学习过程进行操作。外部信号可以包括强化信号，其基于所述响应是否处于所述目标结果的预定范围内而被配置。在一些实施方式中，前馈激励可以包括多个以峰间间隔(ISI)为特征的多个尖峰，所述ISI包括多个尖峰的个体之间的间隔。该时间段可能超过针对多个尖峰的连续个体尖峰所确定的ISI。在一些实施方式中，外部信号可以被配置为独立于所述第二事件类型的所述一个或多个事件来引起所述第一事件类型的所述一个或多个事件。在一些实施方式中，第一事件类型的给定事件可以被配置为独立于第二事件类型的给定事件而被触发，以便启用第一事件类型的给定事件被触发后的无响应时间间隔。在一些实施方式中，权重的修改可以以可塑性时间窗为特征。免响应时间间隔可以被配置为超过可塑性时间窗。在一些实施方式中，输入连接能够向神经元提供前馈激励。外部信号可以经由被配置为与所述输入连接分离的接口而被提供。在一些实施方式中，输入连接的可塑性更新可以基于外部信号被提供的时间而被配置。在一些实施方式中，前馈激励可以包括至少一个尖峰。可塑性更新还可以基于与至少一个尖峰相关联的时间而被配置。在一些实施方式中，可塑性更新可以包括调整通过输入连接的数据传输的可能性。调整可以基于以下两项中的一项或两项：(i)提供外部信号与神经元响应时间之间的时间间隔；或者(ii)至少一个尖峰与响应时间之间的时间间隔。响应时间可以与提供外部信号之前所产生的神经元的响应相关联。在一些实施方式中，可塑性更新可以包括基于以下两项中的一项或两项来调整与所确定的输入连接相关联的效力：(i)提供外部信号与神经元响应时间之间的时间间隔；或者(ii)至少一个尖峰与响应时间之间的时间间隔。响应时间可以与提供外部信号之前所产生的神经元的响应相关联。在一些实施方式中，可塑性更新可以包括调整以下两项中的一项或两项：(a)通信延迟；或(b)与输入连接相关联的权重。调整可以基于以下两项中的一项或两项而被本文档来自技高网...

【技术保护点】
一种操作具有输入连接和输出连接的人工尖峰神经元的计算机实现的方法，所述方法由被配置为执行计算机程序模块的一个或多个处理器执行，所述方法包括：提供第一事件类型的一个或多个事件，其包括第一事件，所述第一事件被配置为实行所述输入连接的可塑性的更新，所述输入连接的所述可塑性能够调整与所述输入连接相关联的参数，所述调整的特征在于时间段；以及提供第二事件类型的一个或多个事件，其包括第二事件，所述第二事件被配置为实行经由所述输出连接的所述神经元的响应的传送。

【技术特征摘要】
【国外来华专利技术】2012.08.17 US 13/588,7741.一种操作具有输入连接和输出连接的人工尖峰神经元的计算机实现的方法，所述方法由被配置为执行计算机程序模块的一个或多个处理器执行，所述方法包括：提供第一事件类型的第一事件，所述第一事件基于经由被配置与所述输入连接分离的接口而被提供给所述神经元的外部信号，所述第一事件被配置为独立于对所述神经元的响应的传送来实行所述输入连接的可塑性的更新，所述输入连接的所述可塑性被用来更新与所述输入连接相关联的参数，所述更新的特征在于时间段；以及提供第二事件类型的第二事件，所述第二事件被配置为经由所述输出连接实行对所述神经元的所述响应的传送，所述第二事件类型不同于所述第一事件类型。2.如权利要求1所述的方法，其中：所述参数包括输入连接权重。3.如权利要求2所述的方法，其中：所述输入连接被配置为向所述神经元提供前馈激励；所述神经元根据被配置为产生目标结果的学习过程可操作；以及所述外部信号包括强化信号，所述强化信号基于所述响应是否处于所述目标结果的预定范围内而被配置。4.如权利要求3所述的方法，其中：所述前馈激励包括以尖峰间间隔ISI为特征的多个尖峰，所述ISI包括所述多个尖峰中的个体尖峰之间的间隔；以及所述时间段超过针对所述多个尖峰中的连续个体尖峰所确定的ISI。5.如权利要求1所述的方法，其中，所述外部信号被配置为独立于所述第二事件类型的所述第二事件来引起所述第一事件类型的所述第一事件。6.如权利要求1所述的方法，其中，所述第一事件类型的给定事件被配置为独立于所述第二事件类型的给定事件而被触发，以便启用所述第一事件类型的所述给定事件被触发后的无响应时间间隔。7.如权利要求6所述的方法，其中：输入连接权重的修改以可塑性时间窗为特征；以及所述无响应时间间隔被配置为超过所述可塑性时间窗。8.如权利要求1所述的方法，其中：所述输入连接被配置为向所述神经元提供前馈激励。9.如权利要求8所述的方法，其中，所述输入连接的所述可塑性更新基于提供所述外部信号的时间而被配置。10.如权利要求9所述的方法，其中：所述前馈激励包括至少一个尖峰；以及所述可塑性更新还基于与所述至少一个尖峰相关联的时间而被配置。11.如权利要求10所述的方法，其中：所述可塑性更新包括调整通过所述输入连接的数据传输的可能性，所述调整基于以下两项中的一项或两项：(i)提供所述外部信号与神经元响应时间之间的时间间隔，或(ii)所述至少一个尖峰与所述神经元响应时间之间的时间间隔；以及所述神经元响应时间与在提供所述外部信号之前所产生的神经元的响应相关联。12.如权利要求10所述的方法，其中：所述可塑性更新包括基于以下两项中的一项或两项来调整与所确定的输入连接相关联的效力：(i)提供所述外部信号与神经元响应时间之间的时间间隔，或(ii)所述至少一个尖峰与所述神经元响应时间之间的时间间隔；以及所述神经元响应时间与在提供所述外部信号之前所产生的神经元的响应相关联。13.如权利要求10所述的方法，其中：所述可塑性更新包括调整以下项中任意项：(a)通信延迟以及(b)与所述输入连接相关联的权重，所述调整基于以下两项中的一项或两项而被确定：(i)提供外部信号与神经元响应时间之间的时间间隔，或(ii)所述至少一个尖峰与所述神经元响应时间之间的时间间隔；以及所述神经元响应时间与提供所述外部信号之前所产生的神经元的响应相关联。14.如权利要求1所述的方法，其中：所述神经...

【专利技术属性】
技术研发人员：O·西尼亚维斯基，E·伊日科维奇，
申请(专利权)人：高通技术公司，
类型：发明
国别省市：美国;US