用于时空联合存储器的标准尖峰神经网络制造技术

技术编号:8275270 阅读:238 留言:0更新日期:2013-01-31 12:33
本发明专利技术的实施例涉及用于时空联合存储器的标准尖峰神经元。本发明专利技术的一个方面提供了包括具有分层的神经网关系的多个电子神经元的时空联合存储器,所述分层的神经网关系具有有向突触连接性。所述多个电子神经元被配置为检测实时数据流中的时空模式的存在,并提取所述时空模式。所述多个电子神经元还被配置为,基于学习规则,在所述多个电子神经元中存储时空模式,并且在被呈现有时空模式的版本时,获取所存储的时空模式。

【技术实现步骤摘要】
【国外来华专利技术】
本专利技术涉及神经系统,并且更为具体地涉及时空联合存储器(spatiotemporalassociative memory)。
技术介绍
生物系统对通过它们的感触输入提供的信息施加顺序。该信息通常以时空模式(spatiotemporal pattern)的形式出现,该时空模式包括具有区别性的空间和时间结构的 本地化的事件。这些事件在宽广的各种空间和时间尺度上出现,并且诸如大脑之类的生物系统仍能够集成它们,并提取相关的各条信息。这样的生物系统能够快速地从嘈杂的时空输入提取信号。在生物系统中,神经元的轴突和另一神经元上的树突之间的接触点被称为突触(synapse),并且相对于突触,这两个神经元分别被称为前突触(pre_synaptic)和后突触(post-synaptic)。我们个体经历的精髓被存储在突触的电导中。突触电导可以每尖峰定时依赖可塑性(STDP)地作为前突触和后突触神经元的相对尖峰次数的函数而随时间改变。如果在其前突触神经元激励(fire)之后其后突触神经元激励,STDP规则增加突触的电导,而如果两个激励的顺序颠倒,则降低突触的电导。神经形态系统(也被称为人工神经网络)是这样的计算系统,其允许电子系统在实质上以与生物脑的方式类似的方式工作。神经形态系统创建大致在功能上等同于生物脑的神经元的处理元件之间的连接。神经形态系统可以包括在生物神经元上建模的各种电子电路。
技术实现思路
本专利技术的实施例提供了用于时空联合存储器的标准尖峰神经元。本专利技术的一个方面包括了如下方法和系统,其用于包括多个电子神经元的时空联合存储器,所述多个电子神经元具有利用直接突触连接性的分层的神经网。多个电子神经元被配置为检测数据流中存在时空模式,并提取时空模式。基于学习规则,多个电子神经兀存储时空模式,并且在被呈现有时空模式的版本时,获取所存储的时空模式。本专利技术的另一方面包括如下方法,其检测实时数据流中存在时空模式,提取时空模式,并基于学习规则,将时空模式存储在联合存储器中,所述联合存储器包括多个电子神经元,所述多个电子神经元具有带有直接突触连接性的分层的关系。在被呈现有时空模式的版本时,本专利技术包括了从联合存储器获取存储的时空模式的方法。参考以下说明书、所附权利要求和附图,来理解本专利技术的这些和其他特征、方面和优势。附图说明图I示出了根据本专利技术一个实施例的用于时空联合存储器的系统的图示;图2示出了根据本专利技术一个实施例的图I中所示的系统的更加详细的图示;图3示出了根据本专利技术一个实施例的用于时空联合存储器的系统的操作的流程图; 图4示出了根据本专利技术另一实施例的实现用于时空联合存储器的标准尖峰神经元方法的神经形态系统的图示;图5示出了根据本专利技术另一实施例的图4中所示的系统的分层架构的图示;图6示出了根据本专利技术另一实施例的图5中所示的系统中的层之间的连接的图示;图7示出了根据本专利技术另一实施例的图6中所示的系统中的两个层中的神经元之间的连接的图示;图8示出了根据本专利技术实施例的在图6的系统中采用的尖峰定时依赖可塑性学习规则的曲线;图9示出了用于实现本专利技术一个实施例的提供尖峰定时依赖可塑性的超密集突触交错式(cross-bar)阵列;以及图10示出了用于实现本专利技术一个实施例的信息处理系统的高级别框图。具体实施例方式本专利技术的实施例提供了这样的神经系统,其包括用于被配置为存储或获取时空模式的联合存储器的标准尖峰电路。在本文中使用的术语“电子神经元”表示被配置为仿真生物神经元的架构。电子神经元在功能上大致等同于生物脑的处理元件之间创建连接。这样,包括根据本专利技术实施例的电子神经元的神经系统可以包括在生物神经元上建模的各种电子电路。此外,包括根据本专利技术实施例的电子神经元的神经系统可以包括在生物神经元上建模的各种处理元件(包括计算机仿真)。尽管在下文中使用包括电子电路的电子神经元描述了本专利技术的特定示例性实施例,但本专利技术并不限于电子电路。根据本专利技术实施例的神经系统可以被实现为包括模拟电路或数字电路的神经形态架构,并且还被实现为计算机仿真。实际上,本专利技术的实施例可以采取完全硬件的实施例、完全软件的实施例或包含硬件和软件元件的实施例的形式。根据本专利技术的标准尖峰神经系统的示例架构包括分层的神经元、以及它们的突触连接和在它们之间的学习规则。可以以不同的方式实现这样的系统,例如在传统计算机系统上通过仿真实现,或通过各种不同的硬件方案实现,其中之一包括提供尖峰定时依赖可塑性的突触交错式阵列(如以下的示例所进一步描述的)。本专利技术的一个实施例包括尖峰电子神经元微电路,其实现联合存储器类型的未监督模式识别系统。联合存储器表示数据存储设备,其中基于其信息内容而非明确的地址来识别存储的存储器。可以通过顺序地或并行地访问存储器内容(与明确的地址相对)从联合存储器获取数据,其中将参考与存储器的信息内容进行比较,直到找到期望的一组的一个或多个匹配为止。根据本专利技术的一个实施例,模式识别系统包括存储器微电路中的相互作用的尖峰电子神经元的组合,所述存储器微电路被配置为存储和联合地召回(recall)时空模式。学习规则提供(描述)了作为要被存储的模式的函数的电子神经元之间的突触互连的强度。例如,学习规则提供了作为要被存储的模式的函数的电子神经元之间的突触互连的电导的级别。根据本专利技术的一个实施例,未监督的模式识别系统在无需任何明确的外部指示机构的情况下执行模式识别任务。系统并不需要对模式的任何明确的描述。这样,只要模式良好地定义了时空结构和统计,模式的语义内容是不重要的。给定包含时空模式的输入数据流,系统学习检测模式的存在,并在无需提前提供与要被检测的图像相关的任何信息的情况下提取和存储模式。系统以这样的方式存储模式,即,使得当被呈现有存储的模式的片段和/或噪声的版本时,系统能够从存储器获取适当的匹配模式。除了时空模式之外,输入数据流可以在整体上包含噪声级别。模式识别系统以实时或在线方式执行模式识别,并无需用于处理到来的信息的单独阶段。在数据流被馈入系·统中时,系统实时处理到来的信息。在本专利技术的一个实施例中,系统架构是模量的和可伸缩的,适合于在使用单个流线型的架构的同时解决多个空间和时间尺度上的组合特性的问题。参见图1,示出了根据本专利技术实施例的神经系统10的网络架构的图示。系统10包括激发的尖峰电子神经元的两个层El和E2、以及抑制的尖峰电子神经元的层12。El层用作输入层,而E2层用作处理层。层12实现了如在下文中相关于图3描述的赢家通吃(winner-take-all, WTA)机制。通常而言,激发的尖峰电子神经元使得其目标神经元更有可能激励,而抑制尖峰电子神经元使得其目标为有较小的可能激励。可以使用尖峰电子神经元的各种实现。通常而言,这样的神经元包括计数器,所述计数器在接收到来自源激发神经元的输入时增加,并且在接收到来自源抑制神经元的输入时减小。增加或减小的量取决于从源神经元到目标神经元的连接(例如通过可变电阻器建模的突触连接)的强度。如果计数器到达特定阈值,神经元随后生成其自身的尖峰(即激励),并且计数器被重置到基线值。术语尖峰电子神经元在下文中被称作为“电子神经元”。电子神经元以如下方式互连。图2示出了神经系统10的更详细的图示,说明了层El中的电子神经元12 (即Nei)的本文档来自技高网...

【技术保护点】

【技术特征摘要】
【国外来华专利技术】...

【专利技术属性】
技术研发人员:A·恩迪兰戈D·S·莫德哈S·K·埃瑟
申请(专利权)人:国际商业机器公司
类型:
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1