用于尖峰神经计算的方法和装置制造方法及图纸

本公开的某些方面提供用于一般线性系统的尖峰神经计算的方法和装置。一个示例方面是将信息编码在尖峰之间的相对定时中的神经元模型。然而，突触权重不是必需的。换句话说，连接可以存在(显著突触)或者不存在(不显著或不存在的突触)。本公开的某些方面使用二进制值的输入和输出并且不要求突触后滤波。然而，某些方面可涉及对连接延迟(例如，树突延迟)的建模。单个神经元模型可被用于计算任何一般线性变换x＝AX+BU到任何的任意性精度。这一神经元模型还可以能够学习，诸如学习输入延迟(例如，对应于缩放值)以达成目标输出延迟(或输出值)。学习还可被用于确定因果输入的逻辑关系。

【技术实现步骤摘要】
【国外来华专利技术】【专利摘要】本公开的某些方面提供用于一般线性系统的尖峰神经计算的方法和装置。一个示例方面是将信息编码在尖峰之间的相对定时中的神经元模型。然而，突触权重不是必需的。换句话说，连接可以存在(显著突触)或者不存在(不显著或不存在的突触)。本公开的某些方面使用二进制值的输入和输出并且不要求突触后滤波。然而，某些方面可涉及对连接延迟(例如，树突延迟)的建模。单个神经元模型可被用于计算任何一般线性变换x＝AX+BU到任何的任意性精度。这一神经元模型还可以能够学习，诸如学习输入延迟(例如，对应于缩放值)以达成目标输出延迟(或输出值)。学习还可被用于确定因果输入的逻辑关系。【专利说明】用于尖峰神经计算的方法和装置 相关申请的交叉引用 本申请涉及一并提交且题为 "METHODS AND APPARATUS FOR SPIKING NEURAL COMPUTATION(用于尖峰神经计算的方法和装置）"的美国专利申请S/N. 13/368, 994 (代理 人案号 113075U1)、以及一并提交且题为 "METHODS AND APPARATUS FOR SPIKING NEURAL COMPUTATION (用于尖峰神经计算的方法和装置）"的美国专利申请S/N. 13/369, 080 (代理 人案号113075U2)，这两件申请均通过援引纳入于此。 背景 领域 本公开的某些方面一般涉及神经网络，并且更为具体地涉及操作由一个或多个神 经元构成的尖峰神经网络，其中单个神经元能够计算任何一般变换至任何的任意性精度。 背景 人工神经网络是由一群互连的人工神经元（即神经元模型）组成的数学或计算模 型。人工神经网络可以源自于（或至少宽松地基于）生物神经网络（诸如在人脑中发现的 那些生物神经网络）的结构和/或功能。由于人工神经网络能从观察中推断出函数，因此这 样的网络在因任务或数据的复杂度使得手工设计该函数不切实际的应用中是特别有用的。 -种类型的人工神经网络是尖峰神经网络，其将时间概念以及神经元和突触状态 纳入到其工作模型中，由此增加了此种类型的神经模拟中的真实性水平。尖峰神经网络基 于神经元仅当膜电位达到阈值时才激发这一概念。当神经元激发时，它生成一尖峰，该尖峰 行进至其他神经元，这些其他神经元继而基于该收到的尖峰来升高或降低其膜电位。 传统上，信息被认为若非独占地也主要是被编码在神经元的激发率中。如果信息 是被编码在神经元激发率中，与仅将神经元建模为具有基于速率的学习规则（诸如〇ja规 贝1J )的激发率变换相比，要对具有膜动态、有时间精度的尖峰事件、以及尖峰定时依赖可塑 性（STDP)的神经元进行建模会存在显著的计算开销。 概述 本公开的某些方面一般涉及尖峰神经计算，并且更为具体地涉及使用尖峰神经网 络中的一个或多个神经元，其中单个神经元能够计算任何一般变换至任何的任意性精度， 并且其中信息被编码在各尖峰的相对定时中。 本公开的某些方面提供一种用于实现尖峰神经网络的方法。该方法一般包括在第 一神经元模型处接收至少一个输入；基于该输入，确定第一神经元模型的第一输出尖峰时 间与参考时间之间的相对时间；以及基于该相对时间从第一神经元模型发射输出尖峰。 本公开的某些方面提供一种用于实现尖峰神经网络的装置。该装置一般包括：处 理单元，被配置成在第一神经元模型处接收至少一个输入；基于该输入，确定第一神经元模 型的第一输出尖峰时间与参考时间之间的相对时间；以及基于该相对时间从第一神经元模 型发射输出尖峰。 本公开的某些方面提供一种用于实现尖峰神经网络的设备。该设备一般包括：用 于在第一神经元模型处接收至少一个输入的装置；用于基于该输入，确定第一神经元模型 的第一输出尖峰时间与参考时间之间的相对时间的装置；以及用于基于该相对时间从第一 神经元模型发射输出尖峰的装置。 本公开的某些方面提供了一种用于实现尖峰神经网络的计算机程序产品。该计算 机程序产品一般包括具有指令的计算机可读介质，这些指令可执行用于：在第一神经元模 型处接收至少一个输入；基于该输入，确定第一神经元模型的第一输出尖峰时间与参考时 间之间的相对时间；以及基于该相对时间从第一神经元模型发射输出尖峰。 本公开的某些方面提供一种使用尖峰神经网络的学习方法。该方法一般包括根据 与至神经元模型的输入相关联的当前延迟来延迟该神经元模型中的输入尖峰，其中该输入 尖峰发生在相对于该神经元模型的参考时间而言的输入尖峰时间处；至少部分地基于经延 迟的输入尖峰来从该神经元模型发射输出尖峰；确定从该神经元模型发射输出尖峰与该神 经元模型的参考时间之间的实际时间差；以及基于目标时间差与实际时间差之差、当前延 迟以及输入尖峰的输入尖峰时间来调整与该输入相关联的当前延迟。 本公开的某些方面提供一种用于使用尖峰神经网络来学习的装置。该装置一般包 括处理单元，该处理单元被配置成：根据与至神经元模型的输入相关联的当前延迟来延迟 该神经元模型中的输入尖峰，其中该输入尖峰发生在相对于该神经元模型的参考时间而言 的输入尖峰时间处；至少部分地基于经延迟的输入来从该神经元模型发射输出尖峰；确定 从神经元模型发射输出尖峰与该神经元模型的参考时间之间的实际时间差；以及基于目标 时间差与实际时间差之差、当前延迟以及输入尖峰的输入尖峰时间来调整与该输入相关联 的当前延迟。 本公开的某些方面提供一种用于使用尖峰神经网络来学习的设备。该设备一般包 括：用于根据与至神经元模型的输入相关联的当前延迟来延迟该神经元模型中的输入尖峰 的装置，其中该输入尖峰发生在相对于该神经元模型的参考时间而言的输入尖峰时间处； 用于至少部分地基于经延迟的输入来从该神经元模型发射输出尖峰的装置；用于确定从神 经元模型发射输出尖峰与该神经元模型的参考时间之间的实际时间差的装置；以及用于基 于目标时间差与实际时间差之差、当前延迟以及输入尖峰的输入尖峰时间来调整与该输入 相关联的当前延迟的装置。 本公开的某些方面提供了一种用于使用尖峰神经网络来学习的计算机程序产品。 该计算机程序产品一般包括具有指令的计算机可读介质，这些指令可执行用于：根据与至 神经元模型的输入相关联的当前延迟来延迟该神经元模型中的输入尖峰，其中该输入尖峰 发生在相对于该神经元模型的参考时间而言的输入尖峰时间处；至少部分地基于经延迟的 输入来从该神经元模型发射输出尖峰；确定从神经元模型发射输出尖峰与该神经元模型的 参考时间之间的实际时间差；以及基于目标时间差与实际时间差之差、当前延迟以及输入 尖峰的输入尖峰时间来调整与该输入相关联的当前延迟。 本公开的某些方面提供一种使用尖峰神经网络的学习方法。该方法一般包括：在 一个或多个学习神经元模型中的每一个学习神经元模型处提供一组逻辑输入，其中在该组 逻辑输入上施加有真因果逻辑关系；在每组逻辑输入处接收输入尖峰之间的变化定时；以 及对于这一个或多个学习神经元模型中的每一个学习神经元模型，使用接收到的输入尖峰 来调整与每个逻辑输入相关联的延迟，从而该学习神经元模型根据对应于该真因果逻辑关 系的一个或多个逻辑条件来发射符合目标输出延迟的输出尖峰。 本公开的某些方面提供一种用于使用尖峰神经网络来学习的装置。该装置一般包 括处理单元，该处理单元被本文档来自技高网...

【技术保护点】
一种使用尖峰神经网络来学习的方法，包括：在一个或多个学习神经元模型中的每一个学习神经元模型处提供一组逻辑输入，其中在所述一组逻辑输入上施加有真因果性逻辑关系；在每组逻辑输入处接收输入尖峰之间的变化的定时；以及对于所述一个或多个学习神经元模型中的每一个学习神经元模型，使用所接收到的输入尖峰来调整与所述逻辑输入中的每一个逻辑输入相关联的延迟，从而该学习神经元模型发射符合目标输出延迟的输出尖峰，所述目标输出延迟根据对应于所述真因果性逻辑关系的一个或多个逻辑条件。

【技术特征摘要】
【国外来华专利技术】...

【专利技术属性】
技术研发人员：J·F·亨泽格，V·阿帕林，
申请(专利权)人：高通股份有限公司，
类型：发明
国别省市：美国;US