一种面向在线学习的新型HTM时间池方法及其系统技术方案

本发明专利技术公开了一种面向在线学习的新型HTM时间池方法及系统，利用空间池算法，获取表达当前输入的少量激活微柱；利用当前输入的位置信息，在激活微柱上生成学习细胞集和活跃细胞集；在学习细胞上对关联相邻输入的树突分支进行调整；利用缩小范围的活跃细胞集对下一次的输入进行预测。本发明专利技术利用当前输入的位置信息，在激活微柱上生成学习细胞集和活跃细胞集方式，能够针对当前序列进行学习，提高HTM学习准确性，并在在学习重复序列过程中，降低循环预测出现的可能性，提高HTM的学习效果；在学习细胞上对关联相邻输入的树突分支修改规则的调整，能够针对在线学习的特点，使得时间池算法通过一次训练，快速形成对序列的学习成果，提高HTM的学习效率。

【技术实现步骤摘要】
一种面向在线学习的新型HTM时间池方法及其系统
本专利技术涉及人工智能领域,尤其涉及一种面向在线学习的新型HTM时间池方法及其系统。
技术介绍
类脑学习是当前人工智能和机器学习领域研究的热点。层级时序记忆HTM(HierarchicalTemporalMemory)是一种通过模拟大脑皮层细胞的组织和机构，模仿人脑对信息的处理机制的机器学习技术。HTM本质上讲是一个基于记忆的系统。HTM网络被大量具有时间性的数据训练而成，存储着大量的模式序列，通过记忆的模式序列预测下一次可能的输入或者利用上一时刻预测检测当前时刻输入是否异常。HTM可以在拥有时序数据的领域中进行预测和异常检测。与现有的人工神经网络不同，HTM以细胞为基本单位，并使用层级方式进行管理；首先将几个细胞组成一个微柱，再由这些微柱构成HTM网络空间。空间池算法和时间池算法是训练HTM时的两个重要步骤，首先使用空间池算法，从所有微柱中选择出部分被激活微柱以对应当前的输入。再使用时间池算法从这些微柱中选择部分激活的细胞表达输入所处位置信息，通过调整这些活跃细胞上相关的树突分支，构建输入与输入之间的关联，进行学习；同时利用活跃细胞和已构建的树突分支，对下一时刻的输入进行预测。当前的时间池算法仅使用简单的Hebbian规则，通过调整树突分支中突触的连接值，建立前后相邻的两个时刻活跃细胞之间的关联，学习序列的特性；并只有在树突分支中连通突触累积到一定阈值后，才能完成序列的学习任务。在用于对运行效率要求不高的任务时，可以通过传统多次迭代方式完成序列的学习；在线客流、交通流、股票等运行效率要求高任务时，多次迭代的方式难以满足其响应时间的要求，在线学习又使得细胞之间关联很难累积到一定的阈值，从而严重影响了HTM的学习效率和效果。此外当序列中存在多个连续的相同输入时，使用现有的时间池算法，很容易陷入相同输入的循环预测，严重影响了HTM的学习效果。因此有必要针对序列在线学习的特点，设计新型的时间池算法，提高HTM在线学习序列的效率与效果。
技术实现思路
本专利技术的目的在于提供一种面向在线学习的新型HTM时间池方法,通过对输入的学习细胞、活跃细胞生成方式以及树突分支修改规则的调整，用以解决HTM(HierarchicalTemporalMemory)在线学习时学习效率低和学习效果差的问题。本专利技术所采用的技术方案如下：一种面向在线学习的新型HTM时间池方法，包括如下步骤：步骤1，利用空间池算法从所有微柱中选择部分微柱进行激活，并将激活微柱对应当前的输入；步骤2，利用输入的位置信息，在被激活微柱上生成学习细胞集和临时活跃细胞集，能够让学习过程针对当前位置的序列进行，提高HTM学习准确性，并在在学习重复序列过程中，有效减少自身关联的细胞数量，降低循环预测出现的可能性，提高HTM的学习效果；步骤3，对学习细胞上关联相邻输入的树突分支进行调整，并针对在线学习的特点，将新增树突分支中的突触值设定为连通值，使得时间池算法通过一次训练，快速形成对序列的记忆和学习，提高HTM的学习效率；步骤4，利用调整过的活跃细胞集对下一次的输入进行预测。进一步，生成学习细胞集的方法为：若被激活微柱上的细胞被上一时刻的输入预测到，则该细胞被设为当前输入的学习细胞，表示为：若被激活微柱上的细胞全都未被上一时刻的输入预测到，则随机选择该微柱上所有细胞中树突分支数量最少的细胞设为学习细胞，表示为：将上述方法选出的学习细胞构成学习细胞集；其中，表示t时刻第j个微柱上第i个细胞被选为学习细胞，；mini(thesegment’snumberofcelli，j)是第j个微柱上包含最少树突分支的细胞编号；进一步，生成临时活跃细胞集的方法为：在空间池算法筛选出的被激活微柱中，使用以下规则生成活跃细胞，若被激活的微柱上有预测细胞，则该细胞被设为活跃细胞，若被激活的微柱上没有预测细胞，则微柱上所有的细胞被设为活跃细胞。将上述方法选出的活跃细胞构成临时活跃细胞集；其中表示t时刻第j个微柱上第i个细胞被置为活跃细胞，i为微柱上细胞的编号，j是微柱的编号，Wt为t时刻输入激活的微柱集合，表示第j个微柱上第i个细胞为t-1时刻的预测细胞；进一步，缩减临时活跃细胞集中活跃细胞的数量，将临时活跃细胞集中非学习细胞置为非活跃状态，用于准确表达输入的当前位置信息，主要操作如下：其中，At代表t时刻输入产生的活跃细胞矩阵，代表t时刻输入对应的学习细胞矩阵；进一步，所述步骤3中调整树突分支的过程为：若当前处理的学习细胞是被上一时刻输入预测到的细胞，则调整该细胞上活跃的树突分支，加强与上一时刻输入之间的关联，该细胞上活跃树突分支选择条件为：若当前处理的学习细胞不是被上一时刻输入预测到的细胞，则在该细胞上新增树突分支，构建与上一时刻输入学习细胞之间的突触，形成与上一时刻输入之间的关联，新增树突分支表示为：其中，为第j个微柱中第i个细胞上所具有的第k个树突分支的连通性矩阵，activeThreshold为树突分支的活跃阈值，是在第j个微柱中第i个细胞上新增的树突分支，CONNECTED_PERMANANCE为树突分支中突触的连通阈值；为t-1时刻输入对应的学习细胞矩阵。进一步，通过调整活跃细胞集进行预测的过程为：遍历HTM网络空间中的所有细胞，若细胞上存在树突分支能够被当前活跃细胞集激活，则该细胞为当前时刻的预测细胞，计算公式如下：一种面向在线学习的新型HTM时间池系统，包括空间池模块和时间池模块，所述空间池模块用于获取激活的微柱集合；所述时间池模块包括生成学习细胞集单元，所述学习细胞集单元的输入端连接空间池模块的输出端，学习细胞集单元的输出端依次连接调整树突分支单元和预测单元。本专利技术的有益效果：1、本专利技术在生成学习细胞时，利用HTM中微柱包含多个细胞所具有的优势，可以对输入的位置信息进行区分，重置输入的活跃细胞集为学习细胞集，预测时用于表达输入的当前位置信息，便于后续学习内容与当前位置的输入建立关联，使得HTM在线学习时，能够针对当前输入序列进行学习，提高学习效率；在学习重复序列过程中，缩减数量的活跃细胞集，也能有效减少自身关联的细胞数量，降低循环预测出现的可能，提高HTM的学习效果。2、本专利技术只对关联相邻输入的树突分支进行调整，并针对在线学习的特点，将新增树突分支中的突触值设定在连通阈值以上，使得算法通过一次训练，便可形成对序列的记忆和学习，提高HTM的学习效率。附图说明图1为面向在线学习的HTM流程图。具体实施方式为了使本专利技术的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本专利技术进行进一步详细说明。应当理解，此处所描述的具体实施例仅用于解释本专利技术，并不用于限定本专利技术。实施例1：如图1所示，一种利用HTM时间池算法的在线学习本文档来自技高网...

【技术保护点】
1.一种面向在线学习的新型HTM时间池方法，其特征在于，包括如下步骤：/n步骤1，利用空间池算法从所有微柱中选择部分微柱进行激活，并将激活微柱对应当前的输入；/n步骤2，利用输入的位置信息，在被激活微柱上生成学习细胞集和临时活跃细胞集，能够让学习过程针对当前位置的序列进行，提高HTM学习准确性，并在在学习重复序列过程中，有效减少自身关联的细胞数量，降低循环预测出现的可能性，提高HTM的学习效果；/n步骤3，对学习细胞上关联相邻输入的树突分支进行调整，并针对在线学习的特点，将新增树突分支中的突触值设定为连通值，使得时间池算法通过一次训练，快速形成对序列的记忆和学习，提高HTM的学习效率；/n步骤4，利用调整过的活跃细胞集对下一次的输入进行预测。/n

【技术特征摘要】
1.一种面向在线学习的新型HTM时间池方法，其特征在于，包括如下步骤：
步骤1，利用空间池算法从所有微柱中选择部分微柱进行激活，并将激活微柱对应当前的输入；
步骤2，利用输入的位置信息，在被激活微柱上生成学习细胞集和临时活跃细胞集，能够让学习过程针对当前位置的序列进行，提高HTM学习准确性，并在在学习重复序列过程中，有效减少自身关联的细胞数量，降低循环预测出现的可能性，提高HTM的学习效果；
步骤3，对学习细胞上关联相邻输入的树突分支进行调整，并针对在线学习的特点，将新增树突分支中的突触值设定为连通值，使得时间池算法通过一次训练，快速形成对序列的记忆和学习，提高HTM的学习效率；
步骤4，利用调整过的活跃细胞集对下一次的输入进行预测。


2.根据权利要求1所述的一种面向在线学习的新型HTM时间池方法，其特征在于，若被激活微柱上的细胞被上一时刻的输入预测到，则该细胞被设为当前输入的学习细胞，表示为：



若被激活微柱上的细胞全都未被上一时刻的输入预测到，则随机选择该微柱上所有细胞中树突分支数量最少的细胞设为学习细胞，表示为：



将上述方法选出的学习细胞构成学习细胞集；其中，表示t时刻第j个微柱上第i个细胞被选为学习细胞，；mini(thesegment’snumberofcelli，j)是第j个微柱上包含最少树突分支的细胞编号，Wt为t时刻输入激活的微柱集合，表示第j个微柱上第i个细胞为t-1时刻的预测细胞。


3.根据权利要求1所述的一种面向在线学习的新型HTM时间池方法，其特征在于，生成临时活跃细胞集的方法为：在空间池算法筛选出的被激活微柱中，若被激活的微柱上有预测细胞，则该细胞被设为活跃细胞，若被激活的微柱上没有预测细胞，则微柱上所有的细胞被设为活跃细胞。



将上述方法选出的活跃细胞构成临时活跃细胞集；其中表示t时刻第j个微柱上第i个细胞被置为活跃细胞，i为微柱上细胞的编号，j是微柱的编号，Wt为t时刻输入激活的微柱...

【专利技术属性】
技术研发人员：李雷，邹婷婷，詹毕晟，蔡涛，牛德姣，梁军，
申请(专利权)人：江苏大学，
类型：发明
国别省市：江苏;32