一种极限学习机的元学习方法技术

本发明专利技术公开了一种极限学习机的元学习方法，包括以下步骤：步骤(1)、产生若干原始训练集；步骤(2)、在每一原始训练集上训练出若干Base-ELM；步骤(3)、将若干Base-ELM作为Meta-ELM的隐结点激活函数，训练Meta-ELM，包括计算隐藏层矩阵H；计算输出层权重β，最终得到预测函数f(x)＝<β,h(x)>。本发明专利技术有效并且高效的管理语义大数据的混合分布式存储方案，从而促进了大规模数据存储管理的进步与发展。与现有技术相比，本发明专利技术减少了原始ELM算法的随机性对ELM的学习性能受到影响。

【技术实现步骤摘要】

本专利技术所属的
为机器学习
，特别是设及一种极限学习机的学习 方法。
技术介绍
极限学习机巧LM)是在神经网络理论基础上发展起来的一类重要的学习方法，在 数据挖掘、人脸识别、模式识别等领域已有广泛应用。ELM本质上一个单隐层前馈型神经网 络（Single hidden-Layer 化6壯orward Networks, SLFNs)，与传统 SLFNs 不同的是，ELM 单 隐层对应的输入权重（Wei曲t)与偏置炬ias)是通过随机赋值产生，形成一个参数固定的 线性系统，然后通过最小二乘方法求解该线性系统。化ang等人通过理论及大量的实验验证 了 ELM是一种高效并且有效的学习算法。但是输入权重和偏置的随机赋值给该学习算法带 来了一定的随机性，影响了 ELM的泛化性能。 在统计上，多个学习器的均值比单个学习器具有更小的方差，学习效果更加稳定。 因此组合模型会比最好的单个模型有更好的方法性能。该促进了使用若干ELM的综合结果 来提升单个ELM学习性能方法的研究。本专利技术基于基ELM不同的学习方式与不同的元学习 方式给出了一种新的ELM的元学习方法。本专利技术依赖的关键技术分别介绍如下。 一、极限学习机巧LM)[000引给定训练数据集S = {(Xi，yi)，i = 1，…，N}，XiG Rd为输入向量，yiG R为与输 入对应的输出，N为训练样本数，R为实数域，d为输入数据的维度。 L个隐结点的SLFNs的数学模型为；【主权项】1. ，其特征在于，该方法包括w下步骤： 步骤（1)、产生若干原始训练集； 步骤（2)、在每一原始训练集上训练出若干Base-ELM ; 步骤（3)、将若干Base-ELM作为Meta-ELM的隐结点激活函数，训练Meta-ELM，包括计 算隐藏层矩阵H;计算输出层权重0，最终得到预测函数f(x) =<e，h(x)〉。2. 如权利要求1所述的，其特征在于，所述步骤（1)中的 原始训练集，由包括原始训练数据法、有放回的原始训练数据采样法、原始训练数据分割法 或原始训练数据子采样法四种方法之一来产生。3. 如权利要求1所述的，其特征在于，所述步骤（3)中的 输出层权重0，采用W下两种方式之一获得： 取平均法或按照ELM算法训练的方式学习出输出权重。【专利摘要】本专利技术公开了，包括以下步骤：步骤(1)、产生若干原始训练集；步骤(2)、在每一原始训练集上训练出若干Base-ELM；步骤(3)、将若干Base-ELM作为Meta-ELM的隐结点激活函数，训练Meta-ELM，包括计算隐藏层矩阵H；计算输出层权重β，最终得到预测函数f(x)＝<β,h(x)>。本专利技术有效并且高效的管理语义大数据的混合分布式存储方案，从而促进了大规模数据存储管理的进步与发展。与现有技术相比，本专利技术减少了原始ELM算法的随机性对ELM的学习性能受到影响。【IPC分类】G06N3-08, G06K9-66【公开号】CN104537391【申请号】CN201410814269【专利技术人】廖士中, 冯昌 【申请人】天津大学【公开日】2015年4月22日【申请日】2014年12月23日本文档来自技高网...

【技术保护点】
一种极限学习机的元学习方法，其特征在于，该方法包括以下步骤：步骤(1)、产生若干原始训练集；步骤(2)、在每一原始训练集上训练出若干Base‑ELM；步骤(3)、将若干Base‑ELM作为Meta‑ELM的隐结点激活函数，训练Meta‑ELM，包括计算隐藏层矩阵H；计算输出层权重β，最终得到预测函数f(x)＝<β,h(x)>。

【技术特征摘要】

【专利技术属性】
技术研发人员：廖士中，冯昌，
申请(专利权)人：天津大学，
类型：发明
国别省市：天津;12