弹性网络约束自解释稀疏表示分类器的设计方法技术

技术编号:14253713 阅读:71 留言:0更新日期:2016-12-22 16:08
本发明专利技术涉及一种弹性网络约束自解释稀疏表示分类器的设计方法的设计方法,含有以下步骤:读取训练样本,将训练样本进行非线性变换,变换到高维的核空间,在高维核空间对每一类训练样本进行学习,找出该类训练样本中每个个体对于构造该类训练样本子空间所做的贡献(即权重),该类训练样本与权重矩阵的乘积构成词典;通过训练得到的稀疏表达词典获取测试样本在核空间的弹性网络系数编码,最后用每一类的词典及词典所对应的弹性网络稀疏编码拟合测试样本,并计算该拟合误差,拟合误差最小类为测试样本的类别。本发明专利技术综合了岭回归和lasso回归的优点,使样本的稀疏编码特征既具有稀疏性,又具有较小的拟合误差,有效降低了分类误差,提升分类器的识别性能。

【技术实现步骤摘要】

本专利技术隶属于模式识别
,具体地说,涉及一种弹性网络约束自解释稀疏表示分类器的设计方法的设计方法。
技术介绍
分类器设计(Classifier Design)是模式识别领域一个重要的研究分支,特征提取是模式识别系统的重要组成部分,是模式分类识别的前提条件,但是如何对抽取到的特征进行最大限度地分类,则是模式识别的最终目的,是模式识别系统的核心单元。从分类决策的角度来看,有效地分类判别规则是降低错误识别率、提高模式识别精度的主要因素。目前,主要的分类器设计方法有以下几种。1、支持向量机方法(英文:Support Vector Machine)支持向量机方法是Corinna Cortes和Vapnik等于1995年首先提出来的,它旨在通过最大化类别间隔建立最优分类面。该类方法在解决小样本、非线性及高维模式识别中表现出许多特有的优势。然而,该类分类器只有少量的边界点(即支持向量)参与到分类面建立,如果边界点分布的位置不好,那么对于分类是十分不利的。2、基于稀疏表示的分类器设计方法(英文:Sparse Representationbased Classifier)基于稀疏表示的分类器设计方法是由J.Wright等人于2009年提出的,该分类器设计方法首先将测试样本在所有训练集上进行稀疏编码,然后根据产生最小编码误差的类别决定分类结果。该分类器设计方法在多类分类中取得了很大的成功,然而,该分类器设计方法没有训练的过程,直接将每类训练样本构造相应子空间,并没有考虑该分类样本中每个个体对构造子空间的贡献,容易产生较大的拟合误差。3、基于协同表示的分类器设计方法(英文:Collaborative Representationbased Classifier)基于协同表示的分类器设计方法是由zhang等人于2011年提出,该分类器设计方法首先将测试样本在所有训练集上进行协同表示,然后根据产生最小编码误差的类别决定分类结果。该分类器设计方法在某些数据集上性能优于基于稀疏表示的分类器设计方法。同样地,该分类器设计方法没有训练的过程,直接将每类训练样本构造相应子空间,容易产生较大拟合误差,导致分类性能不高。4、基于词典学习的分类器设计方法基于词典学习的分类器设计方法是由Yang等人于2010年提出,该分类器设计方法弥补了传统的基于稀疏表示的分类器设计方法容易产生较大拟合误差导致分类准确率不高的问题,然而,该分类器设计方法只能在欧式空间中进行,很难处理具有非线性结构的数据,使其使用范围大大受限。由上可知,现有的分类器设计方法均存在拟合误差比较大而导致分类精确度不高的问题。
技术实现思路
本专利技术针对现有分类器设计方法设计的分类器存在拟合误差大、精确度不高的上述不足,提供一种弹性网络约束自解释稀疏表示分类器的设计方法。通过本专利技术分类器的设计方法设计的分类器拟合误差小、识别精度高。本专利技术的技术方案是:一种弹性网络约束自解释稀疏表示分类器的设计方法的设计方法,含有以下步骤:步骤一:设计分类器,其步骤为:(一)读取训练样本,训练样本一共C类,定义X=[X1,X2,…,Xc,…,XC]∈RD×N表示训练样本,D是人脸特征维度,N是训练样本总的数目,X1,X2,…,Xc,…,XC分别表示第1,2,…,c,…,C类样本,定义N1,N2,…,Nc,…,NC分别表示每类训练样本数目,则N=N1+N+,…+Nc+…+NC;(二)对训练样本进行二范数归一化,得到归一化的训练样本;(三)依次取出训练样本中的每一类,并对该类样本训练词典,训练词典的过程为:(1)取出第c类样本Xc,将Xc映射到核空间φ(Xc);(2)根据φ(Xc)训练基于稀疏编码算法的词典Bc,Bc表示第c类样本学习到的词典,该词典的训练需要满足约束条件,所述约束条件的目标函数为: f ( S c ) = | | φ ( X c ) - φ ( X c ) W c S c | | F 2 + 2 α Σ n = 1 N c | | S · n c | | 1 + β | | S c | | F 2 | | φ 本文档来自技高网
...
弹性网络约束自解释稀疏表示分类器的设计方法

【技术保护点】
一种弹性网络约束自解释稀疏表示分类器的设计方法的设计方法,其特征在于:含有以下步骤:步骤一:设计分类器,其步骤为:(一)读取训练样本,训练样本一共C类,定义X=[X1,X2,…,Xc,…,XC]∈RD×N表示训练样本,D是人脸特征维度,N是训练样本总的数目,X1,X2,…,Xc,…,XC分别表示第1,2,…,c,…,C类样本,定义N1,N2,…,Nc,…,NC分别表示每类训练样本数目,则N=N1+N+,…+Nc+…+NC;(二)对训练样本进行二范数归一化,得到归一化的训练样本;(三)依次取出训练样本中的每一类,并对该类样本训练词典,训练词典的过程为:(1)取出第c类样本Xc,将Xc映射到核空间φ(Xc);(2)根据φ(Xc)训练基于稀疏编码算法的词典Bc,Bc表示第c类样本学习到的词典,该词典的训练需要满足约束条件,所述约束条件的目标函数为:f(Sc)=||φ(Xc)-φ(Xc)WcSc||F2+2αΣn=1N|S·nc||1+β|βc||F2||φ(Xc)W·kc||22≤1,∀k=1,2,...,K---(1)]]>式中,α为稀疏编码算法中稀疏项约束的惩罚系数,β为稀疏编码算法中协同约束的惩罚系数,Sc为第c类核空间训练样本的稀疏表示矩阵,K为学习得到的词典的大小,是一个权重矩阵,其每一列表示核空间样本对构造词典中每个词条的贡献大小,词典Bc=φ(Xc)Wc;(3)对步骤(2)中约束条件的目标函数进行求解,即对公式(1)求解,其求解过程为:固定Wc,更新Sc;随机产生矩阵Wc,将其带入约束条件的目标函数,这时该目标函数转化成为一个弹性网络正则化最小二乘问题,即目标函数转化为:f(Sc)=||φ(Xc)-φ(Xc)WcSc||F2+2αΣn=1Nc||S·nc||1+β|Sc||F2---(2)]]>上述公式(2)可以简化为:f(Sc)=trace{φ(Xc)Tφ(Xc)-2φ(Xc)Tφ(Xc)WcSc}+trace{ScT(WcTφ(Xc)Tφ(Xc)Wc)Sc}+2αΣn=1Nc||S·nc||1+β||Sc||F2=trace{κ(Xc,Xc)}-2trace{κ(Xc,Xc)WcSc}+trace{ScT(WcTκ(Xc,Xc)Wc)Sc}+2αΣn=1Nc||S·nc||1+β||Sc||F2=trace{κ(Xc,Xc)}-2Σn=1Nc[κ(Xc,Xc)Wc]n·S·nc+Σn=1NS·ncT[WcTκ(Xc,Xc)Wc]S·nc+2αΣk=1KΣn=1Nc|Sknc|+βΣk=1KΣn=1Nc(Sknc)2---(3)]]>进一步把公式(3)分解成一系列子问题求解;针对Sc中的每一个元素进行求解,并剔除掉与求解无关的项,则公式(3)可以简化为:f(Sknc)=-2[κ(Xc,Xc)Wc]nkSknc+(Sknc)2[WcTκ(Xc,Xc)Wc]kk+2Σl=1,l≠kK[WcTκ(Xc,Xc)Wc]lkSknc+2α|Sknc|+β(Sknc)2---(4)]]>根据抛物线理论,很容易求出公式(4)的解;并且由于每个样本点是独立的,每次求解Sc的一行,其求解公式如下:Sk·c=11+βmin{[WcTκ(Xc,Xc)]k·-[ESc‾k]k·,-α}+11+βmax{[WcTκ(Xc,Xc)]k·-[ESc‾k]k·,α}---(5)]]>式中,I表示单位阵;遍历Sc的每一列,完成Sc的一次更新;(4)固定步骤(3)中更新后的Sc,更新Wc,这时约束条件的目标...

【技术特征摘要】
1.一种弹性网络约束自解释稀疏表示分类器的设计方法的设计方法,其特征在于:含有以下步骤:步骤一:设计分类器,其步骤为:(一)读取训练样本,训练样本一共C类,定义X=[X1,X2,…,Xc,…,XC]∈RD×N表示训练样本,D是人脸特征维度,N是训练样本总的数目,X1,X2,…,Xc,…,XC分别表示第1,2,…,c,…,C类样本,定义N1,N2,…,Nc,…,NC分别表示每类训练样本数目,则N=N1+N+,…+Nc+…+NC;(二)对训练样本进行二范数归一化,得到归一化的训练样本;(三)依次取出训练样本中的每一类,并对该类样本训练词典,训练词典的过程为:(1)取出第c类样本Xc,将Xc映射到核空间φ(Xc);(2)根据φ(Xc)训练基于稀疏编码算法的词典Bc,Bc表示第c类样本学习到的词典,该词典的训练需要满足约束条件,所述约束条件的目标函数为: f ( S c ) = | | φ ( X c ) - φ ( X c ) W c S c | | F 2 + 2 α Σ n = 1 N | S · n c | | 1 + β | β c | | F 2 | | φ ( X c ) W · k c | | 2 2 ≤ 1 , ...

【专利技术属性】
技术研发人员:王立刘宝弟韩丽莎王延江
申请(专利权)人:中国石油大学华东
类型:发明
国别省市:山东;37

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1