基于改进乌鸦搜索算法的极限学习机分类算法制造技术

本发明专利技术涉及极限学习机分类算法技术领域，具体涉及基于改进乌鸦搜索算法的极限学习机分类算法；包括以下步骤：搭建ELM网络模型，采用ICSA算法，对ELM模型随机生成的输入权重和阈值进行优化通过引入AP值动态递变函数去平衡全局和局部搜索性能，引入莱维飞行搜索方法避免盲目搜索，引入多个体变因子加权学习方法保证种群多样性，引入邻代维度交叉方法增强最优个体藏食位置质量，避免获得局部最优值，从而实现准确预测结果。本发明专利技术弥补随机生成输入权重和阈值带来的一系列缺陷，提高ELM模型分类精度，并在对ELM模型参数进行优化时，基于传统CSA算法，通过引入AP值动态递变函数去平衡全局和局部搜索性能，引入莱维飞行搜索方法避免盲目搜索。免盲目搜索。免盲目搜索。

【技术实现步骤摘要】
基于改进乌鸦搜索算法的极限学习机分类算法


[0001]本专利技术涉及极限学习机分类算法
，具体涉及基于改进乌鸦搜索算法的极限学习机分类算法。

技术介绍

[0002]极限学习机(ELM)具有与单隐层前馈神经网络一样的网络结构，在处理多分类问题上有着固定优势。与支持向量机(SVM)处理多分类问题需要多个分类器投票实现不同，ELM实现多分类只需要采用一个网络就能实现。ELM运算速度快、计算复杂度低，因为它不像SVM一样求解复杂二次优化，不像BP神经网络通过迭代求解，只需设置隐含层节点数就能获得良好的性能，同时采用的神经网络框架可以很容易处理多分类问题。
[0003]ELM随机生成输入层和隐含层之间的输入权重和隐含层神经元阈值，通过求解Moore
‑
Penrose广义逆运算就可以得到输出权重，但是随机生成输入权重和阈值的方法将会导致部分隐含层神经元的作用很小，从训练样本中提取的信息不足以概括和反映数据的内在规律从而出现欠拟合问题，为了解决欠拟合问题需要采用更多的隐含层神经元个数，在降低响应速度的同时增加了计算复杂度和内存消耗，因此需要对ELM输入权重和阈值两个参数进行优化改进。

技术实现思路

[0004]针对ELM输入权重和阈值随机生成导致算法泛化性能低下的问题，提出一种基于改进乌鸦搜索算法(ICSA)的极限学习机分类算法。在CSA算法局限性的基础上，引入AP值动态递变函数去平衡全局和局部搜索性能，引入莱维飞行搜索方法避免盲目搜索，引入多个体变因子加权学习方法保证种群多样性，引入邻代维度交叉方法增强最优个体藏食位置质量，利用ICSA算法优化ELM输入权重和阈值，从而获得准确的预测结果，降低ELM算法误差，提高算法泛化性能。
[0005]为解决上述技术问题，在本专利技术中，首先搭建ELM网络模型，采用ICSA参数优化算法，对随机生成的输入权重和阈值进行优化，快速搜索最佳输入权重以及阈值，减少训练神经网络所需的评估次数。同时把得到的最佳输入权重和阈值作为ELM网络模型参数，降低ELM分类预测误差。
[0006]为实现上述目的，本专利技术提供了如下技术方案：
[0007]基于改进乌鸦搜索算法的极限学习机分类算法，包括：
[0008]搭建ELM网络模型，采用ICSA算法，对ELM模型随机生成的输入权重和阈值进行优化通过引入AP值动态递变函数去平衡全局和局部搜索性能，引入莱维飞行搜索方法避免盲目搜索，引入多个体变因子加权学习方法保证种群多样性，引入邻代维度交叉方法增强最优个体藏食位置质量，避免获得局部最优值，从而实现准确预测结果。
[0009]本专利技术进一步设置为：对于ELM模型随机生成的输入权重和阈值，采用ICSA寻优算法，自适应获取最优输入权重和阈值，其具体步骤如下所示：
[0010]Step1：设置最大迭代次数iter
max
，随机初始化N个初始解(乌鸦位置)，计算初始乌鸦种群最佳位置和适应度，iter＝1；
[0011]Step2：根据递变规则动态更新感知概率AP，实现局部和全局搜索性能之间的平衡，更新公式如下：
[0012][0013]Step3：采用莱维飞行搜索策略避免寻优方向盲目性，采用多个体变因子加权学习策略确保子代乌鸦可以同时向多个个体学习，改善种群多样性，相应数学表达为：
[0014][0015]x
i，iter+1
＝x
i，iter
+r
i
(1，d)
×
(λ
iter
m
j，iter
+(1
‑
λ
iter
)b
iter
‑
x
i，iter
)，r
j
≥AP
j，iter
(3)
[0016][0017]其中α为步长缩放因子，控制随机搜索范围，r
α
为区间(0,1)区间内的随机数，γ、σ服从标准正态分布，Γ(x)＝(x
‑
1)！，s为取值范围在[1,2]之间的常数，x
i，iter+1
为乌鸦i在第iter+1次迭代下的个体最优藏食位置，r
i
(1，d)是区间(0,1)之间的d维随机变量，λ
iter
为第iter次迭代时的加权学习因子，b
iter
为第iter
‑
1代种群的最佳藏食位置。
[0018]Step4：采用邻代维度交叉策略，估计并排序解之间的维度差，并进行交叉操作，交叉后更新位置；该更新策略的数学表达为：
[0019][0020][0021]其中是乌鸦i在维度k第iter+1次迭代时交叉h次后所在位置，是乌鸦j和乌鸦i经过交叉后所在位置，k是相邻子代最优解维度差异序列中排序h大的维度角标(是维度差异)，h是执行交叉操作次数，是最大交叉次数，R
cross
是维度交叉比例，表示乌鸦j和乌鸦i在第iter次迭代下经过交叉后所在位置的适应度值，f(x
i，iter
)表示乌鸦i在第iter次迭代下所在位置的适应度值。当高于f(x
i，iter
)时，乌鸦i的位置则更新为否则保持不变。
[0022]Step5：判断是否满足最佳位置更新条件，满足则更新位置，否则不作任何变化。判断是否达到最大迭代次数，没有则返回Step2，迭代次数加一。
[0023]本专利技术进一步设置为：通过ICSA寻优算法获得最佳输入权重和阈值，将其作为ELM网络参数进行分类测试。具体步骤如下所示：
[0024]Step1：构建ELM模型，定义ICSA算法和ELM模型相关参数；随机初始化N个初始解(乌鸦的位置)，生成的初始解维数为L
×
(n+1)，第一个维数为L
×
n，表示输入权重，剩下的L维表示隐含层阈值。
[0025]Step2：利用步骤1得到的解在训练数据集上训练ELM模型，计算每个解的适应度值
和最佳位置，根据递变规则构造AP值动态递变函数，迭代更新ICSA参数。
[0026]Step3：种群中所有乌鸦个体随机选择不同乌鸦跟随，采用莱维飞行搜索方法和多个体变因子加权学习方法，在跟随乌鸦的同时利用感知到的父代最优藏食位置生成自身藏食位置，并计算当前种群适应度值，检查新位置可行性，获得当前迭代最优解。
[0027]Step4：采用邻代维度交叉方法计算并排序解之间的维度差异，保留历代最优维度，获得最优个体位置。
[0028]Step5：判断算法是否达到最大迭代次数，如果满足，将获得的个体最优藏食位置作为ELM模型的输入权重和阈值去训练ELM模型；否则，返回Step3继续运行算法。
[0029]有益效果
[0030]采用本专利技术提供的技术方案，与已知的公有技术相比，具有如下有益效果：
[0031]本专利技术采用ICSA寻优算法对ELM本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.基于改进乌鸦搜索算法的极限学习机分类算法，其特征在于，包括以下步骤：搭建ELM网络模型，采用ICSA算法，对ELM模型随机生成的输入权重和阈值进行优化通过引入AP值动态递变函数去平衡全局和局部搜索性能，引入莱维飞行搜索方法避免盲目搜索，引入多个体变因子加权学习方法保证种群多样性，引入邻代维度交叉方法增强最优个体藏食位置质量，避免获得局部最优值，从而实现准确预测结果。2.根据权利要求1所述的基于改进乌鸦搜索算法的极限学习机分类算法，其特征在于，对于ELM模型随机生成的输入权重和阈值，采用ICSA寻优算法，自适应获取最优输入权重和阈值，其具体步骤如下所示：Step1：设置最大迭代次数iter
max
，随机初始化N个初始解(乌鸦位置)，计算初始乌鸦种群最佳位置和适应度，iter＝1；Step2：根据递变规则动态更新感知概率AP，实现局部和全局搜索性能之间的平衡，更新公式如下：Step3：采用莱维飞行搜索策略避免寻优方向盲目性，采用多个体变因子加权学习策略确保子代乌鸦可以同时向多个个体学习，改善种群多样性，相应数学表达为：x
i，iter+1
＝x
i，iter
+r
i
(1，d)
×
(λ
iter
m
j，iter
+(1
‑
λ
iter
)b
iter
‑
x
i，iter
)，r
j
≥AP
j，iter
(3)其中α为步长缩放因子，控制随机搜索范围，r
α
为区间(0,1)区间内的随机数，γ、σ服从标准正态分布，Γ(x)＝(x
‑
1)！，s为取值范围在[1,2]之间的常数，x
i，iter+1
为乌鸦i在第iter+1次迭代下的个体最优藏食位置，r
i
(1，d)是区间(0,1)之间的d维随机变量，λ
iter
为第iter次迭代时的加权学习因子，b
iter

【专利技术属性】
技术研发人员：刘半藤，霍闪闪，王柯，陈友荣，
申请(专利权)人：浙江树人学院浙江树人大学，
类型：发明
国别省市：