当前位置: 首页 > 专利查询>浙江大学专利>正文

神经网络建模方法及系统技术方案

技术编号:3933687 阅读:339 留言:0更新日期:2012-04-11 18:40
本发明专利技术公开了一种神经网络建模方法及系统,其中的方法包括:数据预处理的步骤:采集实际过程的历史数据,并筛选出样本数据;神经网络初始化的步骤:初始化神经网络模型参数;输出计算的步骤:根据所述模型以及样本输入计算神经网络模型的输出;增益计算的步骤:根据所述模型参数以及样本数据计算模型输出相对于输入的增益;模型训练的步骤:根据模型输出与样本数据之间的误差以及模型的输入输出增益指导神经网络模型进行参数的迭代学习,直到得到满足精度要求以及增益约束的模型。本发明专利技术可明确表征神经网络模型的输入输出增益关系,并可进一步通过增益约束使建立的模型更加符合实际情况。

【技术实现步骤摘要】

本专利技术涉及智能控制
,尤其涉及一种神经网络建模方法及系统
技术介绍
随着现代流程工业生产向复杂化、大型化发展,简单的基于反馈的常规控制方法 已不能满足现代企业的生产要求,基于过程模型对系统进行各种高级控制算法的设计逐渐 成为通用有效的方法。其中,获取被控对象精确的数学模型已成为当前控制系统设计以及 先进控制项目实施的首要任务。 系统建模主要有两类方法,一类是机理建模,即根据过程本身的内在机理来建立系统的模型,然而大多数实际的工业生产过程机理非常复杂,干扰因素很多,通过理论分析建立系统的机理模型往往非常困难;另一类是系统辨识方法,也就是根据待辨识过程的输入、输出数据建立数学模型。随着控制过程复杂性的增加以及对控制精度要求的不断提高,近年来,一系列的非线性辨识方法相继出现,如人工神经网络、模糊理论、小波分析、支持向量机等建模方法,在一定程度上有效地降低了非线性过程建模的难度。 人工神经网络(Artificial Neural Network)是在人类对自身大脑神经网络认识理解的基础上人工构造的能够实现某种功能的模型,不需要建模者对建模对象的内在机理有精确了解,通过输入、输出数据训练神经网络的参数(包含连接权值和偏置系数),就能使神经网络模型准确地反映实际的过程,它具有以下一些优点 ①通过非线性映射,学习系统的特性具有近似地表示任意非线性函数及其逆的能 力; ②人工神经网络是由许多相同的简单处理单元采用并行分布处理结构组合而成, 具有强大的信息处理能力。 ③网络自身具有很强的容错性和联想功能。 然而,传统的神经网络模型仍然存在一些明显的缺陷,采用记忆的方式进行学习 和预测,当学习数据不充分的时候,模型就无法正常工作。另外,神经网络是一种黑箱方法, 即无法以明确的方式表达它所包含的知识(输入输出关系,即模型增益),以及向使用者 解释怎样导出它的运算结果,难以帮助使用者提高认识能力和验证模型的正确性以及合理 性。例如,在实际的生产中,操作人员关心的往往是输入对输出的影响关系,然而,传统的神 经网络模型缺少反映这种输入输出关系的指标,并且在模型的训练中只考虑模型的输出误 差,没有考虑到正确的模型输入输出关系(即增益)对指导实际生产的重要性,这样虽然可 以得到精度比较高的模型,然而在利用所建立的模型对实际的生产过程进行控制时,往往 会由于不正确的输入输出关系导致不可预知的结果。所以,研究神经网络的知识获取与行 为解释方式,获取输入输出关系(即增益)与实际生产经验相符合的神经网络模型,对提高 神经网络预测模型的可靠性,推广神经网络在实际工业生产中的应用具有重要意义。 学习算法的效率和有效性极大地影响神经网络模型预测的精确性和正确性。 D. E. Rumelhart等在1986年提出的多层神经网络权值修正算法——误差反向传播法4(Error Back-Propagation)因其简单、易行、计算量小、并行性强等优点,成为目前神经网 络训练采用最多也是最为成熟的训练算法。然而,BP算法存在着训练时间长、收敛速度 慢、易陷入局部最小点等缺陷。Hush已经严格证明了一个多层神经网络的参数学习是一类 NP-hard问题, 一系列的研究表明,在神经网络的训练过程中,存在着相变和临界点,在临界 点处,优化问题的计算复杂性会大大增加,优化过程会变得非常困难。 综上所述,对于目前的工业生产中存在非线性系统建模困难的问题,设计一种与 实际生产经验符合的能够合理反映系统输入输出关系(即增益)的非线性神经网络模型以 及稳定高效的神经网络学习方法,具有非常重要的意义。
技术实现思路
有鉴于此,本专利技术提供一种神经网络建模方法及系统,可明确表征输入输出关系,并可进一步通过极值优化算法进行增益约束使建模更加符合实际情况。 为此,本专利技术实施例采用如下技术方案 —种神经网络建模方法,其特征在于,包括数据预处理的步骤采集实际生产过 程的历史数据,并筛选出样本数据;神经网络初始化的步骤初始化神经网络模型参数;输 出计算的步骤根据所述模型以及样本输入计算神经网络模型的输出;增益计算的步骤 根据所述模型参数以及样本数据计算模型输出相对于输入的增益。 优选地,上述方法还包括模型训练的步骤根据模型输出与样本数据之间的误 差以及模型的输入输出增益通过极值优化算法指导神经网络模型进行参数的迭代学习,直 到得到满足精度要求以及增益约束的模型。 其中,所述通过极值优化算法指导神经网络模型进行参数的迭代学习包括S1 : 系统初始化,随机产生神经网络的连接权值和偏置系数,将初始化的第一代染色体置为当 前最优解;S2 :对染色体进行标准极值优化算法变异操作,确定变异之后的新解;S3 :计算 模型的输出,根据所述模型以及样本输入计算神经网络模型的输出;S4 :计算增益惩罚值, 对每个样本数据,判断其增益是否在预置的增益区间内若是,增益惩罚值为0 ;否则,根据 违背增益的严重程度确定增益惩罚值的大小;S5 :根据模型误差与增益惩罚值,计算出所 述新解的全局适应度函数值;S6 :判断所述新解的全局适应度函数值是否优于所述当前最 优解若是,将所述新解的全局适应度函数值更新为最优解;否则,保持当前最优解不变; S7 :判断模型是否符合精度和增益约束要求若是,终止;否则,重复上述步骤S2-S7直到满 足误差要求。 其中,所述增益惩罚值为预置的固定数值或者为根据增益违背情况设置的线性或 非线性函数。其中,所述极值优化算法是基于实数编码实现的。 其中,基于实数编码实现的极值优化算法包括在对模型的参数进行优化时,通过 预置的对应关系将神经网络的参数矩阵编码成为极值优化算法中所用的由实数串表示的 染色体格式;在计算模型误差以及增益惩罚值时,将极值优化算法中使用的实数串表示的 染色体解码后组装成为神经网络中的参数矩阵。 其中,根据训练样本通过分步求导的方式计算出所述增益。 —种神经网络模型系统,包括数据预处理模块,用于采集实际过程的历史数据,并筛选出样本数据;神经网络初始化模块,用于初始化神经网络模型参数;输出计算模块, 用于根据所述模型以及样本输入计算神经网络模型的输出;增益计算模块,根据所述模型 参数以及样本数据计算模型输出相对于输入的增益。 上述系统还包括模型训练模块,根据模型输出与样本数据之间的误差以及模型的输入输出增益通过极值优化算法指导神经网络模型进行参数的迭代学习。 其中,所述增益计算模块,用于判断每个样本数据的增益是否在预置的增益区间内若是,增益惩罚值为0 ;否则,根据违背增益的严重程度确定增益惩罚值的大小;所述模型训练模块,根据所述增益计算模块提供的增益惩罚值以及获取到的模型误差,对所述模型的参数进行优化。 其中,所述模型训练模块是基于实数编码实现的。所述增益计算模块通过分步求 导的方式计算出所述增益。 对于上述技术方案的技术效果分析如下 (1)采用在训练样本上计算的输出到输入的增益作为训练过程中的约束,确保得到的神经网络模型能够符合原理和实际的操作经验,增强了模型的可靠性。(2)采用极值优化算法对神经网络的参数进行优化,可以有效的克服传统BP训练算法陷入局部最小值的缺陷,增强了模型的学习能力和泛化能力。 (3)采用实数编码的极值优化算法,避免了常用的二进本文档来自技高网
...

【技术保护点】
一种神经网络建模方法,其特征在于,包括:数据预处理的步骤:采集实际生产过程的历史数据,并筛选出样本数据;神经网络初始化的步骤:初始化神经网络模型参数;输出计算的步骤:根据所述模型以及样本输入计算神经网络模型的输出;增益计算的步骤:根据所述模型参数以及样本数据计算模型输出相对于输入的增益。

【技术特征摘要】

【专利技术属性】
技术研发人员:陈鹏吕勇哉潘再生褚健
申请(专利权)人:浙江大学浙江中控研究院有限公司中控科技集团有限公司
类型:发明
国别省市:86[中国|杭州]

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1