罗小波1 刘明培1,2(重庆邮电大学计算机学院中韩GIS研究所,重庆,400065;西南大学资源环境学院,重庆,400065)摘要:在网络结构给定的情况下,利用遗传算法的全局寻优能力得到一组权值和阈值作为BP神经网络的初始权值和阈值,来避免BP神经网络易陷入局部极小的缺陷,同时也可以提高网络的收敛速度。然后再利用BP神经网络的局部寻优能力,对权值和阈值进行进一步的精细调整。实验结果表明,把这种基于遗传算法的BP神经网络应用于遥感影像监督分类,具有较高的分类精度。关键词:BP神经网络;遗传算法;遥感影像分类1 引言随着遥感技术的快速发展,遥感技术已经广泛应用于各个领域。其中,遥感影像分类是其重要组成部分。近年来,随着人工神经网络理论的快速发展,神经网络技术日益成为遥感影像分类中的有效手段,特别是对高光谱等影像数据,更是具有许多独特的优势。一般我们把采用BP (Back-propogation)算法的多层感知器叫做BP 神经网络,它是目前研究得最完善、应用最广泛的神经网络之一。与经典的最大似然法相比,BP神经网络最大的优势就是不要求训练样本正态分布。但是,它具有结构难以确定、容易陷入局部极小、不易收敛等缺陷。在本文中,网络的结构由用户根据问题的复杂度确定。在进行网络训练之前,利用遗传算法的全局寻优能力确定网络的初始权值和阈值;然后利用BP学习算法的局部寻优能力对网络进行进一步的精细调整。最后利用训练后的网络进行遥感影像监督分类。结果表明,基于遗传算法的BP神经网络进行遥感影像监督分类,具有较高的分类精度。2 BP 神经网络1 网络结构BP神经网络的结构一般包括输入层、中间隐层、输出层。在模式识别中,输入层的神经元个数等于输入的特征个数,输出层的神经元个数等于需要分类的类别数。隐层可以为一层或多层,但一般的实际应用中一层隐层就可以满足要求。而各隐层的神经元个数需要根据实际问题的复杂度而定。以单隐层为例,其结构示意图如图1。为了实现一种通用的遥感影像分类手段,除了提供默认的网络结构外,还为使用者提供了根据实际问题的复杂度自行确定网络隐层数与各隐层神经元数的功能。这为一些高级用户提供了灵活性,但这种灵活性在一定程度上增加了使用的难度,有时也需要一个实验的过程,才能取得满意的效果。图1 BP 神经网络结构2 BP 学习算法算法的基本步骤如下:(1)将全部权值与节点的阈值预置为一个小的随机数。(2)加载输入与输出。在n个输入节点上加载一n维向量X,并指定每一输出节点的期望值。每次训练可以选取新的同类或者异类样本,直到权值对各类样本达到稳定。(3)计算实际输出y1,y2,…,yn。(4)修正权值。权值修正采用了最小均方(LMS)算法的思想,其过程是从输出节点开始,反向地向第一隐层传播由总误差诱发的权值修正。下一时刻的互连权值Wij (t+1)由下式给出:土地信息技术的创新与土地科学技术发展:2006年中国土地学会学术年会论文集式中,j为本节点的输出;i则是隐层或者输入层节点的序号; 或者是节点i的输出,或者是外部输入;η 为学习率;α为动量率;δj为误差项,其取值有两种情况:A若j为输出节点,则:δj=yj(1 -yj)(tj -yj)其中,tj为输出节点 j 的期望值,yj为该节点的实际输出值;B若j为内部隐含节点,则:土地信息技术的创新与土地科学技术发展:2006年中国土地学会学术年会论文集其中k为j节点所在层之上各层的全部节点。(5)在达到预定的误差精度或者循环次数后退出,否则,转(2)。3 基于遗传算法的网络学习算法遗传算法具有全局寻优、不易陷入局部极小的优点,但局部寻优的能力较差。而BP学习算法却具有局部寻优的优势。因此,如果将两种算法结合起来构成混合训练算法,则可以相互取长补短获得较好的分类效果。主要思路如下:(1)利用遗传算法确定最优个体A把全部权值、阈值作为基因进行实数编码,形成具有M个基因的遗传个体结构,其中M等于所有权值、阈值的个数。B设定种群规模N,随机初始化这N个具有M个基因的结构。C适应度的计算:分别用训练样本集对N组权值、阈值进行训练,得出各自网络期望输出与网络实际输出的总误差e,适应度f=0-e。D进行遗传算子操作,包括选择算子、交叉算子和变异算子,形成新的群体:其中,选择算子采用了轮盘赌的方法,交叉算子采用了两点交叉。E反复进行C、D两步,直到满足停止条件为止。停止条件为:超出最大代数、最优个体精度达到了规定的精度。(2)把经过 GA 优化后的最优个体进行解码操作,形成 BP 神经网络的初始权值和阈值。(3)采用BP学习算法对网络进行训练,直到满足停止条件。停止条件为:①达到最大迭代次数;②总体误差小于规定的最小误差。网络训练结束后,把待分数据输入训练好的神经网络,进行分类,就可以得到分类结果影像图。3 应用实例实现环境为VC+ +0,并基于Mapgis的二次开发平台,因为二次平台提供了一些遥感影像的基本处理函数,如底层的一些读取文件的基本操作。实验中使用的遥感影像大小为500×500,如图1所示。该影像是一美国城市1985年的遥感影像图。根据同地区的SPOT影像及相关资料,把该区地物类别分为8类,各类所对应的代码为:C1为水体、C2为草地、C3为绿化林、C4为裸地、C5为大型建筑物、C6为军事基地、C7为居民地、C8为其他生活设施(包括街道、道路、码头等)。其中,居民地、军事设施、其他生活设施的光谱特征比较接近。图1 TM 原始影像 (5,4,3 合成)在网络训练之前,经过目视解译,并结合一些相关资料,从原始图像上选取了3589个类别已知的样本组成原始样本集。要求原始样本具有典型性、代表性,并能反映实际地物的分布情况。把原始样本集进行预处理,共得到2979个纯净样本。这些预处理后的样本就组成训练样本集。网络训练时的波段选择为TM1、TM2、TM3、TM4、TM5、TM7 共6个波段。另外,由于所要分类的类别数为8,因此,网络结构为:输入层节点数为6,输出层节点数为8,隐层数为1,隐层的节点数为10,然后用训练样本集对网络进行训练。在训练网络的时候,其训练参数分别为:学习率为05,动量率为5,最小均方误差为1,迭代次数为1000。把训练好的网络对整幅遥感影像进行分类,其分类结果如下面图2所示。图2 分类结果为了测试网络的分类精度,在分类完成后,需要进行网络的测试。测试样本的选取仍然采用与选取训练样本集一样的方法在原始影像上进行选取,即结合其他资料,进行目视判读,在原始图像上随机选取类别已知的样本作为测试样本。利用精度评价模块,把测试样本集与已分类图像进行比较,得到分类误差矩阵以及各种分类精度评价标准,如表1 所示:表1 分类误差矩阵总体精度:91,Kappa系数:90。从表1 可以看出,采用测试样本集进行测试,大部分地物的分类精度都达到了 9以上,只有居民地和其他生活设施的精度没有达到,但也分别达到了89 和77,总的分类精度为91。Kappa系数在遥感影像分类精度评价中应用极为广泛,在本次测试中其值为90。从上面的分析可以看出,利用基于遗传算法的BP神经网络进行遥感影像分类,其分类精度较高,取得了令人满意的效果。4 结论与传统的基于统计理论的分类方法相比,BP神经网络分类不要求训练样本正态分布,并且具有复杂的非线性映射能力,更适合于日益激增的海量高光谱遥感数据的处理。但BP神经网络也有易陷于局部极小、不易收敛等缺陷。初始权值和阈值设置不当,是引起网络易陷于局部极小、不易收敛的重要原因。在实验中,利用遗传算法的全局寻优能力来确定BP网络的初始权值和阈值,使得所获取的初始权值和阈值是一组全局近似最优解。然后,利用BP学习算法的局部寻优能力对网络权值和阈值进行精细调整。这样,训练后的稳定网络,不但具有较强的非线性映射能力,而且总可以得到一组均方误差最小的全局最优解。实验表明,利用上述的基于遗传算法的BP神经网络进行遥感影像分类,只要所选取的训练样本具有代表性,能反映实际地物的分布情况,就能够得到较高的分类精度,具有较强的实际应用价值。参考文献HYang et al,A Back-propagation neural networkmfor mineralogical mapping fromAVIRIS data,IJRemote sensing,20 (1):97~110Arduti Alessandro,et Speed up learning and network optimization with extended back Neural Networks,1993,6:365~383Patrick PMinimization methods for training feed forward neural Neural Networks,1994,7:1~12Goldberg D EGenetic algorithms in Search Optimization and Machine LMA:Addison-Wesley,1989Rudolph GConvergence analysis of canonical genetic IEEE Transactions on Neural Networks,1994,5 (1);102~119Fang J,Xi YToward design based on evolutionary ArtificialIE,1997,11 (2):155~161Park Y R,et Prediction sun spots using layered perception neural IEEE T Neural Netorks,1996,7 (2):501~505杨行峻、郑君里人工神经网络与盲信号处理[M]北京:清华出版社,2003,23~40周成虎、骆剑成等遥感影像地学理解与分析[M]北京:科学出版社,2001,228~238王耀男卫星遥感图像的神经网络自动识别[J]湖南大学学报,1998,61~66江东,王建华人工神经网络在遥感中的应用与发展国土与资源遥感,1999,13~18
RPROP神经网络算法原理 1993年德国Martin Riedmiller和Heinrich Braun在他们的论文“The RPROP Algorithm”中提出了这种方法。 RPROP算法的基本原理为:首先为各权重变化赋一个初始值,设定权重变化加速因子与减速因子,在网络前馈迭代中当连续误差梯度符号不变时,采用加速策略,加快训练速度;当连续误差梯度符号变化时,采用减速策略,以期稳定收敛。网络结合当前误差梯度符号与变化步长实现BP,同时,为了避免网络学习发生振荡或下溢,算法要求设定权重变化的上下限。参考文献:
知网上找中文文献,筛选条件设为2012年之后即可。中国知网,是国家知识基础设施(National Knowledge Infrastructure,NKI)的概念,由世界银行于1998年提出。CNKI工程是以实现全社会知识资源传播共享与增值利用为目标的信息化建设项目,由清华大学、清华同方发起,始建于1999年6月。
前言第1章智能控制技术基础第2章 神经网络控制的基本概念第3章 前向神经网络模型及其仿真算法第4章 改进的BP网络训练算法第5章 小脑模型神经网络及其应用第6章 遗传算法及其神经网络第7章模糊神经网络第8章 径向基函数网络第9章 反馈型神经网络第10章 支持向量机第11章 小波神经网络及应用参考文献
第1章 绪论1 神经网络在石油生产中的应用简介2 神经网络的研究与发展历史3 储层预测的研究与进展4 神经网络模式识别概述5 遗传算法研究与发展概述6 模拟退火算法的研究和发展概况7 支持向量机的研究与进展8 本书的主要研究内容及章节安排第2章 人工神经网络1 引言2 神经元模型3 神经网络模型4 感知器5 误差回传神经网络(BP)6 神经网络的优点7 本章小结第3章 改进遗传算法的径向基函数网络方法研究及应用1 引言2 径向基函数网络3 遗传算法4 自适应遗传算法(AGA)基本原理5 基于改进遗传算法的径向基函数网络6 改进的遗传算法径向基函数网络的应用7 本章小结第4章 小波变换及小波神经网络方法研究及应用1 引言2 小波分析3 小波变换模极大检测地震反射界面4 小波神经网络5 小波神经网络的应用一6 本章小结第5章 模糊神经网络方法研究及应用1 引言2 模糊理论3 模糊关系和模糊逻辑推理4 模糊逻辑系统5 模糊系统和神经网络的融合6 模糊神经网络7 用于火山岩储层识别预测的模糊神经网络8 基于模糊神经网络的火山岩储层的识别与预测9 基于模糊神经网络多传感器数据融合的海底输油管道腐蚀检测系统1 0本章小结第6章 改进的模拟退火人工神经网络方法研究及应用1 引言2 模拟退火算法及其特性3 模拟退火算法的渐近收敛性4 模拟退火算法与局部搜索算法比较5 鲍威尔(P0well)算法6 改进的模拟退火人工神经网络7 改进的模拟退火人工神经网络应用8 算法比较9 本章小结第7章 支持向量机方法研究及应用1 引言2 机器学习的基本问题和方法3 统计学习理论的主要内容4 分类支持向量机5 回归支持向量机6 支持向量机的应用7 本章小结第8章 结论参考文献
第1章 绪论1 神经网络在石油生产中的应用简介2 神经网络的研究与发展历史3 储层预测的研究与进展4 神经网络模式识别概述5 遗传算法研究与发展概述6 模拟退火算法的研究和发展概况7 支持向量机的研究与进展8 本书的主要研究内容及章节安排第2章 人工神经网络1 引言2 神经元模型3 神经网络模型4 感知器5 误差回传神经网络(BP)6 神经网络的优点7 本章小结第3章 改进遗传算法的径向基函数网络方法研究及应用1 引言2 径向基函数网络3 遗传算法4 自适应遗传算法(AGA)基本原理5 基于改进遗传算法的径向基函数网络6 改进的遗传算法径向基函数网络的应用7 本章小结第4章 小波变换及小波神经网络方法研究及应用1 引言2 小波分析3 小波变换模极大检测地震反射界面4 小波神经网络5 小波神经网络的应用一6 本章小结第5章 模糊神经网络方法研究及应用1 引言2 模糊理论3 模糊关系和模糊逻辑推理4 模糊逻辑系统5 模糊系统和神经网络的融合6 模糊神经网络7 用于火山岩储层识别预测的模糊神经网络8 基于模糊神经网络的火山岩储层的识别与预测9 基于模糊神经网络多传感器数据融合的海底输油管道腐蚀检测系统1 0本章小结第6章 改进的模拟退火人工神经网络方法研究及应用1 引言2 模拟退火算法及其特性3 模拟退火算法的渐近收敛性4 模拟退火算法与局部搜索算法比较5 鲍威尔(P0well)算法6 改进的模拟退火人工神经网络7 改进的模拟退火人工神经网络应用8 算法比较9 本章小结第7章 支持向量机方法研究及应用1 引言2 机器学习的基本问题和方法3 统计学习理论的主要内容4 分类支持向量机5 回归支持向量机6 支持向量机的应用7 本章小结第8章 结论参考文献
第1章 绪论1 引言2 生物神经元和生物神经网络简介3 人工神经元和人工神经网络人工神经网络的基础知识。为了更好地学习人工神经网络的需要,在不同章节较多而通俗地插入介绍了生物神经系统的结构和功能特点以及人类认知心理学等方面的有用知识。对BP型前向多层网络、Hopfield网络、波尔兹曼机概率型网络、自组织特征映射网络和自适应谐(ART)网络等基本类型的人工神经网络进行了较为详细的和基础性的介绍。思考与讨论参考文献第2章 前向多层网络1 人工神经网络入门:单个神经元分类识别器2 感知机:历史和概念3 前向多层网络误差反向传递算法:BP网络4 BP网络及有教师学习的概念模型5 BP网络应用举例6 径向基函数网络思考与讨论参考文献第3章 Hopfield网络1 引言2 网络模型3 Hopfield网络的联想记忆功能4 Hopfield网络的最优化处理和计算功能思考与讨论参考文献第4章 波尔兹曼机(BM)网络简介1 概述2 波尔兹曼机的基本原理3 波尔兹曼机的实验应用举例4 波尔兹曼机小结思考与讨论参考文献第5章 自组织特征映射网络(SOFM)1 引言2 自组织特征提取的算法及其数学证明3 竞争学习和自稳定学习4 Kohonen网络:具有确定侧反馈的多神经元SOFM网络5 SOFM网络应用举例:Kohonen神经网络语音打字机思考与讨论参考文献第6章 ART网络1 引言2 ART-1网络3 ART-2网络4 ART-3网络简介5 结语思考与讨论参考文献第7章 人工神经网络的软件实践和仿真1 引言2 利用参数和函数进行网络设计和仿真示例3 MATLAB的GUI设计与分析4 人工神经网络的Simulink仿真参考文献
前言第1章智能控制技术基础第2章 神经网络控制的基本概念第3章 前向神经网络模型及其仿真算法第4章 改进的BP网络训练算法第5章 小脑模型神经网络及其应用第6章 遗传算法及其神经网络第7章模糊神经网络第8章 径向基函数网络第9章 反馈型神经网络第10章 支持向量机第11章 小波神经网络及应用参考文献
我和你有同样的需求。
Modeling a SOFC stack based on GA-RBF neural networks identification Abstract In this paper, a nonlinear offline model of the solid oxide fuel cell (SOFC) is built by using a radial basis function (RBF)neural network based on a genetic algorithm (GA) During the process of modeling, the GA aims to optimize the parameters of RBF neural networks and the optimum values are regarded as the initial values of the RBF neural network Furthermore, we utilize the gradient descent learning algorithm to adjust the The validity and accuracy of modeling are tested by Besides, compared with the BP neural network approach, the simulation results show that the GA-RBF approach is superior to the conventional BP neural network in predicting the stack voltage with different So it is feasible to establish the model of SOFC stack by using RBF neural networks identification based on the GA© 2007 Elsevier BV All rights Keywords: Solid oxide fuel cells (SOFCs); Radial basis function (RBF); Neural networks; Genetic algorithms; Identification 译:基于GA-RBF神经网络识别技术建模SOFC堆栈 摘要 本文给出了如何基于基因算法(GA)使用径向基函数(RBF)建立一个固体氧化物燃料电池(SOFC)的非线性离线模型。建模时,GA的目标是优化RBF神经网络参数,而优化值则作为RBF神经网络参数的初始值。而且,我们利用梯度下降学习算法调整这些参数。采用模拟方法来检测建模的正确性和准确度。另外,与BP神经网络方法相比,模拟结果显示,在不同温度下预测堆栈电压时使用GA-RBF方法优于传统的BP神经网络。因此使用基于GA的RBF神经网络识别方法建立SOFC堆栈模型是可行的。 © 2007 Elsevier BV。版权所有。 关键字:固态氧化物燃料电池(SOFC),径向基函数(RBF),神经网络,基因算法,识别
前言第1章智能控制技术基础第2章 神经网络控制的基本概念第3章 前向神经网络模型及其仿真算法第4章 改进的BP网络训练算法第5章 小脑模型神经网络及其应用第6章 遗传算法及其神经网络第7章模糊神经网络第8章 径向基函数网络第9章 反馈型神经网络第10章 支持向量机第11章 小波神经网络及应用参考文献
知网什么的吧
下载中 一次只能上传一个附件啊 可惜了