神经网络在应用科学和工程中的应用:从基本原理到复杂的模式识别(国际电气工程先进技术译丛)(Neural Networks for Applied Sciences and Engineering-From Fundamentals to Complex Pattern Recognition)

基本信息·出版社：机械工业出版社

·页码：444 页

·出版日期：2010年01月

·ISBN：9787111275855

·条形码：9787111275855

·版本：第1版

·装帧：平装

·开本：16

·正文语种：中文

·丛书名：国际电气工程先进技术译丛

·外文书名：Neural Networks for Applied Sciences and Engineering-From Fundamentals to Complex Pattern Recognition

产品信息有问题吗？请帮我们更新产品信息。

内容简介《神经网络在应用科学和工程中的应用:从基本原理到复杂的模式识别》是研究神经网络对科学数据进行模式识别的一种探索，主要介绍了神经网络的基本概念，并以图示的形式用大量的实例和个案研究结合计算机仿真对神经网络用于模式识别的各种方法进行阐述与对比。《神经网络在应用科学和工程中的应用:从基本原理到复杂的模式识别》所涉及的学科领域包括生物学、经济学、应用科学、工程、计算和商业等，研究了神经网络在线性和非线性预报、分类、聚类和预测方面的应用，并对模型开发的所有阶段和结果进行了阐述，包括数据预处理、数据维数约简、输人选择、模型开发和验证、模型不确定性评估以及对输入、误差和模型参数的灵敏度分析。《神经网络在应用科学和工程中的应用:从基本原理到复杂的模式识别》内容清晰明了，并结合了大量实例使得全书更加容易理解。

《神经网络在应用科学和工程中的应用:从基本原理到复杂的模式识别》适合作为高等院校相关专业的大学生、研究生的教材及有关研究人员的参考用书。

编辑推荐《神经网络在应用科学与工程中的应用:从基本原理到复杂的模式识别》为读者提供了神经网络方面简单但却系统的介绍。

《神经网络在应用科学和工程中的应用从基本原理到复杂的模式识别》以神经网络在科学数据分析中所扮演角色的介绍性讨论作为开始，给出了神经网络的基本概念。《神经网络在应用科学和工程中的应用从基本原理到复杂的模式识别》首先对用于实际数据分析的神经网络结构进行了综合概述，继而对线性网络进行了大量的介绍，并介绍了所有处理阶段的用于非线性预报和分类的多层感知器。此外，还通过实际例子和个案研究阐述了模型开发技术。后面章节又提出了用于非线性数据聚类的自组织映射、用于线性或非线性时间序列预测的递归网络和适用于科学数据分析的其他类型的网络。

《神经网络在应用科学和工程中的应用从基本原理到复杂的模式识别》通过使用广泛的图示和多学科的内容以一种更容易理解的形式，填补了市场上神经网络用于多维科学数据的空白，并将神经网络与统计学联系了起来。

国际视野，科技前沿。

国际电气工程先进技术译丛，传播国际最新技术成果，搭建电气工程技术平台。

《神经网络在应用科学和工程中的应用从基本原理到复杂的模式识别》特点：

◆在多学科领域解释了神经网络；

◆为了易于理解，使用了大量图例来解释复杂数据概念；

◆深入研究了神经网络在线性和非线性预报、分类，聚类和预测方面的应用；

◆阐述了模型开发的所有阶段和结果的解释，包括数据预处理，数据维数约简，输入选择，模型开发和验证，模型不确定性评估以及对输入、误差和模型参数的灵敏度分析。

目录

译者序

前言

致谢

作者简介

第1章 从数据到模型：理解生物学、生态学和自然系统的复杂性和挑战

1.1 概述

1.2 本书安排

参考文献

第2章 神经网络基础和线性数据分析模型

2.1 概述

2.2 神经网络及其能力

2.3 生物学的启示

2.4 神经元信息处理的建模

2.5 神经元模型和学习策略

2.5.1 作为一个简单分类器的阈值神经元

2.5.2 神经元和神经集合的学习模型

2.5.2.1 Hebbian学习

2.5.2.2 无监督学习或竞争学习

2.5.2.3 有监督学习

2.5.3 作为分类器的有监督学习的感知器

2.5.3.1 感知器学习算法

2.5.3.2 基于大量现实数据集的感知器实例：根据测定的成长年轮直径辨识鱼的起源

2.5.3.3 统计学中带有线性判别函数分析的感知器比较

2.5.3.4 多种类分类中的多输出感知器

2.5.3.5 使用感知器的高维分类

2.5.3.6 感知器小结

2.5.4 用于线性分类和预报的线性神经元

2.5.4.1 利用delta规则的学习

2.5.4.2 作为分类器的线性神经元

2.5.4.3 作为预报能力子集的线性神经元的分类属性

2.5.4.4 实例：作为预报器的线性神经元

2.5.4.5 线性预报的实例：预报一个家庭的热流

2.5.4.6 线性神经元模型与线性回归的比较

2.5.4.7 实例：多输入线性神经元模型——提高一个家庭的热流预报精确度

2.5.4.8 一个多输入线性神经元与多重线性回归的比较

2.5.4.9 多线性神经元模型

2.5.4.10 多重线性神经网络与正则相关性分析的比较

2.5.4.11 线性神经元和线性网络小结

2.6 小结

习题

参考文献

第3章 用于非线性模式识别的神经网络

3.1 概述

3.2 非线性神经元

3.2.1 神经元激励函数

3.2.1.1 S形函数

3.2.1.2 高斯函数

3.2.2 实例：利用非线性神经元对人口增长建模

3.2.3 非线性神经元与非线性回归分析的比较

3.3 单输入多层非线性网络

3.3.1 用单一非线性隐含层神经元处理

3.3.2 实例：用多非线性神经元建立循环现象模型

3.3.2.1 实例1：逼近一个方波

3.3.2.2 实例2：为物种的季节性迁移建立模型

3.4 两输入的多层感知器网络

3.4.1 用非线性神经元处理二维输入

3.4.2 网络输出

3.4.3 实例：二维预报和分类

3.4.3.1 实例1：二维非线性函数逼近

3.4.3.2 实例2：二维非线性分类模型

3.5 用非线性多层感知器网络为多维数据建模

3.6 小结

习题

参考文献

第4章 神经网络对非线性模式的学习

4.1 概述

4.2 非线性模式识别中网络的监督训练

4.3 梯度下降法和误差最小化

4.4 BP学习

4.4.1 实例：BP训练——手工计算

4.4.1.1 关于输出神经元权值的误差梯度

4.4.1.2 关于隐含神经元权值的误差梯度

4.4.1.3 梯度下降法在BP学习中的应用

4.4.1.4 批量学习：

4.4.1.5 学习率和权值更新

4.4.1.6 遍历(在线)学习

4.4.1.7 动量法

4.4.2 实例：BP学习的计算实验

4.4.3 具有多隐含神经元的单输入单输出网络

4.4.4 多输入、多隐含神经元和单输出网络

4.4.5 多输入、多隐含神经元多输出网络

4.4.6 实例：BP学习个案学习——解决一个复杂的分类问题

4.5 delta-bar-delta学习方法

4.5.1 实例：用delta-bar-delta的网络训练一手工计算

4.5.2 实例：带有动量的delta-bar-delta方法——手工计算

4.5.3 delta-bar-delta的网络训练——计算机实验

4.5.4 delta-bar-delta方法和BP方法的比较

4.5.5 实例：用delta-bar-delta方法的网络训练——一个案例研究

4.6 最速下降法

4.6.1 实例：用最速下降法的网络训练——手工计算

4.6.2 实例：用最速下降法的网络训练——计算机实验

4.7 误差最小和权值最优的二阶方法

4.7.1 QuickProp

4.7.1.1 实例：QuiekProp的网络训练——手工计算

4.7.1.2 实例：QuickProp的网络训练——计算机实验

4.7.1.3 QuiekProp与最速下降法、delta-bar-delta和BP方法的比较

4.7.2 误差最小的二阶方法的基本概念

4.7.3 高斯.牛顿方法

4.7.3.1 采用高斯-牛顿方法的网络训练——手工计算

4.7.3.2 实例：采用高斯-牛顿方法的网络训练——计算机实验

4.7.4 LM方法

4.7.4.1 实例：用LM方法的网络训练——手工计算

4.7.4.2 用LM方法的网络训练——计算机实验

4.7.5 一阶和二阶方法在使误差最小效果上的比较

4.7.6 一阶和二阶学习方法收敛性的比较

4.7.6.1 BP方法

4.7.6.2 最速下降法

4.7.6.3 高斯-牛顿方法

4.7.6.4 LM方法

4.8 小结

习题

参考文献

第5章 从数据中抽取可靠模式的神经网络模型的实现

5.1 概述

5.2 偏差-方差折中

5.3 改善神经网络的泛化

5.3.1 及早停止法的说明

5.3.1.1 任意初始权值的影响

5.3.1.2 训练好网络的权值结构

5.3.1.3 随机采样的影响

5.3.1.4 模型复杂性的影响：隐含神经元的数目

5.3.1.5 及早停止法小结

5.3.2 正规化法

5.4 通过修剪减小网络结构的复杂性

5.4.1 最优脑部损伤(OBD)

5.4.2 基于网络灵敏度方差的网络修剪

5.4.2.1 修剪权值的方差无效性应用的阐述

5.4.2.2 基于灵敏度的方差无效性修剪隐含神经元

5.5 网络对权值扰动的鲁棒性

5.6 小结

习题

参考文献

第6章 数据探测、维数约简和特征提取

6.1 概述

6.1.1 实例：关于相关输入数据的木头的热导率

6.2 数据可视化

6.2.1 散点图和柱状图的相关性

6.2.2 并行可视化

6.2.3 多维数据到二维平面的映射

6.3 变量间的相关性与协方差

6.4 数据的规范化

6.4.1 标准化

6.4.2 简单值域调整

6.4.3 白化——多维相关数据的规范化

6.5 选择相关输入

6.5.1 用于变量选择的统计手段

6.5.1.1 偏相关

6..5.1.2 多元回归与最优子集回归

……

第7章 使用贝叶斯统计的神经网络模型的不确定性评估

第8章 应用自组织映射的方法发现数据中的未知聚类

第9章 神经网络在时间序列预测中的应用

附录

……[看更多目录]

序言本书是通过神经网络对科学数据进行模式识别的一种探索。本书最大的一个亮点是通篇贯穿了对神经网络概念的大量可视化描述。初衷是既要从更广阔的背景去满足研究人员和学生的需要，又要将神经网络融入多学科的科学背景。过去的七年里，我一直在新西兰的林肯大学从事包括生物学、经济学、应用科学、工程、计算和商业等不同背景的神经网络研究生教学工作。我通过把神经网络和其内部细节变得明晰的思路展开介绍，从而使学生们在学习上树立信心。这种可视化的描述对于理解困难的数学概念而言是一种很有价值的工具，所以本书也是这些研究成果以及本人对于神经网络的探究兴趣的反映。

在应用背景上，我想提供一种合理的理论背景。我的经验证明，使用神经网络软件与实践应用相结合的学习方法会得到很好的效果。另外，在本书中通过实际辅导环节作为理论的补充也是很成功的。

本书的读者对象是具有一些数学和基础计算背景的从事应用领域研究方面的高年级学生和研究生。书中不仅以简单表达与可视化辅助相结合，将一个网络拆分成为可能，用以理解数学概念及相关推导，而且介绍被许多人认为是“黑箱”的神经网络内部运作的重要性。

第1章开始以神经网络在科学数据分析中扮演的角色进行了介绍性的讨论，并提出了本书的具体安排。许多科学家都对用传统的统计学方法去判定神经网络的优越性感兴趣，所以’书中对与神经网络相关的统计学方法给出了详细的论述。第2章阐述了两种方法在线性数据分析方面的等效性，然后开始建立基本神经网络概念的坚实基础，逐渐地进行更深入的理解。

第3章到第5章论述了使用多层神经网络分析的非线性数据，以及多层神经网络对非线性模式的识别。多层神经网络是一种带有非线性处理能力的神经元层的网络。本书提出了这些网络的广义收敛性。如果与鲁棒性和反复实验需要的相关局限性进行处理，则它们在系统建模方面的潜力和有效性就会被提高。这几章对基于统计学方法的神经网络在非线性建模方面的优势进行了阐述，并对网络的非线性处理、网络训练和网络结构的优化进行了详细的论述。为了使其容易理解，这几章提供了具体的实例和个案研究。

文摘插图：

从数据中抽取模式的模型的实现需要将更多的注意力放在模型开发的多个方面，如检验泛化能力，减小模型复杂性，检验模型鲁棒性（也就是模型参数的稳定性）和选择相关输入。本章将集中对泛化，结构优化和多层神经网络的鲁棒性进行介绍。第6章主要介绍处理输入选择。第7章详细介绍模型参数、输出以及网络对权值和输入敏感性的不确定性评估。

首先，开发一个模型并校正，确定它的适当性。然后用新数据检验模型去确定它的泛化能力。一个训练数据集用来对模型进行验证（也就是通过评估和微调进行校正）。泛化意味着一个被确定的模型如何在未知数据上更好地实现其功能和在独立的检验数据集上被检验。验证的目的就是去确定一个模型的泛化能力。

一个不能充分拟合数据的模型具有有限的表示，会引起拟合不足（偏差）；一个能充分拟合数据的模型也会导致过拟合（方差）。这些事件叫做偏差.方差的困境，这两种情况都会增加泛化误差。因此，要寻找这两种极限之间的折衷以减小泛化误差。在5.2节描述了偏差和方差的折衷。在5.3节提出了两种提高泛化能力的方法：及早停止法和正规化法。在5.3节也介绍了隐含神经元的数目，任意初始权值和随机采样的影响，并描述了在这些情况下权值的非唯一性。并且为了使权值的非唯一性能清楚地显示，不管初始任意权值、随机采样和隐含神经元的数目，提出了这些情况下的隐含神经元活化作用的详细解释，以阐明网络面向解决方案的一致方法。

结构复杂性是模型开发的一个关键方面，意味着理想模型有最佳的模型参量数目（也就是权值）。因为结构复杂性趋向具有大量自由参数使网络成为更强大的非线性处理器，因此复杂性对于神经网络结构尤为重要。描述这个问题的一种方法是从网络里删除不相关权值和神经元。5.4节详细介绍了修剪多层网络的一些方法。模型开发的另一个重要的方面就是确保模型参数是稳定和连续的，5.5节描述了训练好网络的权值的鲁棒性问题。