信息论基础与应用(附光盘)
分類: 图书,计算机/网络,计算机理论,
作者: 沈世镒,吴忠华 编著
出 版 社: 高等教育出版社
出版时间: 2004-7-1字数: 340000版次: 1页数: 289印刷时间: 2005/01/01开本:印次:纸张: 胶版纸I S B N : 9787040143744包装: 平装内容简介
本书是信息与计算科学专业系列教材中的一本,是为落实新的《信息与计算科学专业教学规范》(讨论稿)而组织编写的一本专业基础课教材。
本书内容由四部分组成。第一部分介绍信息论与信息科学的基本知识,包括信息、信息度量、信息科学与信息技术的基本知识。第二部分介绍香农信息论的基本内容,包括信源、信道编码理论、有失真信源编码定理等内容。第三部分介绍信息的应用,包括代数码与密码学简介、数据压缩与卷积码、信息论在统计与金融领域中的应用,及其他几种实用型的信息编码方法,如汉字编码与条码技术等。第四部分介绍信息处理的几种典型实验,包括无失真与有失真信源编码实验等。
本书的附书光盘中提供了第四部分所需要的数据和部分源程序,同时还收集了有关数据压缩、卷积码、条形码的有关文献和资料以及测试数据。
本书可供高等院校信息科学专业或相关专业的本科生作为教材使用,亦可作为相关领域中的研究生、教学与科研人员和工程技术人员的参考用书。
目录
第一部分信息科学概论
第一章信息科学与信息技术概论
§1.1信息的定义与特征
1.1.1信息的定义
1.1.2信息的特征
1.1.3信息的类型与表达方式
§1.2信息科学、信息技术与信息产业
1.2.1信息科学的研究内容、目的与意义
1.2.2信息技术与信息产业
§1.3信息论的产生、发展与应用
1.3.1信息论的早期酝酿
1.3.2香农(Shannon)信息论的建立与发展
1.3.3信息论与信息科学的发展趋势与展望
§1.4本书的内容简介与符号说明
1.4.1内容简介
1.4.2有关问题的说明
§1.5习题
第二章信息的度量问题
§2.1信息度量问题概述
2.1.1信息的可度量性
2.1.2信息度量的原则
§2.2香农熵——随机变量的不确定性度量
2.2.1随机变量和它的不确定性
2.2.2不确定性的特征表示与香农熵的产生
2.2.3香农熵的简单性质与例子
2.2.4联合熵与条件熵
§2.3熵的基本性质
2.3.1对数函数的基本不等式s熵函数的最大值
2.3.2熵函数的可加性
2.3.3信息论中的重要不等式。
§2.4互熵与互信息
2.4.1互熵的定义与性质
2.4.2互信息的定义与性质
2.4.3条件互信息的定义与性质
§2.5连续型随机变量的信息量
2.5.1关于连续型随机变量信息量的推广问题
2.5.2连续型随机变量的熵与互信息
2.5.3若干连续型随机变量熵的计算公式
2.5.4其他连续型随机变量的信息量
§2.6最大熵原理
2.6.1最大熵原理的一般方法
2.6.2最大熵分布的求解问题
§2.7习题
第二部分 信息论基础
第三章通信系统概论
§3.1通信系统的基本模型与要素
3.1.1通信系统的基本要素
3.1.2通信系统中信息的传递过程
3.1.3通信系统的概率统计模型
§3.2单字母表通信系统的概率统计模型
3.2.1信源与信道的概率统计模型
3.2.2通信系统的数学模型
3.2.3由通信系统决定的随机变量
§3.3通信系统的序列模型与编码问题
3.3.1通信系统的序列模型
3.3.2通信系统序列中的编码问题
3.3.3关于编码理论的基本要点
§3.4习题
第四章信源编码问题
第五章信道编码定理
第六章有失真的信源编码定理
第三部分信息论应用
第七章编码与密码
第八章数据压缩与卷积码
第九章信息论在统计与金融领域中的应用
第十章几种实用的编码问题
第四部分信息处理实验
第十一章无失真与有失真信源编码实验
第十二章其他编码问题
参考文献