《高等学校教材:信息论基础》重点介绍由香农理论发展而来的信息论的基本理论以及编码理论,联系实际通信系统,用较多的例题和图示展示基本概念的运用方法,尽量减少繁杂的公式、定理证明;叙述上力求概念清楚、重点突出、深入浅出、通俗易懂;内容上力求科学性、先进性、系统性与实用性相统一。
全书共分8章,内容包括绪论、离散信源及其信息度量、离散信道及其信道容量、无失真信源编码、波形信源和波形信道、限失真信源编码、有噪信道编码和网络信息论初步。
《高等学校教材:信息论基础》既可作为高等学校通信工程、电子信息工程和其他相近专业本科学生教材,也可以作为信息、通信、电子工程相关专业科技人员的参考书。
目录
- 章 绪论
- 1.1 信息的概念
- 1.1.1 信息
- 1.1.2 香农“信息”的定义
- 1.1.3 “信息”的度量
- 1.2 信息论的形成和发展
- 1.3 信息论的研究范畴
- 1.3.1 通信系统模型
- 1.3.2 信息论的研究内容
- 第2章 离散信源及其信息度量
- 2.1 信源的分类及描述
- 2.2 信源的数学模型
- 2.2.1 单符号离散信源
- 2.2.2 简单的连续信源
- 2.2.3 多符号离散信源
- 2.2.4 多维连续平稳信源和波形信源
- 2.3 信息的度量和信源熵
- 2.3.1 自信息、联合自信息与条件自信息
- 2.3.2 互信息和条件互信息
- 2.3.3 信息熵
- 2.4 信源熵的基本性质和定理
- 2.5 离散无记忆扩展信源
- 2.6 离散平稳信源
- 2.6.1 离散平稳信源的数学模型
- 2.6.2 离散平稳信源的信息熵和极限熵
- 2.7 马尔可夫信源
- 2.7.1 马尔可夫信源的定义
- 2.7.2 马尔可夫信源的信息熵
- 2.8 信源的相关性和剩余度
- 习题
- 第3章 离散信道及其信道容量
- 3.1 信道的分类及其描述
- 3.2 单符号离散信道的数学模型
- 3.3 平均互信息及其特性
- 3.3.1 平均互信息的定义
- 3.3.2 损失熵和噪声熵
- 3.3.3 平均互信息的特性
- 3.4 信道容量及其计算方法
- 3.4.1 信道容量的定义
- 3.4.2 无噪信道的信道容量
- 3.4.3 对称离散信道的信道容量
- 3.4.4 准对称离散信道的信道容量
- 3.4.5 一般离散信道的信道容量
- 3.5 多符号离散信道的数学模型
- 3.6 离散无记忆扩展信道的信道容量
- 3.7 组合信道及其信道容量
- 3.7.1 独立并联信道及其信道容量
- 3.7.2 串联信道及其信道容量
- 3.8 信源与信道的匹配
- 习题
- 第4章 无失真信源编码
- 4.1 信源编码器
- 4.2 无失真离散信源编码定理
- 4.2.1 无失真定长信源编码定理
- 4.2.2 无失真变长信源编码定理
- 4.3 霍夫曼码和其他编码方法
- 4.3.1 可译码和即时码
- 4.3.2 香农码
- 4.3.3 霍夫曼码
- 4.3.4 费诺码
- 4.4 算术码
- 4.4.1 香农-费诺-埃利斯码
- 4.4.2 算术码
- 习题
- 第5章 波形信源和波形信道
- 第6章 限失真信源编码
- 第7章 有噪信道编码
- 第8章 网络信息论初步
- 附录 概率论基础知识概要
- 参考文献