解析信息论与编码2025|PDF|Epub|mobi|kindle电子书版本百度云盘下载

解析信息论与编码PDF格式电子书版下载

注意：本站所有压缩包均有解压码： 点击下载压缩包解压工具

第1章 信息概念与信息熵1

1.1 信息概念的引入与自信息1

1.1.1 从通信有效性的角度提出狭义信息的概念2

1.1.2 自信息4

1.2 单符号离散信源的信息熵8

1.3 信息熵的性质11

习题19

第2章 单符号离散信道和平均交互信息量20

2.1 单符号离散信道的数学模型20

2.2 信息的流动及其与通信可靠性的关系21

2.3 平均交互信息量23

2.4 平均交互信息量的性质29

2.5 单符号离散信道的信道容量32

2.5.1 信道容量的定义32

2.5.2 离散无噪信道的信道容量33

2.5.3 对称信道的信道容量36

2.5.4 用计算机辅助计算信道容量37

习题41

第3章 多符号离散信源和信道42

3.1 多符号离散信源的消息符号42

3.2 多符号离散无记忆信源43

3.3 多符号离散平稳有记忆信源45

3.4 离散平稳有记忆信源的数学模型及其极限熵47

3.4.1 离散平稳有记忆信源的数学模型47

3.4.2 多符号离散平稳有记忆信源的熵48

3.5 马尔可夫链与马尔可夫信源55

3.5.1 马尔可夫链55

3.5.2 相关长度有限的多符号离散平稳信源与马尔可夫链57

3.6 多符号离散信道60

3.6.1 离散无记忆信道的扩展信道62

3.6.2 独立并列信道的信道容量67

习题69

第4章 连续信源和连续信道70

4.1 单变量连续信源70

4.1.1 单变量连续信源的数学模型及其离散化70

4.1.2 单变量连续信源的相对熵及其特性71

4.1.3 相对熵的最大熵值74

4.2 单变量连续信道76

4.2.1 单变量连续信道的数学模型及其平均交互信息量76

4.2.2 单变量连续信道的信道容量和高斯加性信道78

4.3 多变量连续信源与信道83

4.3.1 多变量连续信源83

4.3.2 多变量连续信道87

4.3.3 多变量高斯白噪声加性连续信道90

习题96

第5章 无失真信源编码98

5.1 对信源编码的要求及单义可译码98

5.1.1 信源编码的过程及对无失真信源编码的要求98

5.1.2 单义可译码100

5.2 即时码及用树图构码的方法101

5.3 单义可译定理104

5.3.1 必要性的证明105

5.3.2 充分性证明109

5.4 无失真信源编码的有效性和香农第一定理110

5.4.1 平均码长及其与信息熵的关系110

5.4.2 单符号离散无记忆信源的平均码长界限定理113

5.4.3 多符号离散信源编码的极限平均码长116

5.5 香农第一定理和数据压缩119

5.5.1 香农第一定理119

5.5.2 无失真信源编码定理与数据压缩122

5.6 霍夫曼编码125

5.7 算术编码131

习题134

第6章 有噪信道的编码译码136

6.1 信道译码136

6.1.1 信道译码与译码规则136

6.1.2 平均错译概率137

6.1.3 最大后验概率译码准则138

6.2 信道编码141

6.3 信道分组编码的检纠错能力和码字间最小汉明距离的关系150

6.4 信息流理论与香农第二定理152

6.4.1 信道等效信息流模型153

6.4.2 等效信息流分析与香农第二定理158

习题160

第7章 信息率失真函数162

7.1 信源失真编码与信道的关系163

7.2 失真函数和平均失真度164

7.3 信息率失真函数的定义及其性质168

7.3.1 信息率失真函数R（D）的定义168

7.3.2 R（D）函数的定义域及其性质171

7.4 信息率失真函数的其他应用173

习题176

第8章 信道检纠错编码178

8.1 分组码概念178

8.2 线性分组码的编码180

8.3 线性分组码的译码185

8.4 汉明码191

8.5 循环码194

8.5.1 循环码及其多项式表示195

8.5.2 系统循环码的编码和译码199

8.6 卷积码202

8.6.1 卷积码编码器的一般结构203

8.6.2 卷积码的编码过程及解析表示204

8.6.3 卷积码编码过程的图示法210

8.6.4 卷积码的维特比译码212

习题216

附录A 凸函数和詹森不等式217

A.1 凸域217

A.2 凸函数218

A.3 詹森不等式218

附录B 信道编码的代数知识221

B.1 域的概念221

B.2 线性空间和矩阵223

参考文献227