本書共10章,包括信息概念及信息度量、信源熵和信道容量、信源編碼定理、信道編碼定理、率失真編碼定理、線性分組碼、循環(huán)碼和卷積碼等基本內容,同時也介紹了Turbo碼、LDPC碼、數字噴泉碼及多用戶信息論等擴展內容。
第1章 緒論
1.1 通信系統(tǒng)與信息
1.1.1 通信系統(tǒng)的基本模型
1.1.2 信息的概念
1.2 信息論的研究范疇
1.2.1 狹義信息論
1.2.2 -般信息論
1.2.3 廣義信息論
1.3 信息論與信息科學
1.3.1 信息論的發(fā)展歷史
1.3.2 信息科學
第2章 離散信源熵與交互信息量
2.1 離散信源的熵
2.1.1 信息的度量
2.1.2 單符號離散無記憶信源的熵
2.1.3 熵函數的性質
2.1.4 離散信源的最大熵
2.1.5 聯合熵與條件熵
2.2 離散信道的平均交互信息量
2.2.1 離散信道的數學模型
2.2.2 交互信息量
2.2.3 平均交互信息量
2.3 平均交互信息量的特性
2.3.1 凸函數和Jensen不等式
2.3.2 平均交互信息量的簡單性質
2.3.3 平均交互信息量的凸函數性
2.4 離散隨機序列信源
2.4.1 Ⅳ維擴展信源的熵
2.4.2 馬爾柯夫信源
習題
第3章 信道容量與高斯信道
3.1 離散信道的信道容量
3.1.1 熵速率與信道容量
3.1.2 幾種簡單信道的信道容量計算
3.1.3 信道容量的一般計算方法
3.1.4 對稱信道和準對稱信道的信道容量
3.2 串聯信道的交互信息量
3.3 連續(xù)信源的熵
3.3.1 連續(xù)信源熵的定義
3.3.2 幾種連續(xù)信源的熵
3.4 連續(xù)信源的最大熵
3.4.1 連續(xù)信源的最大熵
3.4.2 連續(xù)信源的熵功率
3.4.3 連續(xù)信源熵的變換
3.5 連續(xù)有噪聲信道的信道容量
3.5.1 連續(xù)有噪聲信道
3.5.2 連續(xù)信道的平均交互信息量
3.5.3 連續(xù)信道的信道容量
3.6 Fano不等式
習題
第4章 信源編碼與率失真函數
4.1 離散信源編碼
4.1.1 編碼器
4.1.2 單義可譯碼
4.1.3 平均碼字長度
4.2 無失真信源編碼定理
4.2.1 編碼效率
4.2.2 無失真信源編碼定理
4.3 Huffman編碼
4.3.1 Shannon-Fano算法
4.3.2 Shannon-Fano算法的最佳條件
4.3.3 Huffman算法
4.4 率失真函數
4.4.1 失真度與平均失真度
4.4.2 率失真函數的定義
……
第5章 信道編碼原理
第6章 代數編碼基礎
第7章 線性分組碼
第8章 卷積碼
第9章 信道編碼的其他方法
第10章 多用戶信息論
參考文獻