本書系統(tǒng)地論述信息論與糾錯編碼的基本理論。全書共9章,內(nèi)容包括:信息的定義和度量,離散信源和連續(xù)信源的信息熵,信道和信道容量,平均失真度和信息率失真函數(shù),三個香農(nóng)信息論的基本定理,若干種常見實用的無失真信源壓縮編碼的方法,以及信道糾錯編碼的基本內(nèi)容和分析方法。本書深入淺出、概念清晰、系統(tǒng)性和可讀性強,可作為高等院校相關(guān)專業(yè)的本科生教材或教學參考書,也可供科研院所從事信息科學理論、技術(shù)、方法研究的科研和工程技術(shù)人員參考。
傅祖蕓 女 1956年入北京大學物理系,1960年抽調(diào)北大無線電系任教,1963年畢業(yè)于北京大學無線電電子學系無線電物理專業(yè)。曾任教于中國科學技術(shù)大學,中國科學院研究生院,現(xiàn)任中國科學院大學教授。中國通信學會中國通信理論委員會第二、三、四屆委員。享受國務(wù)院政府特殊津貼。并2008年榮獲中國科學院研究生院杰出貢獻教師表彰。曾為本科生和研究生講授脈沖與數(shù)字電路、信息論、編碼理論、信息論與編碼、信源編碼與數(shù)據(jù)壓縮等多門課程。主要從事信源壓縮編碼及圖像與信息處理應用于生物醫(yī)學領(lǐng)域的研究。發(fā)表論文近20篇。主要著作:《信息論基礎(chǔ)》 、《信息論——基礎(chǔ)理論與應用》 、《信息論與編碼》 、《信息論與編碼學習輔導及習題詳解》 、《信息理論與編碼學習輔導及精選題解》 。翻譯十余本計算機應用軟件的書籍。
第1章緒論
11信息的概念
12信息論研究的對象、目的和內(nèi)容
*13信息論發(fā)展簡史與信息科學
第2章離散信源及其信息測度
21信源的數(shù)學模型及分類
22離散信源的信息熵
221自信息
222信息熵
23信息熵的基本性質(zhì)
24離散無記憶的擴展信源
25離散平穩(wěn)信源
251離散平穩(wěn)信源的數(shù)學定義
252離散二維平穩(wěn)信源及其信息熵
253離散平穩(wěn)信源的極限熵
26馬爾可夫信源
261馬爾可夫信源的定義和馬爾可夫
信源的信息熵
262m階馬爾可夫信源的定義及其
信息熵
27信源冗余度與自然語言的熵
小結(jié)
習題
第3章離散信道及其信道容量
31信道的數(shù)學模型及分類
311信道的分類
312離散信道的數(shù)學模型
313單符號離散信道的數(shù)學模型
32平均互信息及平均條件互信息
321信道疑義度
322平均互信息
323平均條件互信息
33平均互信息的特性
34信道容量及其一般計算方法
341離散無噪信道的信道容量
342對稱離散信道的信道容量
343準對稱信道的信道容量
344一般離散信道的信道容量
35離散無記憶擴展信道及其信道容量
36獨立并聯(lián)信道及其信道容量
37串聯(lián)信道的互信息和數(shù)據(jù)處理定理
38信源與信道的匹配
小結(jié)
習題
第4章波形信源和波形信道
41連續(xù)信源和波形信源的信息測度
411連續(xù)信源的差熵
412連續(xù)平穩(wěn)信源和波形信源的差熵
413兩種特殊連續(xù)信源的差熵
42連續(xù)信源熵的性質(zhì)及最大差熵定理
421差熵的性質(zhì)
422具有最大差熵的連續(xù)信源
43熵功率
44連續(xù)信道和波形信道的信息傳輸率
441連續(xù)信道和波形信道的分類
442連續(xù)信道和波形信道的信息
傳輸率
443連續(xù)信道平均互信息的特性
45高斯加性波形信道的信道容量
451單符號高斯加性信道
452限帶高斯白噪聲加性波形信道
453香農(nóng)公式的重要實際指導意義
小結(jié)
習題
第5章無失真信源編碼定理
51編碼器
52等長碼
*53漸近等分割性和ε典型序列
54等長信源編碼定理
55變長碼
551唯一可譯變長碼與即時碼
552即時碼的樹圖構(gòu)造法
553克拉夫特(Kraft)不等式
554唯一可譯變長碼的判斷法
56變長信源編碼定理
小結(jié)
習題
第6章有噪信道編碼定理
61錯誤概率和譯碼規(guī)則
62錯誤概率與編碼方法
63有噪信道編碼定理
64聯(lián)合信源信道編碼定理
小結(jié)
習題
第7章保真度準則下的信源編碼
71失真度和平均失真度
711失真度
712平均失真度
713保真度準則
72信息率失真函數(shù)及其性質(zhì)
721信息率失真函數(shù)
722信息率失真函數(shù)的性質(zhì)
*73信息率失真函數(shù)的參量表述及其
計算
74二元對稱信源和離散對稱信源的R(D)
函數(shù)
741二元對稱信源的R(D)函數(shù)
742離散對稱信源的R(D)函數(shù)
75連續(xù)信源的信息率失真函數(shù)
751連續(xù)信源的信息率失真函數(shù)
752高斯信源的信息率失真函數(shù)
76保真度準則下的信源編碼定理
77聯(lián)合有失真信源信道編碼定理
78限失真信源編碼定理的實用意義
小結(jié)
習題
第8章無失真的信源編碼
81霍夫曼(Huffman)碼
811二元霍夫曼碼
812r元霍夫曼碼
813霍夫曼碼的最佳性
82費諾(Fano)碼
83香農(nóng)—費諾—埃利斯碼
84游程編碼和MH編碼
841游程編碼
842MH編碼
85算術(shù)編碼
86字典碼
861LZ-77編碼算法
862LZ-78編碼算法
863LZW編碼算法
864LZ復雜度和LZ碼性能分析
小結(jié)
習題
第9章信道的糾錯編碼
91差錯控制的基本形式
92糾錯編碼分類及基本概念
921糾錯編碼分類
922糾錯編碼的基本概念及其糾錯
能力
93線性分組碼
931一致校驗矩陣和生成矩陣
932伴隨式及標準陣列譯碼
933漢明碼
94循環(huán)碼
941循環(huán)碼結(jié)構(gòu)及其多項式描述
942循環(huán)碼的生成多項式和生成
矩陣
943循環(huán)碼的校驗多項式和伴隨式
944循環(huán)碼的編、譯碼器
95卷積碼
951卷積碼的解析表示
952卷積碼的圖解表示
953卷積碼的維特比譯碼
小結(jié)
習題
附錄A凸函數(shù)和詹森不等式
附錄B馬爾可夫鏈
B1馬爾可夫鏈的定義
B2轉(zhuǎn)移概率和轉(zhuǎn)移矩陣
B3各態(tài)歷經(jīng)定理
附錄C熵函數(shù)的函數(shù)表
參考書目及文獻