信息理論與編碼技術是研究現代信息傳輸和信息處理的理論基礎,對現代通信系統和通信網絡的技術發展起到了重要的作用。《信息理論與編碼》以香農信息論為基礎,分兩大部分共8章向讀者系統介紹信息理論、編碼理論及信息處理的基本思想:第一部分主要介紹了香農信息論的基本概念和性質,包括信息量的定義、信息熵、信息率失真函數和信道容量,力求從基本概念上幫助讀者理解和掌握信息理論的基本內容;第二部分以三個基本概念相對應的香農三大編碼定理為基礎,從滿足信息與通信系統中信息處理的有效性、可靠性和安全性三項性能指標為出發點,詳細介紹了失真信源編碼、限失真信源編碼和信道編碼的基本原理與方法。
《信息理論與編碼》內容簡單,結構清晰明了,以通俗語言敘述代替高深繁瑣的數學推導,強調信息理論與編碼方法在知識上的連貫性,特別注重理論知識的實際應用,以滿足工科類本科專業學生的學習要求。
《信息理論與編碼》可作為普通高等院校電氣信息類電子信息工程專業和通信專業的教材或教學參考書。
姚善化,1.作者自2002年起,在安徽理工大學從事教學和科研工作,承擔主講研究生課程:《通信技術》、《自適應信號處理》,主講本科生課程:《信息理論與編碼》、《通信網基礎》、《通信原理》、《交換技術》和《移動通信》等。 2.主持參與國家自然科學基金多項。 3.2011年由清華大學出版社出版《信息理論與編碼》。
第1章 概論
1.1信息的概念及特征
1.2 信息的分類
1.3 信息論的研究目的與意義
第2章 信源與信息熵
2.1 離散信源與信息熵
2.1.1 離散信源的數學模型與統計特征
2.1.2 自信息量和平均自信息量(信息熵)
2.1.3 熵函數的基本性質和最大熵定理
2.1.4 聯合熵與條件熵
2.1.5 互信息
2.2 離散序列信源
2.2.1 離散序列信源的數學模型
2.2.2 離散序列信源的信息熵
2.2.3 馬爾可夫信源
2.2.4 信源相關性與冗余度
2.3 連續信源
2.3.1 連續信源的熵
2.3.2 連續信源的最大熵及熵功率
第3章 信道與信道容量
3.1 信道的分類與數學模型
3.1.1 信道的分類
3.1.2 信道的數學模型
3.1.3 信道容量的定義
3.2 信道容量的代價函數和信道冗余度
3.2.1 信道容量的代價函數
3.2.2 信道冗余度
3.3 離散信道及其容量計算
3.3.1 單符號離散信道的信道容量
3.3.2 多符號離散信道的信道容量
3.4 連續信道及其容量
3.4.1 時間離散信道的信道容量
3.4.2 時間連續信道的信道容量
3.4.3 限頻率、限時、限功率的AWGN信道容量
3.5 多用戶信道
3.5.1 多址接入信道
3.5.2 廣播信道
第4章 信息率失真函數
4.1 失真測度
4.1.1 失真函數與平均失真度
4.1.2 信息率失真函數的定義
4.2 離散信源的信息率失真函數
4.2.1 信息率失真函數的性質
4.2.2 信息率失真函數的計算
4.3 連續信源的信息率失真函數
4.3.1 信息率失真函數的定義與性質
4.3.2 信息率失真函數的計算
4.4 信道容量與信息率失真函數的區別
第5章 香農三大定理
5.1 香農第一定理
5.2 香農第二定理
5.3 香農第三定理
第6章 失真信源編碼
6.1 信源編碼概述
6.1.1 信源編碼的一般模型
6.1.2 信源產生冗余的原因
6.2 失真信源編碼概述
6.2.1 編碼的有關概念
6.2.2 幾種簡單的信源編碼器
6.2.3 幾種常見碼
6.3 等長碼與等長信源編碼定理
6.3.1 失真編碼條件
6.3.2 信源序列漸近均分性
6.3.3 信源序列分組定理
6.3.4 漸近均分特性
6.3.5 等長編碼定理
6.4 不等長編碼
6.4.1 碼樹
6.4.2 異前置碼
6.4.3 克拉夫特-麥克米倫不等式
6.4.4 不等長編碼定理
6.5 最佳不等長編碼(霍夫曼編碼)
6.5.1 二進制霍夫曼編碼
6.5.2 多進制霍夫曼編碼
6.5.3 馬爾可夫信源編碼
6.5.4 常見的幾種編碼方法
第7章 限失真信源編碼
7.1 限失真信源編碼概述
7.2 限失真信源編碼逆定理
7.3 保真度準則下的碼率壓縮標準
7.3.1 語音壓縮編碼標準
7.3.2 圖像壓縮編碼標準
7.4 幾種常用的有損壓縮編碼技術
7.4.1 差分脈沖編碼調制(DPCM)
7.4.2 預測編碼
7.4.3 正交變換編碼
7.4.4 小波變換編碼
第8章 信道編碼
8.1 信道編碼的基本概念
8.1.1 差錯類型和糾檢錯方式
8.1.2 檢錯和糾錯能力的判斷
8.1.3 信道編碼的分類
8.1.4 常用的簡單檢錯糾錯碼
8.2 譯碼錯誤概率
8.2.1 譯碼規則的概念
8.2.2 錯誤概率與譯碼規則
8.2.3 三種譯碼準則
8.2.4 錯誤概率與編碼方法
8.3 線性分組碼
8.3.1 線性分組碼的基本概念
8.3.2 校驗矩陣和生成矩陣
8.3.3 漢明碼
8.3.4 線性分組碼的譯碼
8.4 循環碼
8.4.1 循環碼的定義和多項式描述
8.4.2 碼多項式的運算
8.4.3 循環碼的生成多項式和生成矩陣
8.4.4 循環碼的校驗矩陣
8.4.5 循環碼的編碼和譯碼方法
8.5 卷積碼
8.5.1 卷積碼的概念
8.5.2 卷積碼的編碼
8.5.3 卷積碼的圖形表示
8.5.4 卷積碼的譯碼
參考文獻