《信息論與編碼理論(第2版)》主要介紹信息論和編碼理論的基本內容,其特點是簡明扼要,可讀性強,既具有較嚴謹的數學描述與推導,又注意到信息論的實用背景,其中許多典型問題已在通信工程中得到實際應用。
《信息論與編碼理論(第2版)》共分12章。主要內容包括:信息的度量、信源編碼、信道編碼定理、編碼理論中用到的基本抽象代數知識、編碼理論的基本概念和基本問題、線性碼、Hamming碼、循環碼、BCH碼、Reed-Solomon碼、Golay碼、Reed-Muller碼、平方剩余碼、Goppa碼以及信息論和編碼理論的應用。本書每章末均附有習題,其中部分習題是對正文內容的補充。
《信息論與編碼理論(第2版)》可作為高等院校信息科學專業、計算機科學專業、通信專業以及相關專業的本科生教材,也可供相關領域的研究生、教學與科研人員,以及工程技術人員參考。
第1章 引言
1.1 信息論的發展概況
1.1.1 信息論的早期醞釀
1.1.2 Shannon信息論的建立與發展
1.1.3 信息論的近期發展
1.1.4 信息論在信息技術領域中的應用
1.2 信息論與編碼理論的主要內容
1.2.1 信息的度量問題
1.2.2 通信系統的基本模型
1.2.3 通信系統中信息的傳遞過程
1.2.4 通信系統的概率統計模型
1.2.5 通信系統的序列模型
1.3 本書內容簡介與文獻介紹
1.3.1 內容簡介
1.3.2 有關著作和文獻介紹
1.3.3 對有關記號的說明
習題1
第一部分 信息論
第2章 信息量
2.1 熵
2.1.1 離散隨機變量的不肯定性
2.1.2 不肯定性的特征與表示
2.1.3 熵的簡單性質與例子
2.2 聯合熵和條件熵
2.2.1 聯合熵的記號
2.2.2 條件熵的定義與性質
2.3 熵的基本性質
2.3.1 對數函數的基本不等式與熵函數的最大值
2.3.2 熵函數的可加性
2.3.3 Fano不等式
2.4 互熵與互信息
2.4.1 互熵
2.4.2 互信息
2.4.3 條件互信息
2.5 凸函數及其應用
2.5.1 凸函數的定義與它的判別
2.5.2 Jenson不等式與它的應用
2.6 連續型隨機變量的信息量
2.6.1 連續型隨機變量的Shannon熵
2.6.2 多維連續型隨機變量的Shannon熵
2.6.3 其他連續型隨機變量的信息量
2.7 最大熵原理
2.7.1 有限區間情形的最大熵
2.7.2 半開區間情形的最大熵
2.7.3 全直線情形的最大熵
2.7.4 多維連續型隨機變量的最大熵
習題2
第3章 信源編碼
3.1 信源編碼問題
3.1.1 信源編碼
3.1.2 定長編碼與變長編碼
3.1.3 信源變長碼的編碼問題
3.1.4 信源序列的定長編碼問題
3.2 前綴碼和即時碼
3.2.1 唯一可譯變長碼的構造
3.2.2 Kraft不等式
3.3 信源變長碼的編碼定理
3.3.1 最優變長碼平均碼長的下界估計
3.3.2 最優變長碼平均碼長的上界估計
3.3.3 無記憶信源平均碼長的上界和下界估計
3.4 Huffman信源編碼算法
3.4.1 Huffman編碼的實例分析
3.4.2 Huffman編碼的一般算法
3.5 Huffman信源編碼性能分析
3.5.1 Huffman編碼的前綴性
3.5.2 Huffman編碼的最優性
3.6 信源定長碼的編碼定理
習題3
第4章 信道編碼定理
4.1 信道編碼問題
4.1.1 通信系統的編碼誤差
4.1.2 信道序列的編碼問題
4.2 離散無記憶信道
4.2.1 離散無記憶信道的一般定義
4.2.2 幾種特殊的離散無記憶信道
4.3 無記憶信道的信道容量
4.3.1 信道容量的一般定義
4.3.2 無記憶信道序列的容量性質
4.4 信道容量的計算
4.4.1 凸函數的極大值性質
4.4.2 信道容量的計算
4.5 信道的編碼和譯碼問題
4.6 信道的正編碼定理和反編碼定理
4.7 可加高斯(Gaussian)信道
習題4
第二部分 抽象代數
第5章 抽象代數的基本知識
5.1 群
5.2 環和域
5.3 理想和商環
5.4 域上的多項式
5.5 有限域
5.6 域上的線性代數
習題5
第三部分 編碼理論
第6章 編碼理論的基本知識
6.1 碼的基本概念
6.1.1 碼的定義
6.1.2 Hamming距離和Hamming重量
6.1.3 譯碼策略
6.1.4 系統碼
6.2 碼的檢錯和糾錯能力
6.3 編碼理論的基本問題
6.3.1 碼的等價變換
6.3.2 編碼理論的一些界
習題6
第7章 線性碼
7.1 線性碼的定義
7.2 線性碼的對偶碼
7.3 線性碼的譯碼方法
7.4 線性碼的重量分布
習題7
第8章 Hamming碼
8.1 Hamming碼的定義
8.2 Hamming碼的性質
8.3 Hamming碼的譯碼方法
8.4 二元Hamming碼的對偶碼
習題8
第9章 循環碼
9.1 循環碼的定義
9.2 循環碼的性質
9.3 循環碼的校驗矩陣及其對偶碼
9.4 循環碼的編碼方法
9.5 循環碼的檢錯性能
習題9
第10章 BCH碼和Reed-Solomon碼
10.1 BCH碼及其基本性質
10.2 Reed-Solomon碼及其基本性質
10.3 BCH碼和Reed-Solomon碼的譯碼方法
10.4 Reed-Solomon碼和最大距離可分碼的重量分布
習題10
第11章 幾種重要的線性碼
11.1 Golay碼
11.2 Reed-Muller碼
11.2.1 布爾函數
11.2.2 Reed-Muller碼
11.3 平方剩余碼
11.4 Goppa碼
習題11
第四部分 信息論和編碼理論的應用
第12章 若干應用問題
12.1 有失真的數據壓縮
12.1.1 有失真信源編碼問題
12.1.2 有失真信源的率失真函數
12.1.3 有失真信源編碼的可達速率
12.1.4 率失真函數的計算
12.1.5 有失真信源編碼定理
12.1.6 數據壓縮問題概述
12.1.7 數據壓縮問題的實例分析
12.1.8 數據壓縮技術的主要分析指標
12.2 卷積碼理論及其應用
12.2.1 卷積碼的構造
12.2.2 卷積碼的樹結構
12.2.3 卷積碼的譯碼算法
12.2.4 卷積碼的應用
12.3 幾種實用的編碼問題
12.3.1 漢字編碼
12.3.2 計算機代碼
12.3.3 圖形碼
習題12
主要參考文獻
第1章 引言
信息和信息科學是兩個常見的名詞,它們的內容十分廣泛,尤其是在當今的信息社會中,有著十分重要的意義與豐富的含義。哲學家將信息與物質、能量相并列,作為構成世界的三大要素之一。信息已成為推動當今社會文明與發展的主要因素。信息技術的產業和產品在社會生產和生活中的比重越來越大。
在本章中,我們將介紹信息論和編碼理論的基本情況,其中包括信息論和編碼理論的發展過程以及重要的應用領域,同時還將介紹信息度量的基本要求和通信系統的數學模型。通過這些介紹,可使讀者對信息論和編碼理論的全貌有一個基本的了解。
1.1 信息論的發展概況
信息的概念是一個普遍的概念。從細胞分裂到植物、動物的遺傳與進化,從語言文字到動作表情都有信息表達與傳遞。但是信息論的產生和發展與通信、計算機技術的產生和發展密切相關。回顧它的歷史,大體可以分為早期醞釀、理論建立、理論發展、理論應用與近代發展等幾個階段。我們對此做一個簡單的回顧。
……