《信息理論與編碼基礎(chǔ)》較為系統(tǒng)地論述信息理論和編碼的基礎(chǔ)知識(shí),內(nèi)容包括緒論、信息的度量、離散信源及其信源編碼、離散信道及其信道編碼、連續(xù)消息和連續(xù)信道、限失真信源編碼、差錯(cuò)控制的基本概念、線性分組碼、卷積碼、信道編碼新進(jìn)展簡(jiǎn)介(包括Turbo碼、空時(shí)分組碼、低密度奇偶校驗(yàn)碼、網(wǎng)絡(luò)編碼與協(xié)作)等。每章后面都附有思考題和習(xí)題。全書針對(duì)本科教學(xué)的特點(diǎn),力求深入淺出,把嚴(yán)密的數(shù)學(xué)語(yǔ)言、合理的物理解釋和豐富的應(yīng)用實(shí)例相結(jié)合,將經(jīng)典理論介紹和最新研究成果相結(jié)合,便于學(xué)生自學(xué)。
《信息理論與編碼基礎(chǔ)》為普通高等教育“十一五”國(guó)家級(jí)規(guī)劃教材,可作為高等院校通信類、電子信息類、計(jì)算機(jī)科學(xué)與工程類、自動(dòng)控制類等專業(yè)本科生教材,也可作為相關(guān)學(xué)科碩士研究生的教學(xué)參考書以及有關(guān)技術(shù)、科研和管理人員的參考書。
《信息理論與編碼基礎(chǔ)》是“普通高等教育電子通信類特色專業(yè)系列規(guī)劃教材”之一,全書共分10個(gè)章節(jié),主要對(duì)信息理論與編碼基礎(chǔ)知識(shí)作了介紹,具體內(nèi)容包括信息的度量、離散信源及其信源編碼、離散信道及其信道編碼、限失真信源編碼、差錯(cuò)控制的基本概念等。該書可供各大專院校作為教材使用,也可供從事相關(guān)工作的人員作為參考用書使用。
前言
常用符號(hào)
第1章 緒論
1.1 通信系統(tǒng)的基本單元
1.2 信息科學(xué)的有關(guān)概念
1.2.1 信息的特征
1.2.2 信息理論要解決的基本問(wèn)題
1.2.3 信息論的創(chuàng)始人
1.2.4 信息科學(xué)的定義及迅速發(fā)展的背景一
1.2.5 信息理論的研究?jī)?nèi)容
1.3 香農(nóng)信息論梗概
思考題
第2章 信息的度量
2.1 度量信息的基本思路
2.1.1 單符號(hào)離散信源
2.1.2 自信息量
2.2 信源熵和條件熵
2.2.1 信源熵
2.2.2 條件自信息量
2.2.3 條件熵
2.3 互信息量和平均互信息量
2.3.1 互信息量
2.3.2 互信息量的性質(zhì)
2.3.3 條件互信息量
2.3.4 平均互信息量
2.3.5 平均互信息量的性質(zhì)
2.3.6 平均互信息量的物理意義
2.4 多維隨機(jī)變量的熵
2.4.1 熵的鏈接準(zhǔn)則
2.4.2 信息鏈接準(zhǔn)則
2.4.3 熵的界
2.4.4 數(shù)據(jù)處理不等式
本章小結(jié)
思考題
習(xí)題
第3章 離散信源及其信源編碼
3.1 信源分類
3.1.1 信源分類方法
3.1.2 自然語(yǔ)信源
3.1.3 馬爾可夫信源
3.2 離散信源的熵
3.2.1 發(fā)出單符號(hào)消息離散無(wú)記憶信源的熵
3.2.2 發(fā)出符號(hào)序列消息離散無(wú)記憶信源的熵
3.2.3 發(fā)出符號(hào)序列消息的離散有記憶信源的熵
3.2.4 發(fā)出符號(hào)序列消息的馬爾可夫信源的熵
3.2.5 各種離散信源的時(shí)間熵
3.3 信源的冗余度
3.3.1 最大信源熵
3.3.2 信源的冗余度
3.4 信源編碼及其描述
3.4.1 信源編碼模型
3.4.2 編碼效率
3.5 單義可譯定理
3.5.1 單義可譯碼
3.5.2 即時(shí)碼的構(gòu)造
3.5.3 單義可譯定理
3.5.4 平均碼長(zhǎng)界定定理
3.6 香農(nóng)第一定理
3.6.1 元失真信源編碼
3.6.2 等長(zhǎng)碼的信源編碼
3.7 信源編碼實(shí)例
3.7.1 費(fèi)諾編碼方法
3.7.2 霍夫曼編碼方法
3.7.3 Lempel-Ziv編碼
本章小結(jié)
思考題
習(xí)題
第4章 離散信道及其信道編碼
4.1 信道的分類
4.2 離散信道的傳輸特性
4.2.1 無(wú)擾離散信道的傳輸特性
4.2.2 有擾離散信道的傳輸特性
4.2.3 幾種特殊的有擾離散信道
4.2.4 消息在有擾離散信道上的信息傳輸速率
4.2.5 有擾離散信道的信道容量
4.3 譯碼準(zhǔn)則
4.3.1 常用的譯碼準(zhǔn)則
4.3.2 關(guān)于譯碼準(zhǔn)則的討論
4.4 香農(nóng)第二定理
4.4.1 信道編碼與平均錯(cuò)誤譯碼概率
4.4.2 漢明距離與編碼原則
4.4.3 有擾離散信道的信道編碼定理
本章小結(jié)
思考題
習(xí)題
第5章 連續(xù)消息和連續(xù)信道
5.1 連續(xù)消息的信息度量
5.1.1 基本思路
5.1.2 幾種連續(xù)信源的相對(duì)熵
5.1.3 條件熵
5.1.4 平均互信息量
5.1.5 連續(xù)消息熵的性質(zhì)
5.1.6 最大相對(duì)熵定理
5.1.7 熵功率和熵功率不等式
5.2 連續(xù)消息在信道上的傳輸問(wèn)題
5.3 香農(nóng)信道容量公式
5.3.1 高斯信道的信道容量
5.3.2 帶限信道的信道容量
5.3.3 香農(nóng)公式的含義
本章小結(jié)
思考題
習(xí)題
第6章 限失真信源編碼
6.1 失真函數(shù)和平均失真度
6.1.1 失真函數(shù)
6.1.2 平均失真度
6.2 信息率失真函數(shù)
6.2.1 保真度準(zhǔn)則
6.2.2 失真許可的試驗(yàn)信道
6.2.3 信息率失真函數(shù)及其性質(zhì)
6.2.4 幾種典型信源的信息率失真函數(shù)
6.3 保真度準(zhǔn)則下的信源編碼定理
本章小結(jié)
思考題
習(xí)題
第7章 差錯(cuò)控制的基本概念
7.1 差錯(cuò)控制系統(tǒng)的分類
7.1.1 自動(dòng)請(qǐng)求重傳系統(tǒng)
7.1.2 前向糾錯(cuò)系統(tǒng)
7.1.3 信息重復(fù)查詢系統(tǒng)和混合糾錯(cuò)系統(tǒng)一
7.2 糾錯(cuò)編碼的分類及其性能評(píng)價(jià)
7.2.1 糾錯(cuò)編碼的分類
7.2.2 糾錯(cuò)碼的基本概念
7.2.3 糾錯(cuò)編碼方法的性能評(píng)價(jià)
本章小結(jié)
思考題
習(xí)題
第8章 線性分組碼
8.1 有關(guān)概念
8.1.1 線性分組碼的定義及其性質(zhì)
8.2 線性分組碼的編碼和譯碼
8.2.1 線性分組碼的編碼
8.2.2 線性分組碼譯碼
8.2.3 線性分組碼舉例
8.3 循環(huán)碼的描述
8.3.1 循環(huán)碼的定義
8.3.2 循環(huán)碼的性質(zhì)
8.3.3 生成矩陣和一致校驗(yàn)矩陣
8.4 循環(huán)碼的編碼和譯碼
8.4.1 循環(huán)碼的編碼
8.4.2 循環(huán)碼的譯碼
8.4.3 循環(huán)碼的檢錯(cuò)能力
8.4.4 循環(huán)碼的縮短與擴(kuò)展
8.5 二元BCH碼
8.5.1 BCH碼的描述
8.5.2 BCH碼的編碼和譯碼
8.6 多元BCH碼和R-S碼
8.7 糾突發(fā)錯(cuò)誤碼
8.7.1 糾突發(fā)錯(cuò)誤碼的定義及基本性質(zhì)
8.7.2 交織碼
本章小結(jié)
思考題
習(xí)題
第9章 卷積碼
9.1 卷積碼的編碼及其描述
9.1.1 卷積碼的編碼
9.1.2 卷積碼的描述
9.2 卷積碼的最大似然譯碼
9.2.1 Viterbi譯碼
9.2.2 序列譯碼
9.3 卷積碼的性能評(píng)估
9.3.1 譯碼的錯(cuò)誤擴(kuò)展及惡性卷積碼
9.3.2 卷積碼的自由距離
本章小結(jié)
思考題
習(xí)題
第10章 信道編碼新進(jìn)展簡(jiǎn)介
10.1 Turbo碼
10.1.1 Turbo碼的編碼及其性能
10.1.2 Turbo碼的譯碼簡(jiǎn)介
10.2 空時(shí)分組碼
10.2.1 正交空時(shí)分組碼
10.2.2 正交空時(shí)分組碼的譯碼
10.2.3 準(zhǔn)正交空時(shí)分組碼
10.2.4 準(zhǔn)正交空時(shí)分組碼的譯碼
10.3 低密度奇偶校驗(yàn)碼
10.3.1 低密度奇偶校驗(yàn)碼的定義
10.3.2 低密度奇偶校驗(yàn)碼的譯碼
10.4 網(wǎng)絡(luò)編碼與協(xié)作
10.4.1 網(wǎng)絡(luò)編碼
10.4.2 網(wǎng)絡(luò)編碼協(xié)作
本章小結(jié)
思考題
習(xí)題
參考文獻(xiàn)
索引