《信息論基礎及應用》是作者從事信息論、糾錯編碼理論近30年的教學和科研實踐的積累，在吸收國內外優秀教材優點的基礎上，結合現代信息技術的教學需求，進行優化整合、改進而成的。全書重點介紹信息處理的理論基礎以及實現原理與方法，共6章，內容包括：信息論的起源、發展及研究內容；Shannon信息論的3個基本概念：信源熵、信道容量和信息率失真函數，以及與這3個基本概念相對應的3個編碼定理：無失真信源編碼定理、限失真信源編碼定理和有噪信道編碼定理；通信系統的有效性和可靠性編碼：信源編碼（即壓縮編碼）和信道編碼（即糾錯編碼）。為了便于教學和讀者自學，每章附有大量的思考題和習題。
本書可以作為高等院校通信工程、電子信息工程、計算機科學與技術、電子科學與技術、自動化、信息與計算科學等相關專業的本科生教材或教學參考書，也可以作為低年級研究生的教學參考書，還可供科研院所從事信息科學理論、技術和方法研究的科研及工程技術人員參考。
★《信息論基礎及應用》強調信息論中物理概念和結論的理解與掌握，簡化繁瑣的數學推導，注重使用明確、直觀的物理概念，增加了大量實例，力求讓講述的內容理論聯系實際。
★每章附有大量的思考題和習題，便于教學和讀者自學。
1948年，當代偉大的數學家和科學家香農（C. E. Shannon）發表了題為“通信的數學理論”的學術論文，這篇劃時代論文的問世宣告了信息論的誕生。從信息的度量開始，信息的概念和研究范疇在不斷擴大和深化，并迅速地滲透到其他相關學科領域，如通信與網絡技術、信號與信息處理、控制與檢測技術、計算機技術、密碼學與信息安全、人工智能與認知科學、生命科學、材料學、哲學、心理學、質量管理、市場營銷、經濟學和美學等。信息論的研究領域從自然科學擴展到經濟、管理科學，甚至人文社會科學，并從狹義信息論發展到如今的廣義信息論，成為涉及面極廣的信息科學。
微電子技術、通信技術、計算機技術和網絡技術的迅猛發展，加速了社會信息化的進程，使人類社會進入了今天高度發展的信息化時代，并且在不斷地深刻影響和改變著人類社會的生活、學習、休閑和生產的方式。信息論作為信息科學與技術的基本理論，猶如信息科學大廈的基石，在信息社會中占據越來越重要的地位。
信息論是信息科學中最成熟、最完整、最系統的一部分，它以活躍、新穎的思路和高效解決問題的方法而顯示出獨特的魅力。信息論為數據通信和計算機技術奠定了堅實的理論基礎，是20世紀產生的對人類最偉大的貢獻之一。它不僅在方法論層面上解決了通信的有效性、可靠性和安全性問題，而且在認識論層面上幫助人們認識事物的本質。系統學習完信息論之后再重新審視一下周圍的事物，我們將會有許多新的看法和認識。信息論除了可以解決與信息相關的工程技術問題外，還可以幫助我們宏觀地認識某些社會問題，也可以定量地解決某些經濟問題，甚至解決學習中遇到的問題。所以，信息論是高層次信息科學與技術人才必不可少的基礎知識。許多高校已經把“信息論”作為電子信息類、電氣工程類本科專業的專業基礎課，其他許多專業也把“信息論”作為選修課。
出版說明
前言
第1章概論
1.1通信與信息的一般概念
1.1.1信息、消息和信號
1.1.2Shannon信息
1.1.3通信系統模型
1.2信息論研究的主要內容和意義
1.3Shannon信息論的觀點與方法
*1.4信息理論與信息科學的發展歷程
*1.5信息的再認識
1.5.1信息的特性
1.5.2信息的其他定義
1.5.3信息的分類
科學家小傳——C.E.Shannon
思考題
第2章信源及其信息的統計度量
2.1信源的數學模型和分類
2.1.1概率論符號約定和概率知識基礎
2.1.2信源的數學模型
2.1.3信源的分類
2.2隨機事件的信息
2.2.1隨機事件的自信息和條件自信息
2.2.2隨機事件的互信息和條件互信息
2.3離散信源的熵
2.3.1信源熵
2.3.2條件熵
2.3.3聯合熵（共熵）
2.3.4熵函數的性質
*2.3.5加權熵的概念及基本性質
2.4離散信源的平均互信息
2.4.1平均互信息
2.4.2平均互信息的性質
2.4.3各類熵之間的關系
2.5離散序列信源的熵
2.5.1離散無記憶序列信源的熵
2.5.2離散有記憶序列信源的熵
*2.5.3馬爾可夫信源的熵
2.6連續信源熵和互信息
2.6.1連續信源的表述
2.6.2基本連續信源的熵
2.6.3多維連續信源和波形信源的熵
2.6.4連續信源熵的性質和最大熵定理
2.7冗余度和熵功率
2.7.1離散信源的冗余度和自然語言的熵
2.7.2連續信源的熵功率
思考題
習題
第3章信道及其容量
3.1信道的數學模型和分類
3.1.1信道的分類
3.1.2離散信道的數學模型
3.1.3連續信道的數學模型
3.2信息傳輸率與信道容量
3.2.1信道疑義度、噪聲熵和信息傳輸率
3.2.2信道容量的定義
3.3離散信道的信道容量
3.3.1特殊離散信道的信道容量
3.3.2離散對稱信道的信道容量
3.3.3離散準對稱信道的信道容量
3.3.4一般離散信道的信道容量
3.4離散序列信道的數學模型及其信道容量
3.4.1離散序列信道的數學模型
3.4.2離散序列信道的信道容量
*3.5組合信道的信道容量
3.5.1串聯信道及其信道容量和數據處理定理
3.5.2并聯信道及其信道容量
3.6連續信道及其信道容量
3.6.1單符號高斯加性信道
3.6.2限帶高斯白噪聲加性波形信道
3.7信源與信道的匹配
思考題
習題
第4章無失真信源編碼
4.1信源編碼的基本概念
4.1.1信源編碼器
4.1.2信源編碼的基本碼型
4.1.3平均碼長和編碼效率
4.1.4信源編碼的樹圖表示
4.1.5Kraft不等式
*4.1.6唯一可譯變長碼的判定法
4.2等長編碼和等長信源編碼定理
4.2.1等長編碼
4.2.2等長信源編碼定理
4.3變長信源編碼定理
4.4變長編碼方法
4.4.1Shannon編碼
4.4.2Fano編碼
4.4.3Huffman編碼
4.4.4游程編碼
4.4.5數字傳真編碼
4.4.6算術編碼
4.5字典碼
4.5.1LZ-77編碼算法
4.5.2LZ-78編碼算法
4.5.3LZW編碼算法
科學家小傳——R. M. Fano
科學家小傳——D. A. Huffman
思考題
習題
第5章信息率失真函數和限失真信源編碼
5.1失真測度和信息率失真函數
5.1.1系統模型和失真測度
5.1.2信息率失真函數的定義
5.1.3信息率失真函數的性質
5.2離散信源的信息率失真函數的計算
5.2.1利用信源的對稱性計算信息率失真函數
*5.2.2離散信源信息率失真函數的參量表達式
5.3連續信源的信息率失真函數
5.3.1連續信源的信息率失真函數與性質
5.3.2高斯信源的信息率失真函數
5.3.3連續信源的信息率失真函數的界
5.4限失真信源編碼定理
5.5限失真信源編碼簡介
5.5.1量化編碼
5.5.2預測編碼
5.5.3變換編碼
科學家小傳——A.Lempel
科學家小傳——J.Ziv
思考題
習題
第6章信道編碼
6.1譯碼規則和信道編碼定理
6.1.1錯誤概率與譯碼規則
6.1.2有噪信道編碼定理
6.2差錯控制的基本形式和信道編碼的分類
6.2.1差錯控制的基本形式
6.2.2信道編碼的分類
6.3信道編碼的基本數學知識
6.3.1群、環和域的基本概念
6.3.2有限域上的多項式
6.3.3多項式同余類環
6.3.4有限域的結構
6.3.5線性空間
6.4線性分組碼
6.4.1分組碼的基本概念
6.4.2常用分組碼介紹
6.4.3生成矩陣、一致校驗矩陣和對偶碼
6.4.4伴隨式及標準陣列譯碼
6.4.5Hamming碼
6.4.6由已知碼構造新碼的方法
6.5循環碼
6.5.1循環碼的基本概念
6.5.2循環碼的生成多項式、生成矩陣和編碼原理
6.5.3循環碼的一致校驗多項式和校驗矩陣
6.5.4循環Hamming碼和極長碼
6.5.5用多項式的根定義循環碼
*6.5.6循環碼的編碼電路
*6.5.7循環碼的譯碼原理和譯碼電路
*6.5.8BCH碼和RS碼
6.6卷積碼
6.6.1卷積碼的基本概念
6.6.2卷積碼的描述方法
6.6.3卷積碼的Viterbi譯碼
科學家小傳——R.W.Hamming
思考題
習題
參考文獻
新書資訊