《信息理論與編碼（第2版）》系統(tǒng)地介紹香農(nóng)信息論的基本內(nèi)容及其應用全書共8章前3章是全書的理論基礎，主要介紹信息論的基本理論知識；第4章討論信源無失真編碼，目的在于提高信源的信息含量效率；第5章討論信道編碼，借此可解決傳送的可靠性問題；第6章介紹信源有失真編碼方法；第7章介紹網(wǎng)絡信息論的一些基本理論和新成果，論述多用戶通信系統(tǒng)的信道容量、信道編碼定理、實現(xiàn)編碼定理的碼的結構問題等理論、技術；第8章簡要闡述用密碼技術如何保證電子信息的有效性、保密性、完整性。
《信息理論與編碼（第2版）》可作為高等院校通信、信息類專業(yè)和相關專業(yè)本科生教材或教學參考書，也可作為相關領域科研人員、工程技術人員的參考書。
《信息理論與編碼（第2版）》系統(tǒng)地論述了信息理論和編碼的基本理論、基本技術和基本方法，內(nèi)容豐富，結構合理，論述準確.語言流暢，邏輯性強。通俗易懂。《信息理論與編碼（第2版）》的論述力求理論與實際相結合，理論推導力求概念清晰、簡明扼要。適合理工科學生學習。在每章的最后有本章主要概念，對本章主要概念、主要公式進行總結，便于學生復習。每章之后附有習題，以幫助讀者掌握相關知識點內(nèi)容，另配有習題解答供讀者參考。《信息理論與編碼（第2版）》可作為高等院校通信類、電子信息類、電子工程類等相關專業(yè)本科生的專業(yè)教材或研究生的教學參考書，也可供從事通信、電子信息、電子工程等方面的工程技術人員參考。
信息是事物運動的狀態(tài)和方式，是關于事物運動的千差萬別的狀態(tài)和方式的知識。人類社會的生存、發(fā)展都離不開信息的獲取、傳遞、處理、控制和利用。
信息論是整個信息科學發(fā)展的起源和基石。21世紀是高度信息化的時代，信息論不僅在通信領域中發(fā)揮越來越重要的作用，也是解決通信領域中相關問題的有力工具；而且由于信息理論蘊涵著獨特的、有效的、新穎的解決問題的思路和方法，這一學科已滲透到其他相關的自然科學、社會科學領域，與計算機技術、電子技術、控制技術、網(wǎng)絡技術、人工智能、生物工程、醫(yī)學工程、管理科學等學科密切結合，顯示了它的勃勃生機。因此，在現(xiàn)代科學技術高速發(fā)展的過程中，學習和掌握信息科學顯得尤為重要。
信息論是一門利用概率論、隨機過程和數(shù)理統(tǒng)計等數(shù)學方法來研究信息的存儲、度量、編碼、傳輸、處理中一般規(guī)律的重要學科，是數(shù)學知識與通信技術相結合的邊緣學科。自從香農(nóng)1948年發(fā)表奠定信息論基礎的“通信的數(shù)學理論”一文以來，信息科學有了很大的發(fā)展并已經(jīng)延伸到許多領域中。當今，它主要研究如何提高信息系統(tǒng)的可靠性、有效性、保密性和認證性，從而獲取最優(yōu)信息系統(tǒng)。
本書系統(tǒng)地介紹香農(nóng)信息論的基本內(nèi)容及其應用。全書注重基本概念、基本理論和基本分析方法的論述，并結合實例給出詳細的數(shù)學推演過程和證明，力求概念清晰、結構嚴密、內(nèi)容由淺入深、章節(jié)循序漸進。
全書共8章。其中前3章是全書的理論基礎，主要介紹信息論的基本理論知識。第1章闡述了信息的概念、信息論的研究內(nèi)容以及應用范圍等，期望為讀者展示一個信息論的輪廓；第2章詳細地討論了信息的度量方法，側(cè)重于信息的數(shù)學建模；第3章討論信道，描述和分析了各種不同類型信道的模型和特性；第4章討論信源無失真編碼，目的在于提高信源的信息含量效率；第5章討論信道編碼，借此可解決傳送的可靠性問題；第6章介紹信源有失真編碼方法，對連續(xù)信源只能進行有失真編碼；第7章介紹網(wǎng)絡信息論的一些基本理論和新成果，論述多用戶通信系統(tǒng)的信道容量、信道編碼定理、實現(xiàn)編碼定理的碼的結構問題等理論、技術。第8章簡要地探討了信息安全、密碼學，闡述用密碼技術如何保證電子信息的有效性、保密性、完整性。
第1章 緒論 1
1.1 信息的概念 1
1.1.1 信息概念的復雜性 1
1.1.2 信息的定義 3
1.2 信息論的主要研究內(nèi)容 4
1.3 信息論的發(fā)展歷程 7
習題 10
第2章 信息的度量 11
2.1 信源模型 11
2.2 (概率)信息的描述 13
2.3 不確定性與信息 14
2.3.1 自信息量 14
2.3.2 聯(lián)合自信息量 15
2.3.3 條件自信息量 16
2.3.4 自信息量的性質(zhì)和相互關系 17
2.3.5 互信息量及其性質(zhì) 19
2.4 離散隨機變量的(統(tǒng)計)平均不確定性——離散熵 22
2.4.1 離散熵 22
2.4.2 離散熵的性質(zhì) 24
2.5 聯(lián)合熵和條件熵 26
2.5.1 聯(lián)合熵 27
2.5.2 條件熵 27
2.5.3 各類熵之間的關系 28
2.6 平均互信息量及其性質(zhì) 29
2.7 離散無記憶信源的擴展 31
2.8 離散平穩(wěn)信源的熵 32
2.9 馬爾可夫信源的信息熵 33
2.9.1 馬爾可夫鏈 33
2.9.2 馬爾可夫信源 35
2.9.3 馬爾可夫信源的信息熵 37
2.10 離散信源的信息(速)率和信息含量效率 38
2.11 連續(xù)隨機變量下的熵和平均互信息量 39
2.11.1 連續(xù)隨機變量的熵 39
2.11.2 連續(xù)隨機變量下的聯(lián)合熵、條件 熵以及平均互信息量 42
2.11.3 微分熵的極大化問題 43
2.11.4 連續(xù)信源的熵功率 46
本章基本概念 46
習題 49
第3章 信道模型和信道容量 55
3.1 信道模型與信道分類 55
3.2 離散無記憶信道的數(shù)學模型 56
3.3 概率的計算問題 58
3.4 信道的疑義度、散布度和平均互信息 60
3.4.1 信道的疑義度 60
3.4.2 信道的散布度 61
3.4.3 信道的平均互信息 63
3.5 信道容量C 66
3.5.1 信道容量的定義 66
3.5.2 離散無噪信道的信道容量 67
3.5.3 離散對稱信道 71
3.5.4 一般DMC達到信道容量的充要條件 76
3.5.5 信道容量的迭代算法 80
3.6 擴展信道及其信道容量 81
3.6.1 擴展信道的數(shù)學模型 82
3.6.2 擴展信道的平均互信息量和信道容量 83
3.7 信道的組合 85
3.7.1 串聯(lián)信道 85
3.7.2 獨立并聯(lián)信道 87
3.8 信源與信道的匹配 87
3.9 連續(xù)信道及其信道容量 88
3.9.1 連續(xù)信道的數(shù)學模型 88
3.9.2 加性高斯噪聲信道的信道容量 89
3.9.3 一般加性噪聲信道的信道容量的界 92
3.10 波形信道及其信道容量 93
本章基本概念 96
習題 100
第4章 離散無記憶信源無失真編碼 104
4.1 信源編碼概論 105
4.2 碼的唯一可譯性 107
4.2.1 常見碼及其唯一可譯性 107
4.2.2 碼樹和Kraft不等式 108
4.3 定長編碼 110
4.3.1 離散無記憶信源的漸近均分性質(zhì) 110
4.3.2 定長編碼定理 113
4.4 變長編碼定理 116
4.5 變長編碼方法 117
4.5.1 霍夫曼編碼 118
4.5.2 費諾編碼 123
4.5.3 香農(nóng)編碼 124
4.6 幾種實用的無失真信源編碼 125
4.6.1 游程編碼 125
4.6.2 算術編碼 129
4.6.3 基于字典的編碼 132
本章基本概念 134
習題 135
第5章 有噪信道編碼 138
5.1 譯碼規(guī)則與錯誤概率 138
5.2 兩種典型的譯碼規(guī)則 140
5.3 平均差錯率與信道編碼 143
5.3.1 “簡單重復”編碼 144
5.3.2 對符號串編碼 145
5.4 漢明距離與最小距離譯碼規(guī)則 148
5.5 有噪信道編碼定理 150
5.5.1 聯(lián)合典型序列 150
5.5.2 有噪信道編碼定理 152
5.6 Fano不等式和有噪信道編碼逆定理 153
5.7 線性分組碼 155
5.7.1 線性分組碼的生成矩陣和校驗矩陣 156
5.7.2 漢明距離和碼的糾錯、檢錯能力 158
5.7.3 線性碼的伴隨式與伴隨式譯碼 160
本章基本概念 161
習題 162
第6章 限失真信源編碼 165
6.1 失真測度 165
6.2 信息率失真函數(shù)及其性質(zhì) 167
6.2.1 信息率失真函數(shù)的定義 167
6.2.2 信息率失真函數(shù)的性質(zhì) 168
6.3 限失真信源編碼定理 171
6.4 信息率失真函數(shù)的計算 171
6.4.1 離散信源信息率失真函數(shù)的參量表示計算方法 171
6.4.2 離散信源信息率失真函數(shù)的迭代計算方法 179
本章基本概念 182
習題 183
第7章 網(wǎng)絡信息論基礎 185
7.1 概論 185
7.2 網(wǎng)絡信道的分類 186
7.3 網(wǎng)絡信源編碼模型 188
7.4 多隨機變量聯(lián)合典型序列 190
7.5 相關信源編碼定理 193
7.6 多址接入信道 196
7.7 高斯多址接入信道 200
7.8 廣播信道 203
7.9 中繼信道 207
7.10 具有邊信息的信源編碼定理 208
本章基本概念 211
習題 213
第8章 信息安全與密碼學基礎 214
8.1 信息安全概述 214
8.2 網(wǎng)絡模型與安全服務功能 215
8.2.1 開放系統(tǒng)互連(OSI)參考模型 215
8.2.2 安全分層原則 216
8.2.3 安全服務功能 216
8.2.4 網(wǎng)絡安全對策 218
8.3 密碼學基礎知識 220
8.3.1 基本術語 220
8.3.2 代替密碼 222
8.4 密碼算法的數(shù)學背景 225
8.4.1 信息論 225
8.4.2 復雜性理論 227
8.4.3 數(shù)論基礎 228
8.5 數(shù)據(jù)加密標準 231
8.5.1 數(shù)據(jù)加密標準的開發(fā) 231
8.5.2 DES算法概要 231
8.5.3 初始置換 232
8.5.4 密碼運算函數(shù)f(R,K) 232
8.5.5 密鑰置換 233
8.5.6 擴展置換 234
8.5.7 S盒替代 234
8.5.8 P盒置換 236
8.5.9 逆初始置換 236
8.5.10 DES的安全性 236
8.6 公開密鑰算法 237
8.6.1 公開密鑰密碼體制 237
8.6.2 背包公鑰密碼 238
8.6.3 RSA公鑰加密 240
8.6.4 數(shù)字簽名 242
本章基本概念 244
習題 246
參考文獻 248
實踐是科學的源泉，信息論作為一門科學，其形成、產(chǎn)生和發(fā)展也不例外。生產(chǎn)實踐是人類物質(zhì)和精神文明發(fā)展的基礎，而物質(zhì)與文明的進步又依賴于人類獲取、傳遞、處理、加工和利用信息的能力。人類在生產(chǎn)過程中建立了人與人之間的關系，而要維護這種關系就必須要有信息，要進行通信。通信是人與人之間交流信息的手段。
信息論作為真正意義上的一門科學，是從19世紀中葉開始的。19世紀中葉到20世紀40年代可以看做是信息論產(chǎn)生前的準備階段。公認1948年香農(nóng)發(fā)表的著名論文《通信的數(shù)學原理》標志著現(xiàn)代信息論的誕生，解決了通信傳輸中的一系列問題。現(xiàn)在，人們對信息論進行了更深入和廣泛的研究，從原來的語法信息深入到語義信息和語用信息，即所謂廣義信息論。
17世紀到19世紀，由于牛頓力學的巨大影響，機械唯物論在科學領域中占有統(tǒng)治地位，機械唯物論者否認客觀世界存在著偶然因素。但是正當絕大多數(shù)科學家都用牛頓力學的方式思考時，美國物理學家吉布斯（Gibbs·Josiah Willard）和奧地利物理學家波爾茲曼（Boltzmann·Ludwig）首先把統(tǒng)計學引入物理領域，使物理學對客觀世界中存在的不確定性、和偶然性不得不加以考慮。把研究偶然性作為一種科學方法引入物理學，這是吉布斯的一大功績，也為信息論的誕生作出了貢獻。這種探究方法為信息理論的創(chuàng)立提供了方法論的前提。波爾茲曼指出熵是關于一個物理系統(tǒng)分子運動狀態(tài)的物理量，表示分子運動的混亂程度，并且把熵和信息聯(lián)系起來，提出“熵是一個系統(tǒng)失去了的‘信息’的度量”。將偶然性、熵函數(shù)引入物理學為信息論的產(chǎn)生提供了理論前提。
新書資訊