趙生妹，教授、博士、博士生導師，現為江蘇省普通高校“青藍工程”學術帶頭人，南京郵電大學信號與信息處理專業學術帶頭人，南京郵電大學“1311人才計劃”創新團隊負責人，南京郵電大學“教學名師”，中國通信學會高級會員。研究方向為無線網絡中的信號處理、量子信息處理。長期從事“信息論基礎”與“量子信息處理”方向的科研工作，并講授“信息論基礎”“Elements of information theory”“量子信息處理技術”等課程。在國內外重要學術期刊和國際會議上發表論文150多篇，SCI期刊論文他引達200多次（包括Nature Photonics、Nature Communications等）。主講“信息論與編碼”課程被評為“江蘇省普通高等學校精品課程”，負責完成的“信息論基礎”課程多媒體課件（配套教學網站）榮獲“江蘇省高等學校優秀多媒體教學課件一等獎”。編著出版了兩本圖書——《量子信息處理技術》與《信息論基礎與應用》。
第3章
CHAPTER3
信道與信道容量
信道是指信息傳遞的通道，通常將信源的輸出至信宿的接收部分稱為信道(channel)。信道的基本任務是以信號方式傳輸和存儲信息。研究信道的主要目的是研究信道中能夠傳送或存儲的最大信息量，即信道容量(capacity)。
本章采用與第2章相似的方式描述信道。首先對信道進行分類，并給出其對應的數學描述。從最簡單的離散單符號信道出發，討論離散信道的統計特性和數學模型，定量地給出信道傳輸速率的最大值，推導出信道容量及其計算方法。在此基礎上，推廣至離散序列信道及其容量計算方法、連續信道及其容量計算方法，介紹著名的香農信道容量公式，探討多輸入多輸出(MIMO)系統的信道容量區域。
3.1信道分類和參數表示
信道是載荷信息的信號所通過的通道或媒介。例如，在二人對話系統中，二人之間的空氣就是信道；再例如常見的電話線就是信道；當我們看電視、聽收音機時，發送與接收無線信號之間的自由空間也是信道。在信息系統中，信道的主要作用是傳輸與存儲信息，而在通信系統中則主要是傳輸信息，這里我們討論后者。在通信系統中研究信道的主要目的是為了描述、度量并分析不同類型信道，計算其容量即理論上的極限傳輸能力。
實際通信系統中，信道的種類有很多種描述，可以用不同的方式進行表達。例如，可按傳輸媒介的類型進行劃分。根據傳輸媒介的類型可將信道劃分為有線信道和無線信道。在有線信道中，傳輸媒介可以是固體介質，也可以是混合介質。對于固體介質，它包含架空線和電纜等；對于混合介質，它包含波導和光纜等。這樣的信道劃分可用圖31表示。
圖31基于傳輸媒介類型的信道劃分
除此之外，信道也可按照信道的信號與干擾的類型進行分類，具體描述如圖32所示。
圖32基于信號與干擾類型的信道劃分
在圖32中，離散信道是指輸入空間X和輸出空間Y均為離散事件集；連續信道是指輸入空間X和輸出空間Y都是連續事件集；半離散或半連續信道是指輸入和輸出空間中，一個是離散集，另一個是連續集的情形。
根據信道的物理性質，如統計特性，也可將信道劃分為恒參信道和變參信道。其中，恒參信道是指信道的統計特性不隨時間變化(如有線信道、微波接力信道和衛星中繼信道等)；變參信道是指信道的統計特性隨時間變化而變化(如短波通信)。最后，按用戶類型可分為兩端信道(單用戶信道)和多端信道(多用戶信道)。其中，兩端信道是指信道的輸入和輸出都只有一個事件集，它是只有一個輸入端和一個輸出端的單向通信的信道；多端信道是指信道的輸入和輸出至少有兩個或兩個以上的事件集，即三個或更多個用戶之間相互通信的情況。
實際上，就通信系統而言，可以根據不同的研究對象、不同的要求，對信道進行不同形式的劃分，具體信道劃分如圖33所示。
圖33通信系統中不同形式的信道劃分
在圖33中，CAB為狹義的傳輸型信道，在研究調制解調理論或模擬通信時常引用，是一連續信道；CCD為廣義的傳輸型信道，在研究數字通信以及編碼解碼時常引用，是一離散信道；CCB是一類半離散半連續信道，例如可以看作是數字解調前的信道；CAD是一類半連續半離散信道。上述分類中，最常用的是前兩類信道，一般又稱為連續的調制信道和離散的編碼信道。
在第2章中我們已經知道，信源的輸出在數學上可表示為一隨機過程，信道的作用是將信源輸出變為信宿的輸入(信宿的輸入在數學上也可表示為一隨機過程)，因此，信道可認為是從一隨機過程向另一隨機過程的轉移。由于信道存在噪聲，信道的輸入和輸出之間一般不是確定的函數關系，而是統計關系。統計上而言，只要知道信道的輸入、輸出，以及它們之間的統計依賴關系，那么就能確定信道特性。一般而言，信道的輸入和輸出信號是廣義時間連續隨機信號，可用隨機過程來描述。無論何種隨機過程，只要有某種限制(如限頻和限時)，就可展開成時間(或空間)上離散的隨機序列。由于實際信道的帶寬總是有限制的，所以輸入信號和輸出信號總可以展開成隨機序列來研究。而隨機序列中每個隨機變量的取值可以是可數的離散值，也可以是不可數的連續值。因此，類似于對信源的統計描述，信道的描述包括三個基本要素，分別如下：
(1)信道輸入統計概率空間［X,p(X)］T；
(2)信道輸出統計概率空間［Y,p(Y)］T；
(3)信道本身的統計特性，即轉移概率矩陣p(y|x)。
以上三要素構成了對信道整體的描述
{［X,p(X)］T,p(y|x),［Y,p(Y)］T}(3.1.1)
簡記為{X,p(y|x),Y}。
圖34離散單符號信道模型描述
【例31】求離散單符號信道描述。
解：離散單符號信道如圖34所示，可以描述為
X
p(X)=x1x2…xl…xn
p1p2…pl…pn
Y
p(Y)=y1y2…yl…ym
p1p2…pl…pm
其中，xi∈X={x1,x2,…,xn}，yj∈Y={y1,y2,…,ym},其信道轉移概率矩陣為
P=p(y1|x1)…p(ym|x1)
p(y1|xn)…p(ym|xn)
根據信道的統計特性，即條件轉移概率的不同，離散信道又分成三種類型。
1)無干擾(無噪)信道
信道中沒有隨機性的干擾或者干擾很小，輸出信號Y與輸入信號X之間有確定的對應關系，其數學表述為
y=f(x)
P(y|x)=1y=f(x)
0y≠f(x)(3.1.2)
2)有干擾無記憶信道
在實際應用中，信道通常有干擾(噪聲)，即輸出符號與輸入符號之間無確定的對應關系，而是一般的概率分布。若信道任一時刻輸出符號只統計依賴于對應時刻的輸入符號，而與非對應時刻的輸入符號及其他任何時刻的輸出符號都無關，則稱這種信道為無記憶信道。數學上，滿足離散無記憶信道的充要條件是信道聯合條件轉移概率可表示為每個符號轉移概率的乘積，即
p(y|x)=p(y1y2…yL|x1x2…xL)=∏Ll=1p(yl|xl)(3.1.3)
對于有干擾無記憶信道，存在多種類型，輸入可以是離散的和連續的，輸出也可以是離散的和連續的；當輸入是序列時，則又可分為無記憶序列和有記憶序列。但是，常用的有干擾無記憶信道可歸納為四種類型，它們分別是二進制離散對稱信道、離散無記憶信道、離散輸入連續輸出信道和連續輸入連續輸出的波形信道。
(1)二進制離散對稱信道(BinarySymmetricChannel,BSC)，如圖35所示。
其中，信道輸入X∈{0,1},信道輸出Y∈{0,1}，信道轉移概率為P(Y=0|X=1)=P(Y=1|X=0)=p，P(Y=1|X=1)=P(Y=0|X=0)=1-p。由于信道輸入和信道輸出是離散二進制符號，信道轉移概率也可用如下信道矩陣表示：
P=1-pp
p1-p(3.1.4)
該矩陣中每行都是第一行的置換，每列都是第一列的置換，是一對稱矩陣，因此被稱為二進制對稱信道。
(2)離散無記憶信道(DiscreteMemorylessChannel,DMC)是更為一般的離散單符號信道，如圖36所示。
圖35BSC信道
圖36DMC信道
圖中，信道輸入為X∈{x0，x2，…，xi，…，xq－1}，信道輸出為Y∈{y0，y2，…，yj，…，yQ－1}，信道轉移概率為p(Y=yj|X=xi)=p(yj|xi)。對于離散無記憶信道，其信道矩陣為
P=p00p10…p(Q－1)0
p01p11…p(Q－1)1
………
p0(q－1)p1(q－1)…p(Q－1)(q－1)(3.1.5)
其中，pji=p(yj|xi)，且∑jp(yj|xi)=1,i=0,…,q－1，稱為信道傳遞函數(又稱前向概率)，通常用它描述信道的噪聲特性。BSC信道是最簡單的DMC信道。
值得說明的是：由信道的輸入概率分布和信道矩陣，可計算出輸入輸出隨機變量的聯合概率分布，即貝葉斯公式：
p(xiyj)=p(xi)p(yj|xi)=p(yj)p(xi|yj)(3.1.6)
其中，p(xi|yj)是已知信道輸出符號為yj時輸入符號為xi的概率，稱為后驗概率。有時把p(xi)稱為輸入符號的先驗概率，表示在接收到輸出符號之前判斷輸入符號為xi的概率；而對應地把p(xi|yj)稱為輸入符號的后驗概率，表示接收到輸出符號yj之后，判斷輸入符號為xi的概率。同時由全概率公式，可從先驗概率和信道傳遞概率求出輸出符號的概率，
p(yj)=∑xip(xi)p(yj|xi)(3.1.7)
同時，根據貝葉斯公式可由先驗概率和信道的傳遞概率求得后驗概率：
p(xi|yj)=p(xiyj)p(yj)=p(xi)p(yj|xi)∑xip(xi)p(yj|xi)(3.1.8)
(3)離散輸入連續輸出信道。
離散輸入連續輸出信道表示有限離散的輸入X∈{x0，x1，…，xq-1}和未經量化的輸出Y∈{-∞,+∞}，且輸入和輸出間轉移概率滿足
P(y|X=xi)i=0，1，2，…，q-1(3.1.9)
信道的轉移概率取決于噪聲，其中最為重要的一類噪聲是加性高斯白噪聲(AWGN)信道，輸出可表示為Y=X+G。G是均值為零、方差為σ2的高斯白噪聲，X=xi，i=0，1，…，q-1，Y是均值為xi、方差為σ2的高斯隨機變量。輸入和輸出間概率表示為
P(y|xi)=12πσ2e－(y－xi)2/2σ2(3.1.10)
……
新書資訊