本書是將隨機過程與隨機控制融入一體的教材, 隨機過程和隨機控制理論在雷達與通信、天文與氣象、經濟與市場、航天、航空、海洋工程、工程控制、生物醫學等許多領域都得到了廣泛應用, 是高等工科院校研究生、高年級本科生及科技工作者必須掌握的基本知識、基本理論和基本方法。本書是編者根據多年的教學實踐, 在自編講義的基礎上, 充實和修改而編成的。
本書是將隨機過程與隨機控制融為一體的教材,主要包括隨機信號基礎、隨機過程與隨機分析、平穩隨機過程與頻域分析、泊松過程與應用實例、馬爾可夫鏈與應用實例、隨機過程通過控制系統分析、ARMA/CARMA模型及其辨識與控制、隨機狀態模型與估計、基于神經網絡的系統辨識與控制等內容。
在取材上,將M序列及其功率譜、在線求解單步或多步Diophantine方程方法及基于神經網絡的系統辨識與控制等納入教材中,注重了基礎、突出了實用、強調了新穎、體現了完整。
在內容組織上,先介紹隨機信號基礎、后分析隨機過程、再討論隨機控制,先做理論分析后作仿真實驗,先給出線性系統辨識算法后探究非線性系統辨識算法,體現了由易到難、由淺入深、由簡到繁的編寫思路,也體現了基礎性與拓展性、理論性與實踐性、課堂教學與課外延伸、定性討論與定量分析相結合的組織方式。
通過增加應用實例及MATLAB/Simulink仿真內容等實踐手段來提高學生分析問題與解決問題能力,強化學生自主學習與創造性學習。
修 訂 版 前 言
本書是將隨機過程與隨機控制融入一體的教材,隨機過程和隨機控制理論在雷達與通信、天文與氣象、經濟與市場、航天、航空、航海工程、工程控制、生物醫學等許多領域都得到了廣泛應用,是高等工科院校研究生、高年級本科生及科技工作者必須掌握的基本知識、基本理論和基本方法。本書是編者根據多年的教學實踐,在自編講義的基礎上,充實和修改而編成的。
本書在取材和闡述方式上,力求由易到難、由淺入深、由簡到繁,既注重知識體系的系統性和完整性,又突出工程實用性和新穎性。本書于2013年正式出版以來,受到廣大讀者的關注和好評。近3年來,作者在高校教學中發現: 本書雖然對隨機過程與控制理論和算法的論述系統和全面,但對理論和算法的實現未涉及,即使高年級本科生或研究生對理論思想和算法流程爛熟于心,對理論和算法的實現也難以下手。為了彌補本書的不足,故在*版基礎上進行改版。
本書改版原則為:
(1) 教材選材: 注重基礎性、實用性、新穎性、實踐性、完整性;
(2) 教材內容: 體現基礎性與拓展性、理論性與實踐性、課堂教學與課外延伸、定性討論與定量分析的統一;
(3) 教材組織: 突出主干、由淺入深、由簡到繁、承上啟下、前后呼應;
(4) 教材效果: 以增加應用實例及MATLAB/Simulink仿真內容為手段,強化學生自主學習與創造性學習。
本書改版內容為:
(1) 將第1版中第1章至第7章修訂為第1章至第6章,與第1版相比,進行了內容的調整、刪減和增加。其中,第1版中第2章至第4章調整為修訂后的第2章至第3章; 將第1版中矩陣隨機過程刪除,增加了平穩高斯過程和M序列及其功率譜等內容。
(2) 增加了在線求解單步或多步Diophantine方程方法,為分析*小差方*優控制及次*優控制原理與方法奠定了基礎。
(3) 增加了基于神經網絡的系統辨識與控制一章,主要是為了拓展非線性系統辨識與控制方法。
(4) 每章均增加了應用實例、仿真結果和MATLAB程序代碼或Simulink模塊等內容,為理論和算法的實現提供了解決思路與方法。
修訂后,本書共分為10章,主要內容如下:
第1章為隨機過程的基礎知識,對隨機變(向)量的概念、分布、數字特征等與隨機過程分析密切相關的特性進行了概述,并給出了MATLAB仿真實例。
第2章為隨機過程及其隨機分析,簡要介紹了隨機過程的基本概念、統計特性、數字特征及幾種典型常用的隨機過程,討論了隨機分析方法和隨機微分方程,給出了MATLAB仿真實例。
第3章為平穩隨機過程及其譜分析,主要討論了平穩隨機過程、平穩高斯過程的統計特性、平穩過程的遍歷性與功率譜密度、解析過程與窄帶隨機過程、窄帶高斯過程、白噪聲過程、M序列及其頻域特性等,給出了高斯過程、萊斯過程和M序列產生實例并進行了MATLAB/Simulink仿真。
第4章為泊松過程及其應用,主要分析了泊松過程的統計特性,給出了非齊次泊松過程的應用實例,并進行了MATLAB仿真。
第5章為Markov鏈及其應用,主要涉及離散時間Markov鏈及連續時間Markov鏈; 建立了衛星信道Markov模型并進行Simulink仿真實現。
第6章為隨機過程通過控制系統分析,對平穩隨機序列、白噪聲過程通過隨機系統時頻特性進行了分析與仿真實現。
第7章為 ARMA模型及其辨識與預測,分析了ARMA模型的自相關函數及譜特點,以及偏相關函數,討論了模型定階方法及準則并進行了MATLAB仿真; 對基于*小二乘法的模型參數辨識一次完成算法與遞推算法及ARMA模型的*優預測方法進行了分析和MATLAB仿真。
第8章為CARMA模型及其辨識與預測,討論了CARMA模型及其辨識原理與方法,進行了MATLAB仿真; 在介紹在線求解單步或多步Diophantine方程方法基礎上,分析了CARMA模型的*小差方*優控制及次*優控制方法的MATLAB實現。
第9章為隨機狀態模型與估計算法及其仿真,主要討論了離散時間與連續時間隨機系統狀態模型,隨機系統狀態的預測、濾波與平滑,離散時間隨機系統與連續時間隨機系統、CARMA模型與狀態空間模型的轉換方法等。
第10章為基于神經網絡的系統辨識與控制,主要討論了基于BP與RBF網絡的非線性系統辨識與控制算法及基于Hopfield網絡的線性系統辨識與控制算法。
本書在編寫過程中,參閱了大量文獻,書后所列參考文獻為本書的基本內容提供了極好素材,有的還引用了其中的部分內容并對其進行了吸收與消化,在此謹向這些論著的作者表示由衷的謝意!同時, 本書作者的研究生馬偉偉、吳星、彭舒、姚超然、陸璐、陳小燕等參與了本書所有程序的調試工作。本書被評為“十二五”江蘇省高等學校重點教材(編號: 20151040)。本書的出版還得到了國家自然科學基金項目(No.61673222)、江蘇省高校自然科學研究重大項目(No.13KJA510001)、江蘇省高校“十二五”重點專業建設項目(No.164)、江蘇高校品牌建設工程一期項目(PPZY2015B134)及清華大學出版社的大力支持,在此一并表示衷心的感謝!
由于編者水平有限,書中難免有不少謬誤和疏漏,懇請讀者給予批評指正。
郭業才2016年9月
郭業才,男,教授,博導。1986年畢業于安慶師范學院物理專業;2003年獲西北工業大學水聲工程專業博士學位,是全國百篇優秀博士學位論文獲得者。曾任安徽省學術與技術帶頭人、江蘇省高校“傳感網與現代氣象裝備”優勢學科方向帶頭人。現為江蘇省“六大人才高峰”培養對象、江蘇省高校“信息與通信工程” 優勢學科方向帶頭人。主持全國優秀博士學位論文作者專項資金、國家自然科學基金和*省級教學研究等項目,共20余項;獲省級科研和教學成果獎7項;獲批*規劃教材1部、教育部電子信息類教指委規劃教材3部及省重點教材1部;獲授權發明專利30余件。正在指導統招博士、碩士研究生、留學研究生30余名,5篇碩士學位論文獲省優秀碩士學位論文獎。
第1章隨機過程的基礎知識
1.1概率
1.1.1隨機試驗與樣本空間
1.1.2隨機事件及其概率與獨立性
1.2隨機變量及其分布
1.2.1隨機變量的分布函數與概率密度
1.2.2隨機向量的分布函數與概率密度
1.3隨機變量的數字特征
1.3.1數學期望與方差
1.3.2條件數學期望
1.4矩母函數、特征函數與拉普拉斯變換
1.4.1矩母函數
1.4.2特征函數
1.4.3相關矩與協方差
1.4.4拉普拉斯變換
1.5隨機變量的函數及其分布
1.5.1一維隨機變量函數的分布
1.5.2隨機向量函數的分布
1.5.3隨機向量函數向量的分布
1.6隨機信號中常見分布律
1.6.1一些簡單的分布律
1.6.2高斯分布
1.6.3χ2分布
1.6.4瑞利分布
1.6.5萊斯分布
1.7復隨機變量
1.8實例與仿真
1.8.1均勻分布隨機變量的產生仿真
1.8.2具有給定分布隨機變量的產生仿真
習題一
第2章隨機過程及隨機分析
2.1隨機過程定義與分類
2.1.1隨機過程定義
2.1.2隨機過程的分類
2.2隨機過程的有限維分布族
2.2.1一維分布函數與概率密度函數
2.2.2二維分布函數與概率密度函數
2.2.3n維分布函數與概率密度函數
2.2.4聯合概率分布和聯合概率密度
2.3隨機過程的數字特征
2.3.1均值函數與方差函數
2.3.2自相關函數與自協方差函數
2.3.3互相關函數與互協方差函數
2.4隨機過程的特征函數
2.4.1一維特征函數
2.4.2二維特征函數
2.4.3n維特征函數
2.5復隨機過程及其統計描述
2.6常見的隨機過程
2.6.1二階矩過程
2.6.2正態隨機過程
2.6.3獨立增量過程
2.6.4維納過程
2.7連續時間隨機過程的微分和積分
2.7.1隨機過程的均方連續性
2.7.2隨機過程的均方導數
2.7.3隨機過程的均方積分
2.8隨機過程的微分方程
2.8.1常系數線性隨機微分方程
2.8.2變系數線性隨機微分方程
2.9實例與仿真
2.9.1高斯過程仿真模塊
2.9.2對數正態過程仿真模塊
習題二
第3章平穩隨機過程及其譜分析
3.1平穩隨機過程
3.1.1嚴平穩隨機過程
3.1.2寬 (廣義)平穩隨機過程
3.1.3平穩隨機過程的自相關函數
3.1.4聯合平穩過程的互相關函數及其性質
3.1.5平穩正態隨機過程
3.2平穩隨機過程的各態歷經性
3.2.1遍歷性過程
3.2.2遍歷性條件
3.3平穩隨機過程的功率譜密度
3.3.1普通時間函數的譜分析
3.3.2隨機過程的功率譜密度
3.3.3譜密度性質
3.3.4聯合平穩隨機過程的互功率譜
3.3.5平穩復隨機過程的功率譜密度
3.4窄帶隨機過程及其功率譜密度
3.4.1希爾伯特變換及其性質
3.4.2解析過程
3.4.3窄帶隨機過程及其功率譜密度
3.5窄帶高斯隨機過程
3.5.1窄帶高斯隨機過程包絡與相位的一維概率分布
3.5.2窄帶高斯隨機過程包絡與相位的二維概率分布
3.5.3窄帶高斯過程加正弦信號的包絡和相位的分布
3.5.4窄帶高斯過程包絡平方的概率分布
3.6白噪聲過程及其功率譜密度
3.6.1白噪聲過程
3.6.2離散時間白噪聲過程
3.6.3帶限白噪聲和有色噪聲
3.7M 序列及其頻譜
3.7.1M序列
3.7.2M序列的基本性質
3.7.3M序列的自相關函數
3.7.4M序列的功率譜密度
3.8實例與仿真
3.8.1頻域方法產生隨機過程與仿真實現
3.8.2萊斯過程的Simulink仿真模塊
3.8.3M序列的仿真實現
習題三
第4章泊松過程及其應用
4.1泊松過程的概念
4.2泊松過程的統計特性
4.2.1泊松過程的統計特性
4.2.2時間間隔與等待時間的分布
4.3非齊次泊松過程
4.4復合泊松過程
4.5實例與仿真
4.5.1基于非齊次泊松過程的故障樣本模擬生成方法
4.5.2故障樣本模擬生成方法仿真
習題四
第5章Markov鏈及其應用
5.1離散時間Markov鏈
5.1.1離散時間Markov鏈及其轉移概率與矩陣
5.1.2離散時間Markov鏈的初始分布與絕對分布
5.2離散時間Markov鏈的狀態分類
5.2.1基本概念
5.2.2離散時間Markov鏈狀態空間的分解
5.3離散時間Markov鏈的極限與平穩分布
5.3.1 pij(k)的極限
5.3.2離散時間Markov鏈狀態的遍歷性與平穩分布
5.4連續時間Markov鏈
5.4.1連續時間Markov鏈與狀態轉移概率
5.4.2連續時間Markov鏈狀態微分方程
5.4.3生滅過程
5.5實例與仿真
5.5.1衛星信道Markov模型
5.5.2衛星信道Markov模型仿真
習題五
第6章隨機過程通過控制系統分析
6.1隨機過程通過離散時間系統的時頻特性
6.1.1離散時間控制系統的脈沖響應
6.1.2系統輸出的時頻特性
6.1.3系統的白噪聲輸入
6.1.4新息
6.1.5離散時間過程的譜分解
6.1.6實例與仿真
6.2隨機過程通過連續時間系統的時頻特性
6.2.1系統輸出的時頻特性
6.2.2系統的高斯白噪聲輸入
6.2.3連續時間過程的譜分解
6.2.4實例與仿真
習題六
第7章ARMA模型及其辨識與預測
7.1ARMA模型
7.1.1自回歸模型
7.1.2滑動平均模型
7.1.3自回歸滑動平均模型
7.2ARMA(M,N)的自相關函數及其譜密度
7.2.1MA(M)序列的自相關函數及其譜密度
7.2.2AR(M)序列的自相關函數及其譜密度
7.2.3ARMA(M,N)序列的自相關函數及其譜密度
7.2.4ARMA(M,N)中模型比較
7.2.5實例與MATLAB計算
7.3ARMA(M,N)的偏相關函數及其譜密度
7.3.1偏相關系數與YuleWalker方程
7.3.2ARMA(M,N)的偏相關系數
7.3.3樣本自相關函數和樣本偏相關函數
7.3.4實例與MATLAB計算
7.4模型定階與MATLAB計算
7.4.1模型定階
7.4.2模型階數的MATLAB計算
7.5模型參數辨識
7.5.1辨識原理
7.5.2基于*小二乘法的模型參數辨識算法
7.5.3實例與仿真
7.6模型的檢驗
7.7ARMA模型的*優預測算法與仿真
7.7.1ARMA模型的*優預測算法
7.7.2實例與仿真
習題七
第8章CARMA模型及其辨識與預測
8.1受控自回歸平移平均模型
8.1.1CARMA模型
8.1.2CARMA模型的穩定性與平穩性
8.2CARMA模型參數辨識算法與仿真
8.2.1CARMA模型參數的*小二乘辨識算法與仿真
8.2.2CARMA模型參數的*大似然辨識算法與仿真
8.2.3CARMA模型參數的Bayes概率辨識算法與仿真
8.3Diophantine方程求解與仿真
8.3.1單步Diophantine方程的求解及仿真
8.3.2多步Diophantine方程的求解與仿真
8.4CARMA模型的*小方差控制算法與仿真
8.4.1單輸入多輸出隨機系統與仿真
8.4.2多輸入多輸出隨機系統
8.5次*優控制算法與仿真
8.5.1穩定性分析
8.5.2次*優控制算法與仿真
習題八
第9章隨機狀態模型與估計算法及仿真
9.1離散時間隨機系統狀態模型與估計算法及仿真
9.1.1離散時間隨機系統狀態模型
9.1.2離散時間系統狀態模型的統計特性與仿真
9.1.3離散時間隨機系統的預測、濾波、平滑與仿真
9.1.4離散時間隨機系統的*優平滑與仿真
9.1.5色噪聲環境下的*優估計
9.1.6穩定性與模型誤差分析
9.2連續時間隨機系統狀態模型與估計算法及仿真
9.2.1連續時間隨機系統狀態模型
9.2.2連續時間隨機系統狀態模型的統計特性與仿真
9.2.3連續時間隨機狀態模型的狀態估計與仿真
9.3隨機狀態模型的轉換與仿真
9.3.1連續時間隨機狀態模型的離散化與仿真
9.3.2離散時間隨機狀態模型的連續化
9.4CARMA模型與狀態空間模塊的轉換
習題九
第10章基于神經網絡的系統辨識與控制
10.1基于BP神經網絡的系統辨識算法與仿真
10.1.1BP神經網絡
10.1.2基于瞬時誤差的BP神經網絡辨識算法與仿真
10.1.3基于統計誤差的BP神經網絡辨識算法與仿真
10.2基于RBF神經網絡的系統辨識與控制算法
10.2.1RBF神經網絡
10.2.2基于RBF神經網絡的系統辨識算法與仿真
10.2.3基于RBF網絡的自適應控制算法與仿真
10.2.4基于RBF神經網絡的PID自校正控制算法與仿真
10.3基于Hopfield神經網絡的系統辨識算法與仿真
10.3.1Hopfield網絡原理
10.3.2Hopfield網絡線性系統參數辨識算法與仿真
習題十
參考文獻
第3章平穩隨機過程及其譜分析
【導讀】本章從平穩隨機過程定義出發,討論了其相關函數、平穩高斯過程和平穩過程的遍歷性; 從普通時間函數的譜分析入手,引入了隨機過程功率譜密度,討論了隨機過程自譜密度、互譜密度及其性質; 從希爾伯特變換定義出發,分析了窄帶隨機過程、窄帶高斯過程及其加正弦信號的包絡和相位特性,以及窄帶高斯過程包絡平方特性; 利用功率譜密度,定義了白噪聲過程,討論了其特點; 定義了M序列,分析了其相關特性和頻域特性; 給出了高斯過程、萊斯過程和M序列產生實例并進行了MATLAB/Simulink仿真。
在自然科學與工程技術研究中遇到的許多隨機過程,從其本身隨時間的變化和互相關聯來看,不僅它當前的狀況,而且它過去的狀況都對未來的狀況有著不可忽略的影響,并且其統計特征不隨時間推移而變化,也就是說,這類隨機過程的性質與變量間的時間間隔有關,與所考察的起點無關,這類隨機過程稱為平穩過程。例如,恒溫條件下熱噪聲電壓是由于電路中電子的熱擾動引起的,這種熱擾動不隨時間推移而改變; 又如,連續測量飛機飛行速度產生的測量誤差,它有很多因素(如儀器振動,電磁波干擾與氣候等)造成,但主要因素不隨時間推移而改變。可見,這類非常重要的隨機過程,在通信理論、天文學、生物學、生態學和經濟學各領域中有著十分廣泛的應用。
……