本書結(jié)合實(shí)際應(yīng)用介紹神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)等技術(shù)領(lǐng)域相關(guān)信息,從結(jié)構(gòu)上重點(diǎn)介紹了前饋型神經(jīng)網(wǎng)絡(luò)、反饋型神經(jīng)網(wǎng)絡(luò),以及自組織競爭型神經(jīng)網(wǎng)絡(luò),并針對當(dāng)下深度學(xué)習(xí)中比較重要的網(wǎng)絡(luò)進(jìn)行了詳細(xì)介紹,包括卷積神經(jīng)網(wǎng)絡(luò)、循環(huán)(遞歸)神經(jīng)網(wǎng)絡(luò)、深度信念網(wǎng)絡(luò)、生成對抗網(wǎng)絡(luò),以及深度強(qiáng)化學(xué)習(xí)。本書不僅能讓讀者對當(dāng)前神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)技術(shù)有體系的認(rèn)知,更能讓讀者在人工智能領(lǐng)域進(jìn)行一些深入思考。
神經(jīng)網(wǎng)絡(luò)是機(jī)器學(xué)習(xí)和深度學(xué)習(xí)的基礎(chǔ),本書用一條學(xué)習(xí)路線貫穿全書,首先講解了數(shù)學(xué)基礎(chǔ)、機(jī)器學(xué)習(xí)基礎(chǔ)以及神經(jīng)網(wǎng)絡(luò)基礎(chǔ),接著通過原理、結(jié)構(gòu)、實(shí)例、優(yōu)劣勢分析、適用場景等全方位講解了各種常典型的神經(jīng)網(wǎng)絡(luò),緊密結(jié)合一線工程師的研究成果,可以幫助讀者更好地學(xué)習(xí)神經(jīng)
前言
本書結(jié)合實(shí)際應(yīng)用介紹神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)等技術(shù)領(lǐng)域相關(guān)信息,從結(jié)構(gòu)上重點(diǎn)介紹了前
饋型神經(jīng)網(wǎng)絡(luò)、反饋型神經(jīng)網(wǎng)絡(luò),以及自組織競爭型神經(jīng)網(wǎng)絡(luò),并針對當(dāng)下深度學(xué)習(xí)中比較重
要的網(wǎng)絡(luò)進(jìn)行了詳細(xì)介紹,包括卷積神經(jīng)網(wǎng)絡(luò)、循環(huán)(遞歸)神經(jīng)網(wǎng)絡(luò)、深度信念網(wǎng)絡(luò)、生成
對抗網(wǎng)絡(luò),以及深度強(qiáng)化學(xué)習(xí)。本書不僅能讓讀者對當(dāng)前神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)技術(shù)有體系的認(rèn)
知,更能讓讀者在人工智能領(lǐng)域進(jìn)行一些深入思考。
讀者對象
? 對神經(jīng)網(wǎng)絡(luò)、深度學(xué)習(xí)以及人工智能有興趣的讀者;
? 對算法以及機(jī)器學(xué)習(xí)領(lǐng)域有興趣的讀者;
? 互聯(lián)網(wǎng)行業(yè)不同層次的從業(yè)者;
? 軟件工程或計(jì)算機(jī)相關(guān)專業(yè)的在校學(xué)生。
本書特色
書中內(nèi)容緊密結(jié)合當(dāng)前一線工程師工作研究成果,是對當(dāng)前神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)的完整性
原理介紹和實(shí)踐分析。本書充分利用了最新技術(shù)發(fā)展的應(yīng)用成果,不僅結(jié)合原理分析,還結(jié)合
案例進(jìn)行輔助理解。
本書介紹的相關(guān)深度學(xué)習(xí)技術(shù)廣泛應(yīng)用于各個(gè)領(lǐng)域,可以在自然語言處理、計(jì)算機(jī)視覺、
文本分析等領(lǐng)域中應(yīng)用,在當(dāng)前甚至未來三到五年,都具有實(shí)際意義。
本書結(jié)構(gòu)
本書按照由淺入深、循序漸進(jìn)的順序?qū)ι窠?jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)的內(nèi)容進(jìn)行介紹。全書共分為
三篇,分別從基礎(chǔ)、進(jìn)階、高階三個(gè)層次逐步展開,總共12 章,各章的主要內(nèi)容如下。
第1 章闡述了在當(dāng)前時(shí)代背景下,神經(jīng)網(wǎng)絡(luò)和人工智能的發(fā)展歷程,針對未來人工智能極
可能改變的領(lǐng)域進(jìn)行了深入介紹,并介紹了深度學(xué)習(xí)與機(jī)器學(xué)習(xí)的關(guān)系,以及深度學(xué)習(xí)與人工
智能的關(guān)系。
第2 章介紹了神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)的數(shù)學(xué)基礎(chǔ),從向量、矩陣、導(dǎo)數(shù)、數(shù)值計(jì)算、概率分
布、參數(shù)估計(jì)等方面進(jìn)行了詳細(xì)介紹,為學(xué)習(xí)后續(xù)內(nèi)容奠定基礎(chǔ)。
第3 章重點(diǎn)介紹了機(jī)器學(xué)習(xí)的基礎(chǔ)內(nèi)容,神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)都屬于機(jī)器學(xué)習(xí)中的內(nèi)容,
包括擬合問題、交叉檢驗(yàn)、產(chǎn)生式與判別式模型等,有助于加強(qiáng)對神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)的理解。
第4 章介紹了神經(jīng)網(wǎng)絡(luò)的基礎(chǔ),包括神經(jīng)網(wǎng)絡(luò)中常見的學(xué)習(xí)方法以及神經(jīng)網(wǎng)絡(luò)的優(yōu)化方法,
闡述了常見的神經(jīng)網(wǎng)絡(luò)類型以及深度學(xué)習(xí)中的網(wǎng)絡(luò)類型,并介紹了深度學(xué)習(xí)與多層神經(jīng)網(wǎng)絡(luò)的
關(guān)系。
第5 章重點(diǎn)介紹了前饋型神經(jīng)網(wǎng)絡(luò),它是神經(jīng)網(wǎng)絡(luò)中極為重要的一種網(wǎng)絡(luò)類型。本章從單
層感知器開始,逐步深入介紹了BP 神經(jīng)網(wǎng)絡(luò)以及徑向基函數(shù)神經(jīng)網(wǎng)絡(luò),重點(diǎn)介紹了反向傳播
算法。
第6 章詳細(xì)介紹了反饋型神經(jīng)網(wǎng)絡(luò),它是一種帶聯(lián)想記憶的神經(jīng)網(wǎng)絡(luò)。本章重點(diǎn)介紹了
Hopfiled 神經(jīng)網(wǎng)絡(luò)、Elman 神經(jīng)網(wǎng)絡(luò)以及遞歸神經(jīng)網(wǎng)絡(luò)。對于遞歸神經(jīng)網(wǎng)絡(luò)還進(jìn)行了更為深入
的介紹,包括其反向傳播算法以及各類改進(jìn)的結(jié)構(gòu)。
第7 章重點(diǎn)介紹了自組織競爭型神經(jīng)網(wǎng)絡(luò),從傳統(tǒng)的系統(tǒng)聚類法、基于劃分的聚類算法、
基于密度的聚類算法、基于層次的聚類算法開始,詳細(xì)介紹了自組織競爭型神經(jīng)網(wǎng)絡(luò)中的典型
代表自組織映射網(wǎng)絡(luò),還介紹了自適應(yīng)共振理論以及對偶傳播網(wǎng)絡(luò)。
第8 章介紹了卷積神經(jīng)網(wǎng)絡(luò),卷積神經(jīng)網(wǎng)絡(luò)是目前圖像處理中比較優(yōu)秀的神經(jīng)網(wǎng)絡(luò)。本章
重點(diǎn)介紹了卷積神經(jīng)網(wǎng)絡(luò)中的卷積、卷積核等重要基礎(chǔ)概念,詳細(xì)闡述了卷積神經(jīng)網(wǎng)絡(luò)中各層
的工作原理,并介紹了常見的間距神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)。
第9 章介紹了循環(huán)神經(jīng)網(wǎng)絡(luò),循環(huán)神經(jīng)網(wǎng)絡(luò)與遞歸神經(jīng)網(wǎng)絡(luò)有一定的相似性。本章介紹了
一般的循環(huán)神經(jīng)網(wǎng)絡(luò),包括單向循環(huán)神經(jīng)網(wǎng)絡(luò)、雙向循環(huán)神經(jīng)網(wǎng)絡(luò)以及深度循環(huán)神經(jīng)網(wǎng)絡(luò)。重
點(diǎn)介紹了長短時(shí)記憶網(wǎng)絡(luò)。
第10 章介紹了深度信念網(wǎng)絡(luò),深度信念網(wǎng)絡(luò)是由受限玻爾茲曼機(jī)組成的網(wǎng)絡(luò)結(jié)構(gòu)。本章
重點(diǎn)介紹了受限玻爾茲曼機(jī)的邏輯結(jié)構(gòu)和工作原理,并介紹了深度信念網(wǎng)絡(luò)的訓(xùn)練過程。
第11 章介紹了生成對抗網(wǎng)絡(luò),生成對抗網(wǎng)絡(luò)是未來會(huì)有較大突破的網(wǎng)絡(luò)結(jié)構(gòu)之一。本章
從一般的生成對抗網(wǎng)絡(luò)入手進(jìn)行介紹,然后介紹了各類改進(jìn)版本,包括DCGAN、CGAN、
WGAN 等,并對生成對抗網(wǎng)絡(luò)的未來做了一定猜想。
第12 章介紹了深度強(qiáng)化學(xué)習(xí),深度強(qiáng)化學(xué)習(xí)是一種有別于傳統(tǒng)的有監(jiān)督學(xué)習(xí)和無監(jiān)督學(xué)
習(xí)的學(xué)習(xí)方式。本章重點(diǎn)介紹了強(qiáng)化學(xué)習(xí)的工作原理、馬爾科夫決策過程等,并結(jié)合強(qiáng)化學(xué)習(xí)
的各類算法進(jìn)行了詳細(xì)的介紹。
上述章節(jié)中,郭武彪完成了第6 章內(nèi)容的編寫,陳相禮完成了第9 章內(nèi)容的編寫,楊華完
成了第11 章內(nèi)容的編寫以及本書格式校驗(yàn),其余章節(jié)內(nèi)容由劉凡平完成編寫,并對本書內(nèi)容
進(jìn)行了校驗(yàn)。
由于時(shí)間倉促及編者水平有限,書中難免存在錯(cuò)誤和不足之處,懇請廣大讀者多多理解,
并批評指正,也可以通過郵箱(liufanping@iveely.com)聯(lián)系我們。
劉凡平,碩士,畢業(yè)于中國科學(xué)技術(shù)大學(xué),專注于大數(shù)據(jù)分析、搜索引擎、機(jī)器學(xué)習(xí)和深度學(xué)習(xí)研究,曾任職于微軟亞太研發(fā)集團(tuán),現(xiàn)任職于百度(中國)有限公司,曾出版《大數(shù)據(jù)搜索引擎原理分析及編程》《大數(shù)據(jù)時(shí)代的算法》,是執(zhí)著于將互聯(lián)網(wǎng)技術(shù)演繹為藝術(shù)的完美追求者。