集成學習方法是一類先進的機器學習方法，這類方法訓練多個學習器并將它們結合起來解決一個問題，在實踐中獲得了巨大成功。全書分為三部分。第一部分主要介紹集成學習的背景知識；第二部分主要介紹集成學習方法的核心知識，包括Boosting、Bagging、Random Forests等經典算法，平均、投票和Stacking等模型和方法、相關理論分析工作，以及多樣性度量和增強方面的進展。第三部分介紹集成學習方法的進階議題，包括集成修剪、聚類集成和集成學習方法在半監督學習、主動學習、代價敏感學習、類別不平衡學習，以及提升可理解性方面的進展。此外，本書還在每章中的“拓展閱讀”部分提供了相關的進階內容。本書適合對集成學習方法感興趣的研究人員、學生和實踐者閱讀。
周志華，分別于1996年6月、1998年6月和2000年12月于 南京大學計算機科學與技術系獲學士、碩士和博士學位。2001年1月起留校任教，2002年破格晉升副教授，2003年獲 國家杰出青年科學基金，隨后被聘任為教授，2004年獲博士生導師資格，2006年入選教育部長江學者特聘教授。現任南京大學 校學術委員會委員、計算機科學與技術系 主任、人工智能學院 院長、計算機軟件新技術國家重點實驗室 常務副主任、機器學習與數據挖掘研究所 (LAMDA) 所長。美國計算機學會(ACM)、美國科學促進會(AAAS)、國際人工智能學會 (AAAI) 、國際電氣電子工程師學會 (IEEE) 、國際模式識別學會 (IAPR)、國際工程技術學會 (IET/IEE) 、中國計算機學會(CCF)、中國人工智能學會(CAAI) 等學會的會士 (Fellow)，歐洲科學院 外籍院士。教育部高等學校計算機類專業教學指導委員會副主任、證監會科技監管專家咨詢委員會委員、南京市政府人工智能產業顧問，江蘇省政協十、十一、十二屆委員，江蘇省青聯十一屆副主席等。主要從事人工智能、機器學習、數據挖掘等領域的研究工作。
李楠，博士，畢業于南京大學計算機系機器學習與數據挖掘研究所(LAMDA)，師從周志華教授從事機器學習研究。發表論文20余篇，并獲國際數據挖掘競賽冠軍及最佳論文獎。先后供職于阿里巴巴iDST/達摩院和微軟亞洲互聯網工程院，主要從事機器學習在互聯網搜索、推薦和廣告中的研究和應用工作。
第1章 緒 論 1
1.1 基本概念 1
1.2 常用學習算法 3
1.2.1 線性判別分析 3
1.2.2 決策樹 4
1.2.3 神經網絡 6
1.2.4 樸素貝葉斯 8
1.2.5 k-近鄰 9
1.2.6 支持向量機和核方法 9
1.3 評估和對比 12
1.4 集成學習方法 14
1.5 集成學習方法的應用 16
1.6 拓展閱讀 19
第2章Boosting 21
2.1 Boosting 過程 21
2.2 AdaBoost 算法 22
2.3 說明性舉例 26
2.4 理論探討 29
2.4.1 基本分析 29
2.4.2 間隔解釋 30
2.4.3 統計視角 32
2.5 多分類問題 35
2.6 容噪能力 37
2.7 拓展閱讀 40
第3章Bagging 43
3.1 兩種集成范式 43
3.2 Bagging 算法 44
3.3 說明性舉例 45
3.4 理論探討 48
3.5 隨機樹集成 52
3.5.1 隨機森林 52
3.5.2 隨機化譜 55
3.5.3 隨機森林用于密度估計 56
3.5.4 隨機森林用于異常檢測 58
3.6 拓展閱讀 60
第4章結合方法 61
4.1 結合帶來的益處 61
4.2 均值法 62
4.2.1 簡單平均法 62
4.2.2 加權平均法 63
4.3 投票法 65
4.3.1 絕對多數投票法 65
4.3.2 相對多數投票法 66
4.3.3 加權投票法 67
4.3.4 軟投票法 68
4.3.5 理論探討 70
4.4 學習結合法 76
4.4.1 Stacking 76
4.4.2 無限集成 78
4.5 其他結合方法 79
4.5.1 代數法 80
4.5.2 行為知識空間法 81
4.5.3 決策模板法 81
4.6 相關方法 82
4.6.1 糾錯輸出編碼法 82
4.6.2 動態分類器選擇法 85
4.6.3 混合專家模型 86
4.7 拓展閱讀 87
第5章多樣性 91
5.1 集成多樣性 91
5.2 誤差分解 92
5.2.1 誤差-分歧分解 92
5.2.2 偏差-方差-協方差分解 94
5.3 多樣性度量 96
5.3.1 成對度量 96
5.3.2 非成對度量 97
5.3.3 小結和可視化 100
5.3.4 多樣性度量的局限 101
5.4 信息論多樣性 102
5.4.1 信息論和集成 102
5.4.2 交互信息多樣性 103
5.4.3 多信息多樣性 104
5.4.4 估計方法 105
5.5 多樣性增強 106
5.6 拓展閱讀 108
第6章集成修剪 109
6.1 何謂集成修剪 109
6.2 多比全好 110
6.3 修剪方法分類 113
6.4 基于排序的修剪 114
6.5 基于聚類的修剪 117
6.6 基于優化的修剪 117
6.6.1 啟發式優化修剪 118
6.6.2 數學規劃修剪 118
6.6.3 概率修剪 121
6.7 拓展閱讀 122
第7章聚類集成 125
7.1 聚類 125
7.1.1 聚類方法 125
7.1.2 聚類評估 127
7.1.3 為什么要做聚類集成 129
7.2 聚類集成方法分類 130
7.3 基于相似度的方法 132
7.4 基于圖的方法 133
7.5 基于重標記的方法 136
7.6 基于變換的方法 140
7.7 拓展閱讀 143
第8章進階議題 145
8.1 半監督學習 145
8.1.1 未標記數據的效用 145
8.1.2 半監督學習的集成學習方法 146
8.2 主動學習 151
8.2.1 人為介入的效用 151
8.2.2 基于集成的主動學習 152
8.3 代價敏感學習 153
8.3.1 不均等代價下的學習 153
8.3.2 代價敏感學習的集成方法 154
8.4 類別不平衡學習 158
8.4.1 類別不平衡 158
8.4.2 類別不平衡學習的性能評估 160
8.4.3 類別不平衡學習的集成方法 163
8.5 提升可解釋性 166
8.5.1 集成約簡 166
8.5.2 規則抽取 167
8.5.3 可視化 168
8.6 未來的研究方向 169
8.7 拓展閱讀 171
參考文獻 173
索引 203
新書資訊