《并行程序設計導論》全面涵蓋了并行軟件和硬件的方方面面，深入淺出地介紹如何使用MPI（分布式內存編程）、Pthreads和OpenMP（共享內存編程）編寫高效的并行程序。各章節包含了難易程度不同的編程習題。《并行程序設計導論》可以用做計算機科學專業低年級本科生的專業課程的教材，也可以作為軟件開發人員學習并行程序設計的專業參考書。
出版者的話譯者序本書贊譽前言致謝第1章 為什么要并行計算1.1 為什么需要不斷提升的性能1.2 為什么需要構建并行系統1.3 為什么需要編寫并行程序1.4 怎樣編寫并行程序1.5 我們將做什么1.6 并發、并行、分布式1.7 本書的其余部分1.8 警告1.9 字體約定1.10 小結1.11 習題第2章 并行硬件和并行軟件2.1 背景知識2.1.1 馮·諾依曼結構2.1.2 進程、多任務及線程2.2 對馮·諾依曼模型的改進2.2.1 Cache基礎知識2.2.2 Cache映射2.2.3 Cache和程序：一個實例2.2.4 虛擬存儲器2.2.5 指令級并行2.2.6 硬件多線程2.3 并行硬件2.3.1 SIMD系統2.3.2 MIMD系統2.3.3 互連網絡2.3.4 Cache一致性2.3.5 共享內存與分布式內存2.4 并行軟件2.4.1 注意事項2.4.2 進程或線程的協調2.4.3 共享內存2.4.4 分布式內存2.4.5 混合系統編程2.5 輸入和輸出2.6 性能2.6.1 加速比和效率2.6.2 阿姆達爾定律2.6.3 可擴展性2.6.4 計時2.7 并行程序設計2.8 編寫和運行并行程序2.9 假設2.10 小結2.10.1 串行系統2.10.2 并行硬件2.10.3 并行軟件2.10.4 輸入和輸出2.10.5 性能2.10.6 并行程序設計2.10.7 假設2.11 習題第3章 用MPI進行分布式內存編程3.1 預備知識3.1.1 編譯與執行3.1.2 MPI程序3.1.3 MPI_Init和MPI_Finalize3.1.4 通信子、MPI_Comm_size和MPI_Comm_rank3.1.5 SPMD程序3.1.6 通信3.1.7 MPI_Send3.1.8 MPI_Recv3.1.9 消息匹配3.1.10 status_p參數3.1.11 MPI_Send和MPI_Recv的語義3.1.12 潛在的陷阱3.2 用MPI來實現梯形積分法3.2.1 梯形積分法3.2.2 并行化梯形積分法3.3 I/O處理3.3.1 輸出3.3.2 輸入3.4 集合通信3.4.1 樹形結構通信3.4.2 MPI_Reduce3.4.3 集合通信與點對點通信3.4.4 MPI_Allreduce3.4.5 廣播3.4.6 數據分發3.4.7 散射3.4.8 聚集3.4.9 全局聚集3.5 MPI的派生數據類型3.6 MPI程序的性能評估3.6.1 計時3.6.2 結果3.6.3 加速比和效率3.6.4 可擴展性3.7 并行排序算法3.7.1 簡單的串行排序算法3.7.2 并行奇偶交換排序3.7.3 MPI程序的安全性3.7.4 并行奇偶交換排序算法的重要內容3.8 小結3.9 習題3.10 編程作業第4章 用Pthreads進行共享內存編程4.1 進程、線程和Pthreads4.2 “Hello，World”程序4.2.1 執行4.2.2 準備工作4.2.3 啟動線程4.2.4 運行線程4.2.5 停止線程4.2.6 錯誤檢查4.2.7 啟動線程的其他方法4.3 矩陣-向量乘法4.4 臨界區4.5 忙等待4.6 互斥量4.7 生產者-消費者同步和信號量4.8 路障和條件變量4.8.1 忙等待和互斥量4.8.2 信號量4.8.3 條件變量4.8.4 Pthreads路障4.9 讀寫鎖4.9.1 鏈表函數4.9.2 多線程鏈表4.9.3 Pthreads讀寫鎖4.9.4 不同實現方案的性能4.9.5 實現讀寫鎖4.10 緩存、緩存一致性和偽共享4.11 線程安全性4.12 小結4.13 習題4.14 編程作業第5章 用OpenMP進行共享內存編程5.1 預備知識5.1.1 編譯和運行OpenMP程序5.1.2 程序5.1.3 錯誤檢查5.2 梯形積分法5.3 變量的作用域5.4 歸約子句5.5 parallelfor指令5.5.1 警告5.5.2 數據依賴性5.5.3 尋找循環依賴5.5.4 π值估計5.5.5 關于作用域的更多問題5.6 更多關于OpenMP的循環：排序5.6.1 冒泡排序5.6.2 奇偶變換排序5.7 循環調度5.7.1 schedule子句5.7.2 static調度類型5.7.3 dynamic和guided調度類型5.7.4 runtime調度類型5.7.5 調度選擇5.8 生產者和消費者問題5.8.1 隊列5.8.2 消息傳遞5.8.3 發送消息5.8.4 接收消息5.8.5 終止檢測5.8.6 啟動5.8.7 atomic指令5.8.8 臨界區和鎖5.8.9 在消息傳遞程序中使用鎖5.8.10 critical指令、atomic指令、鎖的比較5.8.11 經驗5.9 緩存、緩存一致性、偽共享5.10 線程安全性5.11 小結5.12 習題5.13 編程作業第6章 并行程序開發6.1 n體問題的兩種解決方法6.1.1 問題6.1.2 兩個串行程序6.1.3 并行化n體算法6.1.4 關于I/O6.1.5 用OpenMP并行化基本算法6.1.6 用OpenMP并行化簡化算法6.1.7 評估OpenMP程序6.1.8 用Pthreads并行化算法6.1.9 用MPI并行化基本算法6.1.10 用MPI并行化簡化算法6.1.11 MPI程序的性能6.2 樹形搜索6.2.1 遞歸的深度優先搜索6.2.2 非遞歸的深度優先搜索6.2.3 串行實現所用的數據結構6.2.4 串行實現的性能6.2.5 樹形搜索的并行化6.2.6 采用Pthreads實現的靜態并行化樹搜索6.2.7 采用Pthreads實現的動態并行化樹搜索6.2.8 Pthreads樹搜索程序的評估6.2.9 采用OpenMp實現的并行化樹搜索程序6.2.10 OpenMp實現的性能6.2.11采用MPI和靜態劃分來實現樹搜索6.2.12 采用MPI和動態劃分來實現樹搜索6.3 忠告6.4 選擇哪個API6.5 小結6.5.1 Pthreads和OpenMP6.5.2 MPI6.6 習題6.7 編程作業第7章 接下來的學習方向參考文獻索引
新書資訊