OpenCL異構并行計算：原理、機制與優(yōu)化實踐

Click to edit Master title style,Click to edit Master text styles,Second level,Third level,Fourth level,Fifth level,11/7/2009,#,單擊此處編輯母版標題樣式,單擊此處編輯母版文本樣式,第二級,第三級,第四級,第五級,*,單擊此處編輯母版標題樣式,單擊此處編輯母版文本樣式,第二級,第三級,第四級,第五級,*,OpenCL異構并行計算：原理、機制與優(yōu)化實踐,OpenCL異構并行計算：原理、機制與優(yōu)化實踐,序一,01,序一01,序一,序一,序二,02,序二02,序二,序二,1 異構并行計算的過去、現(xiàn)狀和未來,03,1 異構并行計算的過去、現(xiàn)狀和未來03,1 異構并行計算的過去、現(xiàn)狀和未來,1.1 單核標量處理器的困境,1.2 多核并行計算與向量化的出現(xiàn),1.5 本章小結,1.3 異構并行計算的崛起,1.4 異構并行計算的未來(百花齊放),1 異構并行計算的過去、現(xiàn)狀和未來1.1 單核標量處理器,LOGO,M.94275.CN,1 異構并行計算的過去、現(xiàn)狀和未來,1.1 單核標量處理器的困境,A,B,1.1.2 為什么單核標量處理器性能到達瓶頸,1.1.1 單核標量處理器如何提高性能,LOGOM.94275.CN1 異構并行計算的過去、現(xiàn)狀和,1.2 多核并行計算與向量化的出現(xiàn),1 異構并行計算的過去、現(xiàn)狀和未來,1.2.2 為什么會有向量化,1.2.4 多核和向量化的難點,1.2.1 為什么會有多核,1.2.3 如何利用多核和向量化的能力,1.2 多核并行計算與向量化的出現(xiàn)1 異構并行計算的過去,1 異構并行計算的過去、現(xiàn)狀和未來,1.3 異構并行計算的崛起,C,B,A,1.3.1 GPGPU的理念,1.3.2 CUDA的崛起,1.3.3 OpenCL橫空出世,1 異構并行計算的過去、現(xiàn)狀和未來1.3 異構并行計算的,2 OpenCL的基本介紹,04,2 OpenCL的基本介紹04,2 OpenCL的基本介紹,2.1 什么是OpenCL,2.2 OpenCL平臺模型,2.3 OpenCL執(zhí)行模型,2.6 OpenCL與CUDA,2.5 OpenCL與OpenGL,2.4 OpenCL存儲器模型,2 OpenCL的基本介紹2.1 什么是OpenCL2.,2.7 本章小結,2 OpenCL的基本介紹,2.7 本章小結2 OpenCL的基本介紹,2 OpenCL的基本介紹,2.4 OpenCL存儲器模型,2.4.1 存儲器區(qū)域,2.4.2 存儲器對象,2.4.3 共享虛擬存儲器,2 OpenCL的基本介紹2.4 OpenCL存儲器模型,3 進入OpenCL的世界(矢量加法),05,3 進入OpenCL的世界(矢量加法)05,3 進入OpenCL的世界(矢量加法),3.1 構建示例,3.2 獲得OpenCL平臺和設備及其屬性,3.3 創(chuàng)建上下文和命令隊列,3.4 創(chuàng)建程序對象和內核對象,3.5 程序對象,3.6 內核對象,3 進入OpenCL的世界(矢量加法)3.1 構建示例,3 進入OpenCL的世界(矢量加法),3.1 構建示例,3.1.1 Windows平臺,3.1.2 Linux平臺,3.1.3 OS X平臺,3.1.4 矢量加示例,3 進入OpenCL的世界(矢量加法)3.1 構建示例3,LOGO,M.94275.CN,3 進入OpenCL的世界(矢量加法),3.2 獲得OpenCL平臺和設備及其屬性,3.2.1 OpenCL平臺,01,3.2.2 OpenCL設備,02,LOGOM.94275.CN3 進入OpenCL的世界(矢,LOGO,M.94275.CN,3 進入OpenCL的世界(矢量加法),3.3 創(chuàng)建上下文和命令隊列,A,3.3.1 創(chuàng)建OpenCL上下文,3.3.2 創(chuàng)建命令隊列,B,LOGOM.94275.CN3 進入OpenCL的世界(矢,3.5 程序對象,3 進入OpenCL的世界(矢量加法),3.5.2 構建程序對象,3.5.1 創(chuàng)建程序對象,3.5.3 查詢和管理程序對象,3.5 程序對象3 進入OpenCL的世界(矢量加法)3,3.6 內核對象,3 進入OpenCL的世界(矢量加法),3.6.2 設置內核參數(shù),3.6.1 創(chuàng)建內核對象,3.6.3 查詢和管理內核對象,3.6 內核對象3 進入OpenCL的世界(矢量加法)3,4 OpenCL C語言,06,4 OpenCL C語言06,4 OpenCL C語言,4.1 修飾符,4.2 標量數(shù)據(jù)類型,4.3 矢量數(shù)據(jù)類型,4.6 數(shù)據(jù)拷貝操作,4.5 工作項布局函數(shù),4.4 運算符,4 OpenCL C語言4.1 修飾符4.2 標量數(shù)據(jù),4 OpenCL C語言,A,4.7 浮點函數(shù),B,4.8 整數(shù)函數(shù),C,4.9 關系函數(shù),D,4.10 雜項矢量函數(shù),E,4.11 同步函數(shù),F,4.12 原子函數(shù),4 OpenCL C語言A4.7 浮點函數(shù)B4.8 整,4 OpenCL C語言,D,C,B,A,4.13 圖像讀/寫函數(shù),4.14 工作組函數(shù),4.15 管道函數(shù),4.16 設備隊列,E,4.17 本章小結,4 OpenCL C語言DCBA4.13 圖像讀/寫函數(shù),4 OpenCL C語言,4.1 修飾符,C,B,A,4.1.1 地址空間修飾符,4.1.2 函數(shù)修飾符,4.1.3 對象訪問修飾符,4 OpenCL C語言4.1 修飾符CBA4.1.1,4 OpenCL C語言,4.3 矢量數(shù)據(jù)類型,A,4.3.1 為什么要有矢量數(shù)據(jù)類型,4.3.2 矢量數(shù)據(jù)的使用,B,4 OpenCL C語言4.3 矢量數(shù)據(jù)類型A4.3.1,4.5 工作項布局函數(shù),4 OpenCL C語言,4.5.1 維度和工作項,4.5.2 工作組,4.5 工作項布局函數(shù)4 OpenCL C語言4.5.1,4 OpenCL C語言,4.6 數(shù)據(jù)拷貝操作,A,4.6.1 矢量數(shù)據(jù)拷貝,4.6.2 異步拷貝和預取,B,4 OpenCL C語言4.6 數(shù)據(jù)拷貝操作A4.6.1,4 OpenCL C語言,4.7 浮點函數(shù),4.7.1 數(shù)學函數(shù),4.7.2 公共函數(shù),4.7.3 幾何函數(shù),4 OpenCL C語言4.7 浮點函數(shù)4.7.1 數(shù),4 OpenCL C語言,4.13 圖像讀/寫函數(shù),1,4.13.1 內建圖像讀函數(shù),2,4.13.2 內建無采樣器圖像讀函數(shù),3,4.13.3 內建圖像寫函數(shù),4,4.13.4 內建圖像查詢函數(shù),4 OpenCL C語言4.13 圖像讀/寫函數(shù)14.1,4.15 管道函數(shù),4 OpenCL C語言,4.15.2 內建工作組管道讀/寫函數(shù),4.15.1 內建管道讀/寫函數(shù),4.15.3 內建管道查詢函數(shù),4.15 管道函數(shù)4 OpenCL C語言4.15.2,4.16 設備隊列,4 OpenCL C語言,4.16.1 Blocks語法,4.16.2 設備隊列相關函數(shù),4.16.3 子內核存儲器可見性,4.16.4 設備隊列的使用示例,D,C,A,B,4.16 設備隊列4 OpenCL C語言4.16.1,5 OpenCL存儲器對象,07,5 OpenCL存儲器對象07,5 OpenCL存儲器對象,5.2 圖像對象和采樣器對象,5.4 存儲器對象數(shù)據(jù)傳輸,5.6 存儲器一致性模型,5.1 緩沖區(qū),5.3 管道,5.5 共享虛擬存儲器,5 OpenCL存儲器對象5.2 圖像對象和采樣器對象5,5 OpenCL存儲器對象,5.7 本章小結,5 OpenCL存儲器對象5.7 本章小結,5 OpenCL存儲器對象,5.1 緩沖區(qū),5.1.1 分配緩沖區(qū)對象,5.1.2 創(chuàng)建子緩沖區(qū)對象,5 OpenCL存儲器對象5.1 緩沖區(qū)5.1.1 分,LOGO,M.94275.CN,5 OpenCL存儲器對象,5.2 圖像對象和采樣器對象,5.2.1 圖像對象,5.2.2 采樣器對象,5.2.3 圖像旋轉示例,LOGOM.94275.CN5 OpenCL存儲器對象5.,5 OpenCL存儲器對象,5.3 管道,5.3.1 創(chuàng)建管道對象,1,5.3.2 管道對象查詢,2,5 OpenCL存儲器對象5.3 管道5.3.1 創(chuàng)建,5 OpenCL存儲器對象,5.4 存儲器對象數(shù)據(jù)傳輸,1,5.4.1 主機與設備間數(shù)據(jù)傳輸,2,5.4.2 存儲器對象數(shù)據(jù)填充,3,5.4.3 存儲器對象間數(shù)據(jù)傳輸,4,5.4.4 存儲器對象映射,5 OpenCL存儲器對象5.4 存儲器對象數(shù)據(jù)傳輸15,LOGO,M.94275.CN,5 OpenCL存儲器對象,5.5 共享虛擬存儲器,5.5.1 SVM緩沖操作,5.5.2 SVM類型和特性,5.5.3 相關示例,LOGOM.94275.CN5 OpenCL存儲器對象5.,LOGO,M.94275.CN,5 OpenCL存儲器對象,5.6 存儲器一致性模型,1,5.6.1 存儲器次序規(guī)則,3,5.6.3 柵欄操作的存儲器次序規(guī)則,5,5.6.5 主機端與設備端命令的存儲器次序規(guī)則,2,5.6.2 原子操作的存儲器次序規(guī)則,4,5.6.4 工作組函數(shù)的存儲器次序規(guī)則,6,5.6.6 關于存儲器次序在實際OpenCL計算設備中的實現(xiàn),LOGOM.94275.CN5 OpenCL存儲器對象5.,6 OpenCL同步及事件機制,08,6 OpenCL同步及事件機制08,6 OpenCL同步及事件機制,A,E,D,F,B,C,6.2 OpenCL事件機制,6.3 原子操作,6.5 工作組間同步,6.4 局部存儲器與全局存儲器間的異步拷貝,6.6 本章小結,6.1 主機端的OpenCL同步,6 OpenCL同步及事件機制AEDFBC6.2 Ope,6.2 OpenCL事件機制,6 OpenCL同步及事件機制,6.2.2 內核程序中的同步,6.2.1 對OpenCL事件的標記和柵欄,6.2.3 工作組內同步,6.2 OpenCL事件機制6 OpenCL同步及事件機,6 OpenCL同步及事件機制,6.3 原子操作,A,B,6.3.2 OpenCL 2.0中的原子操作,6.3.1 OpenCL 1.2中的原子操作,6 OpenCL同步及事件機制6.3 原子操作AB6.3,7 OpenCL與OpenGL互操作,09,7 OpenCL與OpenGL互操作09,7 OpenCL與OpenGL互操作,7.1 從一個OpenGL上下文來創(chuàng)建OpenCL上下文,7.2 OpenCL使用OpenGL共享的緩存對象,7.3 OpenCL使用OpenGL紋理數(shù)據(jù),7.4 OpenCL共享OpenGL渲染緩存,7.5 從一個OpenCL存儲器對象查詢OpenGL對象信息,7.6 訪問共享對象的OpenCL與OpenGL之間的同步,7 OpenCL與OpenGL互操作7.1 從一個Ope,7 OpenCL與OpenGL互操作,7.7 本章小結,7 OpenCL與OpenGL互操作7.7 本章小結,8 OpenCL到主流GPU處理器的映射,10,8 OpenCL到主流GPU處理器的映射10,8 OpenCL到主流GPU處理器的映射,8.1 AMD家族GPU,8.2 NVIDIA CUDA兼容的GPU,8.3 ARM Mali GPU架構,8.4 本章小結,8 OpenCL到主流GPU處理器的映射8.1 AMD家,8 OpenCL到主流GPU處理器的映射,8.1 AMD家族GPU,8.1.1 AMD Cayman架構GPU,8.1.2 AMD GCN架構的GPU,8 OpenCL到主流GPU處理器的映射8.1 AMD家,LOGO,M.94275.CN,8 OpenCL到主流GPU處理器的映射,8.2 NVIDIA CUDA兼容的GPU,8.2.1 NVIDIA GPU架構的執(zhí)行模型,8.2.2 NVIDIA GPU的全局存儲器,8.2.3 NVIDIA