協(xié)作組：靈活的 CUDA 線程編程

英文原文?來自?NVIDIA?Developer Blog

官方手冊

在有效的并行算法中，線程通過合作并共享數(shù)據(jù)來執(zhí)行集體計算。要共享數(shù)據(jù)，線程必須同步。共享的粒度因算法而異，因此線程同步應(yīng)該是靈活的。使同步成為程序的顯式部分，來確保安全、可維護和模塊化。為了滿足這些需求，CUDA 9 引入了協(xié)作組，它通過擴展 CUDA 編程模型，從而允許內(nèi)核動態(tài)地組織線程組。

從歷史上看，CUDA 編程模型為同步協(xié)作線程提供了一個單一的、簡單的構(gòu)造：線程塊內(nèi)的所有線程之間使用__syncthreads() 函數(shù)實現(xiàn)屏障。然而，CUDA 程序員通常需要定義和同步比線程塊小的線程組，以便以“集體”組范圍的函數(shù)接口的形式實現(xiàn)更大的性能提升、設(shè)計靈活性和軟件重用。

協(xié)作組編程模型描述了 CUDA 線程塊內(nèi)部和跨線程塊的同步模式。它提供了用于定義、分區(qū)和同步線程組的 CUDA 設(shè)備代碼 APIs。它還提供主機端 APIs 來啟動 “所有線程都保證并發(fā)執(zhí)行” 的網(wǎng)格，以支持線

任務(wù)調(diào)度

版權(quán)聲明：本文內(nèi)容由網(wǎng)絡(luò)用戶投稿，版權(quán)歸原作者所有，本站不擁有其著作權(quán)，亦不承擔(dān)相應(yīng)法律責(zé)任。如果您發(fā)現(xiàn)本站中有涉嫌抄襲或描述失實的內(nèi)容，請聯(lián)系我們jiasou666@gmail.com 處理，核實后本網(wǎng)站將在24小時內(nèi)刪除侵權(quán)內(nèi)容。

版權(quán)聲明：本文內(nèi)容由網(wǎng)絡(luò)用戶投稿，版權(quán)歸原作者所有，本站不擁有其著作權(quán)，亦不承擔(dān)相應(yīng)法律責(zé)任。如果您發(fā)現(xiàn)本站中有涉嫌抄襲或描述失實的內(nèi)容，請聯(lián)系我們jiasou666@gmail.com 處理，核實后本網(wǎng)站將在24小時內(nèi)刪除侵權(quán)內(nèi)容。