0 引言
在航空航天、醫療服務、地質勘探等復雜應用領域，需要處理的數據量急劇增大，需要高性能的實時計算能力提供支撐。與多核處理器相比，眾核處理器計算資源密度更高、片上通信開銷顯著降低、性能/功耗比明顯提高，可為實時系統提供強大的計算能力。
在復雜應用領域當中，不同應用場景對計算的緩沖需求可能不同。例如，移動機器人在作業時，可能需要同時執行路徑規劃、目標識別等多個任務，這些任務需要同時執行;在對遙感圖像處理時，需要對圖像數據進行配準、融合、重構、特征提取等多個步驟，這些步驟間既需要同時執行，又存在前驅后繼的關系。因此，基于眾核處理器進行計算模式的動態構造，以適應不同的應用場景和應用任務成為一種新的研究方向。文獻[1]研究了具有邏輯核構造能力的眾核處理器體系結構，其基本思想是基于多個細粒度緩沖處理器核構建成粗粒度邏輯核，將不斷增加的處理器核轉化為單線程串行應用的性能提升。文獻提出并驗證了一種基于類數據流驅動模型的可重構眾核處理器結構，實現了邏輯核處理器的運行時可重構機制。文獻 提出了一種支持核資源動態分組的自適應調度算法，通過對任務簇的拆分與合并，動態構建可彈性分區的核邏輯組，實現核資源的隔離優化訪問。
GPGPU(General - Purpose Computing on GraphicsProcessing Units)作為一種典型的眾核處理器，有關研究多面向單任務并發執行方面的優化以及應用算法的加速。本文以GPGPU為平臺，通過研究和設計，構建了單任務并行、多任務并行和多任務流式處理的多計算模式處理系統。
1 眾核處理機
1.1 眾核處理機結構
眾核處理機是基于眾核控制單元(MPU)與眾核處理器(GPGPU)相結合的主、協處理方式構建而成，其邏輯結構如圖1所示。眾核處理機由眾核控制單元和眾核計算單元兩部分組成，其中眾核控制單元采用X86結構的MPU，與眾核計算單元之間通過PCI-E總線進行互連。
1.2 CUDA流與Hyper-Q
在統一計算設備架構(Compute Unified Device Ar-chitecture，CUDA)編程模型中，CUDA流(CUDA Stream)表示GPU的一個操作隊列，通過CUDA流來管理任務和并行。CUDA 流的使用分為兩種：一種是CUDA 在創建上下文時會隱式地創建一個CUDA流，從而命令可以在設備中排隊等待執行;另一種是在編程時，在執行配置中顯式地指定CUDA 流。不管以何種方式使用CUDA流，所有的操作在CUDA流中都是按照先后順序排隊執行，然后每個操作按其進入隊列的順序離開隊列。換言之，隊列充當了一個FIFO(先入先出)緩沖區，操作按照它們在設備中的出現順序離開隊列。
在GPU 中，有一個CUDA 工作調度器(CUDA WorkDistributor，CWD)的硬件單元，專門負責將計算工作分發到不同的流處理器中。在Fermi架構中，雖然支持16 個內核的同時啟動，但由于只有一個硬件工作隊列用來連接主機端CPU 和設備端GPU，造成并發的多個CUDA 流中的任務在執行時必須復用同一硬件工作隊列，產生了虛假的流內依賴關系，必須等待同一CUDA流中相互依賴的kernel執行結束，另一CUDA流中的ker-nel才能開始執行。而在Kepler GK110架構中，新具有的Hyper-Q特性消除了只有單一硬件工作隊列的限制，增加了硬件工作隊列的數量，因此，在CUDA 流的數目不超過硬件工作隊列數目的前提下，允許每個CUDA流獨占一個硬件工作隊列，CUDA流內的操作不再阻塞其他CUDA流的操作，多個CUDA流能夠并行執行。
