片上多處理器共享Cache最佳化關鍵技術研究

《片上多處理器共享Cache最佳化關鍵技術研究》是依託中國人民解放軍國防科技大學，由徐金波擔任項目負責人的青年科學基金項目。

基本介紹

• 中文名：片上多處理器共享Cache最佳化關鍵技術研究
• 項目類別：青年科學基金項目
• 項目負責人：徐金波
• 依託單位：中國人民解放軍國防科技大學

中文摘要

片上多處理器通常採用共享最後一級Cache的方式。由於多核對共享Cache的競爭問題，同時兼顧多核對Cache訪問的高性能和公平性具有較大挑戰性。針對此，從多個角度進行Cache最佳化，並有機整合為完整的Cache最佳化框架。.在硬體結構方面，藉助理論分析與實驗驗證手段研究共享Cache大小、數量、組織方式、互連結構對線延遲的影響，通過物理路徑最佳化和邏輯距離最佳化，縮短線延遲；在資源管理方面，研究基於各個核的負載分布情況進行公平性度量的共享Cache資源動態公平劃分機制；在數據調度方面，研究充分挖掘核間數據訪問模式協同性的數據預取策略；在失效替換策略方面，研究結合數據訪問頻率信息、實現機制更簡單的替換策略。.通過有機集成以上最佳化策略，能夠降低硬體結構複雜性，減小訪問延遲，動態保證資源劃分公平性，增強Cache與處理器核的協同性，提高命中率和資源利用率，實現多核性能的均衡提升。

結題摘要

片上多處理器（Chip Multi-Processor, CMP）的共享Cache資源是影響CMP性能的關鍵因素，目前CMP上共享Cache最佳化問題仍是微處理器領域的研究熱點之一。針對此問題，本項目從多個角度提出了新的最佳化策略。首先進行了Cache最佳化研究的前期調研工作，重點研究了典型科學套用的數據訪問模式特徵，提高Cache最佳化研究工作的針對性和效率。然後研究了基於模擬器對CMP存儲資源進行建模的方法，為課題研究提供性能分析平台。基於以上基礎，從多個角度開展了CMP共享Cache最佳化研究。第一，從數據Cache組織角度研究了數據訪問延遲最佳化技術，提出了基於多體並行快取結構對Cache進行無衝突並行隨機訪問的數據管理機制，通過物理路徑最佳化和邏輯距離最佳化，降低了訪問延遲。第二，從指令Cache調度角度研究了結合核間數據訪問模式協同性的指令預取最佳化策略，通過對同時多執行緒（SMT）技術的執行時間不可預測性問題進行分析，提出了能夠挖掘執行緒間指令執行模式相似性的指令預取策略來控制執行緒執行時間，提升了具有相似指令執行模式的多個執行緒對Cache資源的利用效率。第三，從Cache資源劃分角度研究了CMP末級Cache結構最佳化問題，提出了基於核心分組的低延遲末級Cache結構，與傳統結構相比，每個核心周圍的相鄰Cache占Cache資源總量的比例大大提高，從而在較短的線延遲範圍內使每個核心可訪問的Cache資源儘可能多。與其它傳統結構相比，該成果減少了2%到12%的訪問延遲，性能提升最高達7%。第四，從Cache資源劃分及替換策略角度提出了一種細粒度、低延遲、低代價的末級共享cache資源管理機制。將系統性能目標轉換為每個核心當前占用cache資源的替換機率，以決定每個核心能夠提供的victim line資源數量；對某個需要增加cache資源的核心，從可提供victim line的候選核心中選出距離較近且替換機率較高的一個核心，並以cache塊為粒度進行替換。以cache塊為單位的替換機制具有更細的替換粒度，靈活性更高。另外，通過將位置信息和替換機率結合，保證了cache資源與相應核心在物理布局上的收斂，降低了訪問延遲。所提出的方法只需要增加極少的硬體代價。該成果與其它已有研究成果相比，可實現從6.8%到22.7%的性能提升。本課題取得的成果對CMP的性能提升具有重要科學意義。