针对流多处理器访存资源的动态重分配架构OA

通用图形处理器作为并行处理领域最重要的硬件范式,其执行性能不仅依赖于计算资源的数量,更与访存效率息息相关。作为通用图形处理器的核心模块,流多处理器在最新设计中均采用了同构子核的分离式结构,这虽然有效降低了功耗和面积的开销,但同时也带来了新的访存调度需求。本文测试了不同子核的访存阻塞比例,同时研究了访存延迟在一级数据缓存中的主要成因。分析结果显示子核同时阻塞现象具有显著的普遍性,此时所有计算资源陷入停滞而被浪费;实验确定了引发请求阻塞的2大核心因素——地址组冲突和缺失队列资源竞争。为了缓解访存阻塞并提高资源利用率,本文提出了针对访存资源的动态重分配架构,该架构包含了重分配状态转换框架与失败队列。前者为所有子核赋予了不同的访存优先级,以减少子核同步前进导致的访存竞争;后者通过在关键位置增加有限资源,有效缓解了缓存中并发请求的竞争压力,从而减少访存阻塞引发的延迟。最终的实验结果显示,相比于基准结构,本文提出的动态重分配架构最高能达到22.03%的性能提升,在测试集上的平均性能提升则有6.28%,同时该架构还能降低3.51%的能量消耗。