在现代集成电路设计领域,片上网络(Network-on-Chip,NoC)是一种创新的通信架构,它使得多个核心处理器能够在芯片上实现高速、低延迟的通信。然而,随着核心数量的增加,NoC也面临了耗电量增加的严峻挑战。高功耗已成为将NoC应用于未来多核系统的最大瓶颈之一。为了应对这一问题,本文提出了一种动态旁路方法(Dynamic Bypass,简称D-bypass),该方法通过保留机制允许不同的上游路由器在不同时间通过同一已关闭电源的路由器转发数据包。
我们来理解什么是NoC。NoC是一种利用网络化的方法来实现芯片内部各个处理单元之间通信的技术。它借鉴了传统网络中的交换、路由和协议等概念,将原本由共享总线或交叉开关连接的处理器、存储器等组件,通过“网络”来互联,以此来支持更大规模、更高性能的多核处理器系统。
NoC的主要优势在于其低延迟、高带宽和良好的可扩展性。然而,随着集成度的提高,NoC消耗的电力占整个系统电力的比例日益增大。例如,在某些高性能芯片中,NoC可贡献多达28%甚至19%的系统总能耗。这导致高功耗成为限制NoC在高性能多核系统中应用的主要瓶颈。
为了解决NoC的高功耗问题,一种有效的方法是采用电源门控(power gating)技术。电源门控通过关闭未使用的路由器或核心的电源来减少功耗。然而,传统的电源门控方法会导致数据包传输延迟的显著增加以及由于电源门控机制本身产生的额外功耗。为了解决这些负面影响,本文提出了基于保留机制的动态旁路方法。
动态旁路方法的核心思想是利用保留机制,允许不同的上游路由器在不同的时间段内通过同一个已关闭电源的路由器转发数据包。通过这种方法,可以有效地克服相关电源门控方法的缺点。研究者通过实验发现,与传统未采用电源门控的NoC相比,本文提出的动态旁路方法仅导致2.55%的性能损失,而相关方法的性能损失则高达28.67%,19.26%,7.24%和6.69%。同时,动态旁路方法在硬件开销小的前提下,平均只消耗了NoC总功耗的22.23%,比其他相关方法的27.06%,23.89%,26.45%和24.70%都要略低。
在上述研究中,还提到了NoC的其他特点,比如其分布式特性。NoC系统的分布性质意味着通信任务可以被分配到不同的路由器,这为优化数据传输路径和提高网络效率提供了可能。动态旁路方法正是利用了NoC的这一分布式特性,通过在不同时间段为不同上游路由器保留使用权,来实现对已关闭路由器的动态旁路。
此外,从研究者提供的数据中可以看出,动态旁路方法在不显著影响系统性能的同时,大幅降低了NoC的功耗。对于未来高性能计算领域,这无疑是一个极具吸引力的解决方案。随着集成电路技术继续向更小的制程工艺演进,以及晶体管数量的持续增加,高功耗问题会越来越严重。因此,像动态旁路这样的省电技术对于推动高性能计算设备的发展将变得越来越重要。
动态旁路方法提供了一种在保持网络通信性能的同时,有效降低片上网络功耗的新途径。该方法不仅减少了电源门控带来的数据传输延迟,而且降低了额外的功耗开销。本文提出的这种方法有可能在未来的多核处理器设计中得到广泛应用,并推动NoC技术的发展。