Energy-efficient work-stealing language

工作窃取是一种多线程程序运行时的线程管理策略，对于构建并行编程语言的多线程运行时非常有效。其主要目标是维持多线程语言运行时的效率，尤其是针对并行架构。HERMES是一种能量高效的多线程工作窃取运行时语言，它依赖于两个互补的算法来协调线程的运行节奏，即线程的工作路径敏感算法和工作负载敏感算法。这些算法能够基于窃取者和受害者之间的关系以及工作窃取队列的大小来调整线程的运行速度。 窃取者指的是那些寻找并执行任务的线程，而受害者则是那些任务被窃取的线程。HERMES的设计洞察在于认识到这些线程对于整个程序运行时间的影响是不同的，通过协调它们的执行节奏（tempo）可以在几乎不影响性能的情况下提高能效。HERMES运行时在Intel Cilk Plus的运行时环境之上构建，并通过标准的动态电压与频率调节（DVFS）实现对线程节奏的调整。在HERMES上运行的基准测试显示，与商业CPU相比，平均可实现11-12%的能源节省，同时平均性能损失仅为3-4%。 工作窃取运行时的核心在于管理线程间的任务分配，以最大化多核处理器的性能。当一个线程（窃取者）完成自己的工作队列中的任务后，它可以“窃取”另一个线程（受害者）的工作队列中的任务来执行。这种策略可以在动态负载条件下平衡处理器间的负载，特别是在面对不可预测的任务延迟或计算时间时，工作窃取能够有效地提高程序的吞吐量。 HERMES运行时中的工作路径敏感算法根据窃取者与受害者在执行路径上的关系来确定每个线程的运行节奏。这个算法旨在识别那些影响程序总体运行时间的关键路径，并在不牺牲性能的前提下对这些路径上的线程进行优先处理。另一方面，工作负载敏感算法则根据工作窃取队列的大小来选择适当的运行节奏，以保证当工作队列较大时，线程能够以较高的频率运行，反之则降低频率。 HERMES运行时的设计考虑到了能效和性能之间的平衡。在现代处理器中，DVFS是一种重要的能量管理技术，它允许操作系统根据当前的计算负载动态地调整CPU的电压和频率。HERMES利用这一技术来对线程的运行节奏进行调节，从而在不影响程序性能的同时减少能量消耗。这与以往那种不论负载情况均以最大频率运行CPU的方法形成了鲜明对比。 HERMES的实现与测试证明了工作窃取运行时的能效潜力。通过在基准测试中进行基于测量的测试，HERMES能够实现显著的能源节约。这篇论文的工作不仅为并行编程语言的研究与开发提供了新的视角，也指出了通过智能调度来优化能量消耗的重要性。 HERMES工作窃取语言运行时的设计与实现体现了并行计算领域内对于高效能、低功耗计算的不断追求。通过精确地协调多核处理器上的线程执行，HERMES在提升程序性能的同时，也开辟了一条降低能源消耗的途径。这种策略对于推动绿色计算、延长移动设备的电池寿命等方面都具有积极的意义。随着并行编程变得越来越普遍，HERMES这类技术的应用前景将会越来越广阔。