计算机组成与结构体系英文课件：Chapter 8 – The Memory System - 2.ppt

在计算机科学领域，内存系统是计算机性能的关键组成部分，尤其是在现代高速计算环境中。本课件主要探讨了第8章——记忆体系统的内容，特别是记忆体层次结构（Memory Hierarchy）和缓存记忆体（Cache Memories）的概念。 我们来理解为什么需要记忆体层次结构。理想情况下，我们希望拥有一种存储器，它无限大、速度快、成本低、体积小且非易失性。然而，现实情况是，存储器的大小、速度和成本之间存在矛盾关系。随着存储器容量的增加，其速度通常会变慢；而追求更快的速度则意味着更高的成本和可能的体积增大。此外，CPU和内存之间的速度差距也在不断加大，这就是所谓的“CPU-内存鸿沟”。在1980年至2005年间，磁盘寻道时间、DRAM访问时间、SRAM访问时间和CPU周期时间的对比显示了这种差距的扩大。 为了应对这个问题，人们提出了局部性原理。这个原理认为程序在任何给定时刻只会访问地址空间的一小部分。局部性分为时间局部性和空间局部性：时间局部性意味着如果某个数据最近被访问过，那么它很可能在不久后再次被访问；空间局部性则是指如果一个数据被访问，与其相邻的数据也可能会很快被访问。根据80/20规则，大部分时间执行的是代码的少数部分，这进一步支持了局部性的概念。 记忆体层次结构就是利用局部性原理来设计的。它包括一系列不同速度、容量和成本的存储器层，如CPU寄存器、高速缓存（Cache）、主内存（DRAM）和硬盘等。层次结构的设计使得最频繁访问的数据可以放在最快但容量最小的存储器中，从而减少了访问延迟。随着层次的下降，存储器的容量增加，但速度减慢。 接下来，我们讨论缓存记忆体。缓存是位于CPU和主内存之间的一种快速存储器，用于临时存储CPU频繁访问的数据。缓存的工作机制包括映射方案（Mapping Scheme）、替换算法（Replacement Algorithm）和写策略（Write Policy）： 1. 映射方案：决定了主存中的数据如何映射到缓存中。常见的映射方式有直接映射、全相联映射和组相联映射。 2. 替换算法：当缓存已满，新数据需要放入时，确定哪个旧数据应该被替换出去。常见的替换算法有最近最少使用（LRU）、先进先出（FIFO）和随机替换（RAND）等。 3. 写策略：定义了数据更新时如何处理缓存和主存中的数据。常见的写策略有写直达（Write Through）、写回（Write Back）以及写忽略（Write Around）。 通过这些策略，缓存能够有效地减少CPU对主存的访问次数，提高整体系统性能。然而，缓存的正确设计和优化是一项复杂任务，需要考虑诸如缓存命中率、带宽利用率、功耗和复杂性等因素。 记忆体层次结构和缓存是解决CPU与内存速度差异的有效手段，它们充分利用了程序执行的局部性特性，为实现高性能计算提供了基础。在实际的计算机系统设计中，理解并优化这些概念对于提升系统的整体效能至关重要。