《深入理解计算机系统》中关于存储器层次结构的内容，核心是解决CPU与存储器之间日益增长的速度差距，通过构建多级存储体系，利用局部性原理实现高效的数据访问。

存储器层次结构的基本概念

存储器层次结构将不同类型的存储设备按访问速度（从快到慢）和容量（从小到小大）组织成多个层次，包括寄存器、SRAM缓存、DRAM主存、磁盘等。每一层都作为下一层的“缓存”，即第k层存储设备会存储第k+1层中部分数据的副本，数据以固定大小的块在相邻层之间传输。

各层次特点

• 寄存器：位于CPU内部，速度最快（约1个时钟周期），容量最小（几十到几百字节），由编译器管理。
• 缓存（Cache）：通常由SRAM实现，分为多级（L1/L2/L3），速度比主存快10~100倍，容量从几十KB到几MB。
• 主存（DRAM）：程序运行的主要存储区域，容量较大（GB级），但访问延迟约几十到几百纳秒。
• 磁盘（机械硬盘或SSD）：容量最大（TB级），但访问速度最慢（毫秒级），用于持久化存储。

局部性原理

存储器层次结构能有效工作的前提是局部性原理，包括：

• 时间局部性：如果一个数据被访问，那么在不久的将来很可能再次被访问。例如循环中的变量会反复使用。
• 空间局部性：如果一个数据被访问，那么其附近的数据也很可能被访问。例如数组元素的顺序访问。

缓存的工作机制

• 缓存命中：当程序访问的数据已在更高层（更快）的缓存中时，直接返回，速度极快。
• 缓存不命中：若数据不在缓存中，则需从下一层（较慢）读入包含该数据的整个块，并替换缓存中的旧块。一次不命中的代价较高，但后续对该块中其他数据的访问会受益于空间局部性。
• 块大小：通常为64字节或更大，以利用空间局部性。

程序性能优化启示

理解存储器层次结构有助于编写高效代码，例如：

• 尽量使用局部变量（寄存器或栈缓存）。
• 按行优先顺序访问多维数组，提高空间局部性。
• 减少循环中不必要的内存访问，利用时间局部性。

通过硬件和软件（如编译器优化）的协作，存储器层次结构使得程序能接近高速存储设备的性能，同时拥有大容量存储的虚拟空间。