【Computer Organization笔记21】高速缓存 Cache ：多路组相联的地址映射、一致性、缺失、MESI协议

本次笔记内容： P41 计算机组成原理（41） P42 计算机组成原理（42）

我的计组笔记汇总：计算机组原理成笔记

视频地址：计算机组成原理 清华大学刘卫东 全58讲 国家精品课程 1080P 更完

幻灯片见我的 GitHub 仓库：计算机组成原理 src/slides

本节课幻灯片：组成原理33 cache2.pptx

Cache的地址映射：

Cache写策略

提高Cache性能的途径

使用高速缓冲存储器Cache来提高CPU对存储器的平均访问速度。

时间局部性：最近被访问的信息很可能还要被访问。将最近被访问的信息项装入到Cache中。

空间局部性：最近被访问的信息临近的信息也可能被访问。将最近被访问的信息项临近的信息一起装入到Cache中。

基于程序的局部性原理：

利用静态存储器的高速特性，设置于主存储器与CPU之间，缓存CPU频繁访问的信息，提高CPU访问存储器的整体性能。

如何通过主存地址去访问Cache？

如何保证层次间一致性?

Cache参数对性能的影响

不足之处是，每个行都需要一个比较器。

规定了，主存中的某些块，只能映射到某个 Cache 的行中去。因此，只需要一个比较器。

不足是命中率比较低。

如上，多路组相联可以视为二者结合。

是常用的方式。

主存：4GB，Cache：4KB，块大小：4B，4路组相联，索引位？标志位？

因此，为什么说计算机是工程，“不是科学”。比如这里，就是一个工程上妥协的选择，并不是很严谨。

直接映射：

全相连映射

N路组相连映射

全相连映射和N路组相连映射的失效处理

写直达（Write through）

拖后写（Write back）

设置一个写入缓冲，防止流水周期被写卡住。

目前对于系统结构来讲，尤其是多核，如何进行存储管理。

平均访问时间 = 命中时间 x 命中率 + 缺失损失 x 缺失率

必然缺失（Compulsory Miss）：

容量缺失（Capacity Miss）：

冲突缺失（Conflict Miss）：

无效缺失：

必然缺失：

容量缺失：

冲突缺失：

经验总结：容量为N、采用直接映射方式Cache的缺失率和容量为N/2、采用2路组相联映射方式Cache的缺失率相当。

如上，边际效益是递减的。容量选择恰当的就好。

发现，不是块越大，命中率就越高。

一般来说，数据块较大可以更好地利用空间局部性，但是：

一般来说，平均访问时间 = 命中时间 x 命中率 + 失效损失 x 缺失率。

直接映射：

全相联映射：

N路组相联映射：

全相联映射和N路组相联映射的失效处理：

最近最少使用LRU：

先进先出FIFO：

随机替换RAND：

采用两级或更多级cache来提高命中率

将Cache分解为指令Cache和数据Cache

在处理器中设置独立的数据Cache和指令Cache；在处理器外设置第二级Cache，甚至是第三级Cache。

像入出设备似的连接到总线上，优点是结构简单，成本低，缺点是不利于降低总线占用率。

把原来的总线打断为两段，使 CACHE 处在两段之间，优点是有利于提高总线利用率，支持总线并发操作，缺点是结构复杂，成本较高。

修改态（M）：处于这个状态的cache块中的数据已经被修改过，和主存中对应的数据已不同，只能从cache中读到正确的数据。

独占态（E）：处于本状态的cache块的数据和主存中对应的数据块内容相同，而且在其它cache中没有副本。

共享态（S）：处于本状态的cache块的数据和主存中对应的数据块内容相同，而且可能在其它cache中有该块的副本。

无效态（I）：处于本状态的cache块中尚未装入数据。