理解 MESI 和 MOESI,先抓住两个问题:谁可以写这条缓存行,以及谁负责保存尚未写回下层的最新数据。
MESI 用四种状态协调缓存副本之间的关系。MOESI 增加一个 Owned 状态,让修改过的数据也能以只读方式被多个缓存共享,不必为了共享而立即更新下层副本。
1. 一致性管理的是缓存行,不是变量
多核 CPU 可以把同一地址的数据缓存在不同核心里。如果核心 A 修改自己的副本,核心 B 却一直把旧副本当作有效数据使用,程序就会出错。
MESI、MOESI 都属于写失效式协议:一个核心要写,必须先取得独占写权限,让其他核心的相关副本失效,而不是每次写入都把新值广播给所有缓存。
这种权限管理通常以 cache line(缓存行)为单位。许多常见 CPU 的缓存行是 64 字节,但具体大小取决于实现;即使只修改其中几个字节,也会影响整条缓存行的权限。
下面采用一个简化模型:两个核心各有一份私有缓存,共同访问下层存储,只讨论普通可缓存、写回式内存。表格和示例展示的是请求完成后的稳定状态。
文中的“脏”不是数据损坏,而是下层副本不保证最新。真实 CPU 有多级缓存,“写回下层”可能只是更新 LLC 等下一级缓存,不能一概理解为立即写入 DRAM。“独占”也指这里讨论的同级缓存之间,不排斥下层保存副本。
2. MESI 的四种状态
状态属于“某个缓存中的某条缓存行”,不是整个核心的状态。
| 状态 | 其他同级缓存的副本 | 下层副本 | 本地访问权限 |
|---|---|---|---|
| M:Modified,已修改 | 均无有效副本 | 不保证最新 | 可读、可写 |
| E:Exclusive,独占 | 均无有效副本 | 最新 | 可读;写时本地转为 M |
| S:Shared,共享 | 可能还有其他 S 副本 | 最新 | 可读;写前必须取得独占权 |
| I:Invalid,无效 | 不能由本地 I 状态推断 | 不能由本地 I 状态推断 | 本地没有可用副本 |
M 和 E 都是独占,区别在于有没有尚未向下层交代的修改。 E 状态的缓存行第一次被写入时,可以直接变成 M,不需要再向其他核心申请权限。这是 E 状态的重要价值:优化“先读、随后写,而且数据没有被其他核心共享”的场景。
S 表示“允许共享”,不表示“一定有多个副本”。其他缓存可能已经静默丢弃自己的 S 副本,剩下的缓存仍保留 S,不会自动知道自己已经独占。
替换缓存行时,干净的 E、S 副本可以直接丢弃数据;M 副本不能这样做,必须把最新数据写回或通过协议安全移交。具体实现是否还要通知目录,是另一回事。
3. 用一次跨核读写串起 MESI
假设一条缓存行中的 value 初始为 0。没有预取、替换和额外并发请求,按顺序发生以下访问;M(1) 表示状态为 M、其中的 value 为 1。
| 操作完成后 | 核心 A 的缓存 | 核心 B 的缓存 | 下层的 value |
|---|---|---|---|
| 初始状态 | I | I | 0 |
| A 读取 value | E(0) | I | 0 |
| A 写入 value = 1 | M(1) | I | 0 |
| B 读取 value | S(1) | S(1) | 1 |
| B 写入 value = 2 | I | M(2) | 1 |
这里有三个关键转换。
A 写入:E → M,不需要对外通信
A 首次读取时,协议确认没有其他缓存持有有效副本,于是允许它得到 E;并不是所有读缺失都必然得到 E。随后 A 写入 1,直接把自己的状态变成 M;采用写回策略,下层暂时仍为 0。
B 读取:M → S,必须处理下层的旧副本
B 不能拿下层的 0 来满足这次读取,因为最新值 1 在 A 手里。A 提供最新数据,并从 M 降为 S,B 也得到 S。
在这个基本 MESI 模型中,两个缓存都变成 S 后,没有谁再负责保管“只存在于缓存、下层尚未更新”的修改。因此,下层也要得到 1,形成干净的共享状态。
这不等于“先写进 DRAM,B 才能重新从 DRAM 读取”。 MESI 同样可以直接在缓存之间传送数据,同时更新相应下层。协议规定需要维持的状态关系,不规定所有实现都走同一条串行数据路径。
B 再写入:S → M,先让 A 的副本失效
B 已经有值为 1 的副本,缺的是独占写权限。它发起权限升级,让 A 的副本变成 I;在完成必要的失效和确认后,B 才能取得 M 并使写入对其他核心可见。
这类升级通常不需要重新获取整条缓存行的数据。相反,如果 B 原来处于 I,那么写缺失通常需要同时取得数据和写权限。
教材常把读请求称为 BusRd,把已有共享副本的升级称为 BusUpgr,把读独占请求称为 BusRdX。它们是理解消息作用的名字,不意味着现代 CPU 必须使用一条物理共享总线。
4. MOESI:让脏数据也能共享
重新看 B 读取 1 的那一步:B 只是想读,为什么一定要顺便更新下层?
如果 A 不放弃保存最新数据的责任,只把独占写权限降为只读共享,就可以暂时保留下层的旧值。这正是 O:Owned 状态。
同样是“A 先写入 1,随后 B 读取”,两种协议可以得到不同的稳定结果:
Core A Core B Backing
MESI S(1) S(1) 1
MOESI O(1) S(1) 0
这里 Backing 表示前面模型中的下层存储。MOESI 中,A 和 B 都能读到最新值 1,下层却仍可以是 0;A 以 O 状态负责这份可能尚未写回的最新数据,包括协调后续请求的数据响应。
这也改变了对 S 的理解:MESI 中的 S 对应干净共享;MOESI 中的 S 不保证下层最新。 当另一个缓存处于 O 时,S 副本和 O 副本保存的是同样的最新数据,只是 S 不承担脏数据的责任。
Owned 不等于“可以直接写”
O 持有者不是唯一拥有最新值的缓存,也不是可以忽略其他共享者随意写入的缓存。它拥有的是脏数据的责任,不是独占写权限。
继续沿着这个例子,就能看出 O 的边界:
- 第三个核心 C 读取: 可以获得值为 1 的 S 副本,A 继续保持 O,下层仍可为 0。协议必须从最新副本获取数据,不能用下层旧值响应。
- A 自己再次写入: 也要先让 B、C 的 S 副本失效,取得独占权后从 O 转为 M,不能静默修改仍在共享的数据。
- B 写入新值: B 取得独占权,让 A 的 O 和其他 S 副本失效,随后进入 M。脏数据的责任转移给 B,不必先把 A 的旧修改写回下层。
- A 的 O 副本被替换: 不能像 S 一样直接丢弃。协议必须写回最新数据,或者把责任安全转交给别的缓存;具体路径取决于实现。
在同一个协议域的这些同级缓存中,一条缓存行最多有一个 O 持有者;它可以与 S 副本共存,不能同时与另一个 M 或 E 副本共存。
因此,MOESI 省下的是为了让脏数据进入共享状态而提前更新下层的流量,而不是取消一切写回,也不是取消写入前的失效过程。收益取决于访问模式和缓存层次,不能仅凭多了一个状态就断言一定更快。
5. 理解协议后,仍要分清三件事
缓存一致性,不等于内存顺序和程序原子性
缓存一致性主要约束同一位置的数据副本和写入顺序;内存一致性模型(memory consistency model)还规定,不同地址上的读写可以按什么顺序被其他核心观察到。
CPU 的 store buffer、乱序执行,以及编译器优化,都不能仅靠四个或五个缓存状态解释。跨线程同步仍需要正确使用语言提供的原子操作、适当的内存序或锁。
同理,普通 counter++ 包含读、计算、写,并不会因为有 MESI 就自动变成不可分割的操作。在 C++ 中,多个线程无同步地读写普通共享计数器还会构成数据竞争,不能靠“硬件缓存最终会一致”补救。内存屏障也不能简单理解成“把所有缓存刷到 DRAM”。
不同变量,也可能争夺同一条缓存行
如果两个核心反复交替修改同一条缓存行内的两个独立计数器,虽然没有共享同一个变量,仍可能不断让对方的整条缓存行失效、来回争夺独占权。这就是 false sharing,伪共享。
MOESI 的 O 优化的是共享读取脏数据,解决不了这种交替写入的争夺。常见改进是按目标平台的缓存行大小隔离高频写字段,或者使用线程私有计数、最后汇总;不要把 64 字节当成所有平台都适用的常量。
四五个字母,不是一份完整的硬件协议
真实实现还需要处理“请求已发出、数据尚未返回”“已发出失效、正在等确认”等瞬态,以及多个请求同时竞争的情况。
MESI、MOESI 描述的是常见稳定状态集合;snooping(侦听)和 directory(目录)则是跟踪、定位副本并组织通信的方式。不能把“MESI 就是所有核心监听总线”当成定义,也不能用某个厂商名称替代对具体微架构的分析。
记住这条主线即可:M、E 强调独占,S 允许共享,I 表示本地副本不可用;O 则把“负责脏数据”和“独占写权限”分开。
参考资料
- AMD64 Architecture Programmer’s Manual, Volume 2: System Programming(Rev. 3.39,PDF):第 7.3 节 Memory Coherency and Protocol 及图 7-2,说明 MOESI 状态及其转换。
- A Primer on Memory Consistency and Cache Coherence, Second Edition:Vijay Nagarajan、Daniel J. Sorin、Mark D. Hill、David A. Wood,2020。第 2 章讨论一致性基础,第 6 章讨论协议设计,第 7.3、7.4 节分别讨论 Exclusive 和 Owned 状态,第 8 章讨论目录协议。
- Intel:Faster Core-to-Core Communications:其中的 Coherent Memory Multicore Complexity 小节可用于理解 home agent、失效确认和跨核通信开销。