CPU 缓存一致性:从 MESI 到 MOESI

理解 MESI 和 MOESI,先抓住两个问题:谁可以写这条缓存行,以及谁负责保存尚未写回下层的最新数据。 MESI 用四种状态协调缓存副本之间的关系。MOESI 增加一个 Owned 状态,让修改过的数据也能以只读方式被多个缓存共享,不必为了共享而立即更新下层副本。 1. 一致性管理的是缓存行,不是变量 多核 CPU 可以把同一地址的数据缓存在不同核心里。如果核心 A 修改自己的副本,核心 B 却一直把旧副本当作有效数据使用,程序就会出错。 MESI、MOESI 都属于写失效式协议:一个核心要写,必须先取得独占写权限,让其他核心的相关副本失效,而不是每次写入都把新值广播给所有缓存。 这种权限管理通常以 cache line(缓存行)为单位。许多常见 CPU 的缓存行是 64 字节,但具体大小取决于实现;即使只修改其中几个字节,也会影响整条缓存行的权限。 下面采用一个简化模型:两个核心各有一份私有缓存,共同访问下层存储,只讨论普通可缓存、写回式内存。表格和示例展示的是请求完成后的稳定状态。 文中的“脏”不是数据损坏,而是下层副本不保证最新。真实 CPU 有多级缓存,“写回下层”可能只是更新 LLC 等下一级缓存,不能一概理解为立即写入 DRAM。“独占”也指这里讨论的同级缓存之间,不排斥下层保存副本。 2. MESI 的四种状态 状态属于“某个缓存中的某条缓存行”,不是整个核心的状态。 状态 其他同级缓存的副本 下层副本 本地访问权限 M:Modified,已修改 均无有效副本 不保证最新 可读、可写 E:Exclusive,独占 均无有效副本 最新 可读;写时本地转为 M S:Shared,共享 可能还有其他 S 副本 最新 可读;写前必须取得独占权 I:Invalid,无效 不能由本地 I 状态推断 不能由本地 I 状态推断 本地没有可用副本 M 和 E 都是独占,区别在于有没有尚未向下层交代的修改。 E 状态的缓存行第一次被写入时,可以直接变成 M,不需要再向其他核心申请权限。这是 E 状态的重要价值:优化“先读、随后写,而且数据没有被其他核心共享”的场景。 ...

2026年10月7日 · 2 分钟 · Hellokitty

Rust Send 与 Sync:从所有权理解线程安全

Rust 中的 Send 和 Sync 不是发送消息或执行同步的方法,而是编译器用来检查跨线程操作是否安全的两个标记 trait: Send:这个类型的值可以安全地转移到另一个线程。 Sync:这个类型的值可以安全地通过共享引用被多个线程访问。 理解它们的起点不是“有没有锁”,而是:跨线程传递的究竟是一个值,还是指向它的共享引用? 1. Send:把值交给另一个线程 所有权决定谁负责一个值。以 String 为例,转移所有权后,原来的变量不能继续使用这个值。把所有权转移放到两个线程之间,就需要检查 Send。 use std::thread; fn main() { let message = String::from("hello"); let worker = thread::spawn(move || { println!("子线程:{message}"); }); worker.join().unwrap(); } move 让闭包按值捕获 message,随后 thread::spawn 把闭包交给子线程。String 满足 Send,所以这种传递是允许的。主线程不能再通过原来的 message 访问它;join() 只是等待线程结束,不会自动把所有权还回来。 这里有两个不同的检查:move 决定闭包怎样捕获变量,Send 决定闭包能否跨线程传递。写了 move,不等于里面的值就自动变得线程安全。 为什么 Rc 不能 Send Rc<T> 允许多个句柄共同拥有同一份数据,并通过引用计数决定何时释放数据。克隆或销毁句柄都会修改这个计数,但它的计数更新不是原子操作。 假设主线程保留一个 Rc,把克隆出的另一个 Rc 移到子线程。虽然转移出去的句柄有了新主人,两个句柄仍然指向同一个引用计数,两个线程可能同时修改它。因此,Rc<T> 不满足 Send。 关键不是“这个变量有没有被 move”,而是移动这个值之后,它关联的共享状态是否仍然安全。移动一个句柄,不等于独占句柄指向的底层资源。 2. Sync:共享引用能否跨线程 借用不转移所有权,而是提供访问一个值的引用。&T 是共享引用,&mut T 是可变、独占的引用。 ...

2026年9月27日 · 2 分钟 · Hellokitty

C++ 实现 SPSC 与 MPSC:从所有权交接到内存序

SPSC 是单生产者、单消费者;MPSC 是多生产者、单消费者。它们描述的是线程访问约束,不代表一定无锁,也不决定队列必须用数组还是链表。 实现并发队列,关键不是把下标换成 atomic,而是回答三个问题:谁能写这块内存?写完怎样交给别人?什么时候可以复用或释放? 本文实现两个存储 std::uint64_t 的 C++17 队列:有界 SPSC 环形队列,以及基于原子交换的无界 MPSC 链式队列。固定元素类型是为了把注意力放在同步协议上,而不是泛型对象的构造、异常和析构。两者都要求构造完成后再交给工作线程,析构前停止并等待所有访问者退出。 一、SPSC:把共享队列拆成两块单写者状态 环形队列维护两个下标:write_index 指向下一个可写槽位,read_index 指向下一个可读槽位。只有生产者修改前者,只有消费者修改后者;另一方只读取。 这种单写者约束消除了“两个线程抢同一个写下标”的问题,因此更新下标不需要 CAS,也不需要 fetch_add。但下标仍然被跨线程读写,需要是原子变量。 使用 Slots 个物理槽位,始终留一个空位: 状态 判定 空 read_index == write_index 满 next(write_index) == read_index 实际容量 Slots - 1 例如物理槽位为 8 个,当前读下标是 2、写下标是 5: slot: 0 1 2 3 4 5 6 7 contents: . . A B C . . . ^ ^ read_index write_index readable: [2, 5) next push: slot 5 next pop: slot 2 留空位不是同步手段,只是用最简单的编码区分空和满。真正的同步发生在下标发布时。 ...

2026年9月13日 · 4 分钟 · Hellokitty

Rust Tokio 深入解析:运行时原理、并发模型与最佳实践

Rust 语言只定义了 Future、async/await 和 Waker 等异步基础设施,并没有在标准库中提供完整的异步运行时。Tokio 补齐了这一层:它提供任务调度器、网络 I/O 驱动、定时器、异步同步原语、异步文件接口以及阻塞任务隔离机制。 如果把 Rust 异步程序比作一座城市: Future = 等待执行的工作 Executor/Scheduler = 安排工作在哪个线程运行 I/O Driver = 监听 socket 是否就绪 Timer Driver = 管理定时器何时到期 Waker = 通知某个任务可以继续 Tokio = 将上述组件组合成运行时 本文不再重复 Future::poll 和状态机的基础推导,而是聚焦 Tokio 本身:runtime 如何启动,任务如何调度,网络 I/O 为什么不会阻塞线程,以及生产代码中应该怎样处理并发、超时、共享状态、CPU 密集任务和优雅退出。 一、Tokio 提供了什么 一个典型 Tokio 应用依赖: [dependencies] tokio = { version = "1", features = ["full"] } full 适合学习和应用开发,但库作者通常应该只启用实际需要的 feature,缩短编译时间并减少依赖面。 Tokio 的主要组成包括: 组件 作用 Runtime 组合调度器、I/O driver 和 timer driver Task 由 runtime 调度的异步任务 tokio::net TCP、UDP、Unix Socket 等异步网络接口 tokio::time sleep、interval、timeout tokio::sync channel、Mutex、RwLock、Semaphore、Notify tokio::fs 文件系统异步接口 spawn_blocking 将阻塞或 CPU 密集工作移出异步 worker select! 同时等待多个异步分支 需要先建立一个重要认识: ...

2026年8月21日 · 6 分钟 · Hellokitty