C++20 协程:理解 co_await、promise 与生命周期

理解 C++20 协程,最重要的是分清三个事件:挂起、完成、销毁。挂起不等于完成,完成也不一定意味着协程状态已经销毁。 语言提供的三个关键字是 co_await、co_yield 和 co_return。下面用一个整数生成器串起它们背后的协议,重点回答:状态存在哪里、谁能恢复执行、结果如何交给调用者,以及最后由谁回收资源。 一、先分清五个角色 C++20 的协程是一种无栈协程:编译器为当前协程组织可挂起、可恢复的状态,而不是在每次暂停时保存整条普通函数调用栈。 角色 作用 容易混淆的地方 协程帧,coroutine frame 保存恢复执行需要的状态、promise、参数副本等 不等于每次 co_await 都把全部局部变量复制到堆上 promise 对象 定制启动、产值、完成、异常等行为 不是 <future> 中的 std::promise<T> std::coroutine_handle<Promise> 引用一个协程,提供恢复、观察和销毁操作 它不是自动管理生命周期的智能指针 返回对象 提供调用者使用的接口,例如后文的 IntGenerator 协程函数的返回类型不必是 coroutine_handle awaiter 实现一次等待的就绪判断、控制权交接和结果获取 源表达式中的 awaitable 不一定直接就是 awaiter 编译器通过 std::coroutine_traits<R, Args...>::promise_type 确定 promise 类型。把 promise_type 嵌套在返回类型 R 中是常见的默认用法,不是唯一可能;成员协程的类型推导还涉及隐式对象参数。 协程通常需要保存跨挂起点仍要使用的状态,但协程帧不意味着必然发生一次堆分配:编译器可以在满足条件时消除分配。更重要的是,帧的存在不会取消局部变量原有的作用域和析构规则。 二、co_await 是一套等待协议 对普通 co_await expression,编译器可能先调用 promise 的 await_transform,再通过 operator co_await 得到 awaiter。下面假定 awaiter 已经确定,只看三个核心方法。 await_ready():结果是否已经就绪? 返回 true 时,不进入挂起交接,直接调用 await_resume()。 await_suspend(handle):如何交接控制权? 当 await_ready() 返回 false,协程在进入这个方法之前就已被视为挂起。 await_resume():等待表达式得到什么? 它在直接就绪或恢复执行后运行,返回值及值类别决定 co_await 表达式的结果,也可以在这里抛出操作异常。 await_suspend 不只是一个“保存句柄的回调”。其正常返回时的行为取决于返回类型: ...

2026年9月26日 · 3 分钟 · Hellokitty

C++ 实现 SPSC 与 MPSC:从所有权交接到内存序

SPSC 是单生产者、单消费者;MPSC 是多生产者、单消费者。它们描述的是线程访问约束,不代表一定无锁,也不决定队列必须用数组还是链表。 实现并发队列,关键不是把下标换成 atomic,而是回答三个问题:谁能写这块内存?写完怎样交给别人?什么时候可以复用或释放? 本文实现两个存储 std::uint64_t 的 C++17 队列:有界 SPSC 环形队列,以及基于原子交换的无界 MPSC 链式队列。固定元素类型是为了把注意力放在同步协议上,而不是泛型对象的构造、异常和析构。两者都要求构造完成后再交给工作线程,析构前停止并等待所有访问者退出。 一、SPSC:把共享队列拆成两块单写者状态 环形队列维护两个下标:write_index 指向下一个可写槽位,read_index 指向下一个可读槽位。只有生产者修改前者,只有消费者修改后者;另一方只读取。 这种单写者约束消除了“两个线程抢同一个写下标”的问题,因此更新下标不需要 CAS,也不需要 fetch_add。但下标仍然被跨线程读写,需要是原子变量。 使用 Slots 个物理槽位,始终留一个空位: 状态 判定 空 read_index == write_index 满 next(write_index) == read_index 实际容量 Slots - 1 例如物理槽位为 8 个,当前读下标是 2、写下标是 5: slot: 0 1 2 3 4 5 6 7 contents: . . A B C . . . ^ ^ read_index write_index readable: [2, 5) next push: slot 5 next pop: slot 2 留空位不是同步手段,只是用最简单的编码区分空和满。真正的同步发生在下标发布时。 ...

2026年9月13日 · 4 分钟 · Hellokitty

Rust Trait 与 C++ 继承:差异、取舍与选择

Rust trait 和 C++ 继承经常被放在一起比较,因为它们都能表达“多个类型具有相同行为”。但两者并不是严格对应的语言特性:trait 主要描述能力和约束,C++ 继承同时承担类型关系、接口抽象、实现复用与运行时多态。 因此,“哪个更好”不能脱离目标讨论。先给出结论: 表达接口、泛型约束和组合能力时,Rust trait 通常更清晰,也更难误用; 表达稳定的运行时多态时,两者都能胜任,Rust 使用 trait object,C++ 使用虚函数; 需要复用对象状态和基类实现时,C++ 继承更直接,但组合通常更容易维护; 需要与既有 C++ 框架、ABI 或面向对象体系协作时,C++ 继承不可替代; 如果从零设计强调安全性和显式依赖的系统,优先选择 Rust trait 与组合,而不是模仿类继承树。 1. 两者首先在解决什么问题 假设程序需要统一处理不同形状。 C++ 常用抽象基类: class Shape { public: virtual ~Shape() = default; virtual double area() const = 0; }; class Circle final : public Shape { public: explicit Circle(double radius) : radius_(radius) {} double area() const override { return 3.1415926 * radius_ * radius_; } private: double radius_; }; Rust 使用 trait: trait Shape { fn area(&self) -> f64; } struct Circle { radius: f64, } impl Shape for Circle { fn area(&self) -> f64 { std::f64::consts::PI * self.radius * self.radius } } 表面上,两段代码都规定了 area 接口。但它们的类型关系不同: ...

2026年9月1日 · 4 分钟 · Hellokitty

从 Store Buffer 与 Invalidate Queue 理解 C++ 内存序

多核程序最难理解的地方,不是“多个线程同时执行”,而是不同核心可能以不同时间、不同顺序观察到内存操作。C++ 原子内存序就是程序员与编译器、处理器之间的约定:哪些重排被允许,哪些读写必须建立跨线程的先后关系。 本文重点解释四种常见内存序:relaxed、release、acquire 和 seq_cst,并把它们与 CPU 中的 Store Buffer、Invalidate Queue 联系起来。先给出结论: relaxed 只保证单次原子访问不可分割,不负责发布其他数据; release 用于发布,保证它前面的操作不会越过发布点跑到后面; acquire 用于接收,保证它后面的操作不会越过接收点跑到前面; 当 acquire 读到 release 写入的值时,两线程之间建立 synchronizes-with,进而形成 happens-before; seq_cst 在 acquire/release 的基础上,再要求所有 seq_cst 操作进入一个全局一致的单一顺序。 1. 为什么原子性还不够 看一个典型的消息发布程序: #include <atomic> #include <cassert> int payload = 0; std::atomic<bool> ready{false}; void producer() { payload = 42; ready.store(true, std::memory_order_release); } void consumer() { while (!ready.load(std::memory_order_acquire)) { } assert(payload == 42); } payload 不是原子变量,但这个程序没有数据竞争。原因不是 ready 本身具有原子性,而是 release/acquire 建立了下面这条关系链: producer consumer payload = 42 │ sequenced-before ▲ ▼ │ happens-before ready.store(true, release) ─ synchronizes-with ─> ready.load(acquire) │ sequenced-before ▼ read payload 如果 acquire load 读到了 release store 写入的 true,那么 release 之前的操作 happens-before acquire 之后的操作。因此 consumer 看到 ready == true 后,也必须看到此前发布的 payload == 42。 ...

2026年9月1日 · 3 分钟 · Hellokitty

CUDA Event:GPU 时间线上的事件、同步原理与实战

CUDA kernel launch 通常是异步的:CPU 把 kernel、内存拷贝等操作提交到 stream 后便继续执行。由此产生两个常见问题:如何准确测量 GPU 工作耗时,以及如何让不同 stream 在不阻塞 CPU 的情况下建立依赖? CUDA Event 就是解决这类问题的基础设施。它可以理解为插入 GPU stream 时间线中的一个标记:当 event 之前的工作全部完成,event 才进入完成状态。借助这个状态,我们可以做 GPU 计时、CPU 等待、跨 stream 同步和异步资源回收。 1. Event 不是 CPU 事件,而是 GPU 时间线标记 一个 CUDA stream 是按序执行的 GPU 工作队列: CPU 提交: Kernel A → memcpy → Event E → Kernel B 异步提交 GPU 执行: Kernel A ── memcpy ── E 完成 ── Kernel B 调用 cudaEventRecord(event, stream) 时,CPU 通常只是向 stream 提交一个 event 记录操作,并不会等待 GPU 执行到该位置。只有当这个 stream 中排在 event 前面的操作完成后,event 才会被标记为完成。 ...

2026年8月31日 · 6 分钟 · Hellokitty

Mooncake 中的协程:从 coro_rpc 到同步接口桥接

Mooncake 确实使用了协程,但它并不是把整个系统改造成“全异步架构”。截至本文分析的主分支提交 3d1665a,协程主要出现在控制面 RPC、连接管理和阻塞任务卸载等 I/O 密集路径;对外接口仍大量保留同步调用形式。 这形成了一个很实用的分层:内部用 C++20 协程组织异步流程,边界处再按需要转换成同步返回值或回调。 技术栈 Mooncake 的协程代码主要建立在两层库之上: async_simple::coro::Lazy<T> 表示一个惰性异步任务; yalantinglibs 的 coro_rpc 和 coro_io 提供异步 RPC、网络连接与线程池调度。 典型代码形态如下: async_simple::coro::Lazy<Result> request() { auto response = co_await client.send_request(...); co_return response; } Lazy<T> 创建后通常不会立刻执行。它需要被另一个协程 co_await,通过 .start(...) 启动,或者由 syncAwait(...) 驱动至完成。 路径一:Mooncake Store 的 Master RPC mooncake-store/src/master_client.cpp 中的 MasterClient::invoke_rpc 是最清晰的例子。它的外部签名是同步的: tl::expected<ReturnType, ErrorCode> MasterClient::invoke_rpc(Args&&... args); 函数内部却先构造 Lazy,再连续等待两个异步阶段: return async_simple::coro::syncAwait( [&]() -> async_simple::coro::Lazy< tl::expected<ReturnType, ErrorCode>> { auto pending = co_await pool->send_request( [&](coro_io::client_reuse_hint, coro_rpc::coro_rpc_client& client) { return client.send_request<ServiceMethod>(...); }); if (!pending.has_value()) { co_return tl::make_unexpected(ErrorCode::RPC_FAIL); } auto result = co_await std::move(pending.value()); co_return result->result(); }()); 这里有两次 co_await: ...

2026年8月28日 · 2 分钟 · Hellokitty