NVIDIA Dynamo 源码阅读（二）：分布式运行时如何组织服务与请求

Wed, 26 Aug 2026 13:50:00 +0800

深入 lib/runtime，分析 Namespace、Component、Endpoint、服务发现和网络流水线如何组成 Dynamo 的请求平面。

Rust 异步编程原理：Future、状态机、Waker 与 Executor

Tue, 25 Aug 2026 15:35:00 +0800

面向初学者，从 Future::poll 出发推导 Rust async/await 状态机，并解释 Waker、Executor、Reactor、Pin、并发与阻塞。

Rust Tokio 深入解析：运行时原理、并发模型与最佳实践

Fri, 21 Aug 2026 11:35:00 +0800

Rust 语言只定义了 Future、async/await 和 Waker 等异步基础设施，并没有在标准库中提供完整的异步运行时。Tokio 补齐了这一层：它提供任务调度器、网络 I/O 驱动、定时器、异步同步原语、异步文件接口以及阻塞任务隔离机制。

如果把 Rust 异步程序比作一座城市：

Future            = 等待执行的工作
Executor/Scheduler = 安排工作在哪个线程运行
I/O Driver         = 监听 socket 是否就绪
Timer Driver       = 管理定时器何时到期
Waker              = 通知某个任务可以继续
Tokio              = 将上述组件组合成运行时

本文不再重复 Future::poll 和状态机的基础推导，而是聚焦 Tokio 本身：runtime 如何启动，任务如何调度，网络 I/O 为什么不会阻塞线程，以及生产代码中应该怎样处理并发、超时、共享状态、CPU 密集任务和优雅退出。

一、Tokio 提供了什么

一个典型 Tokio 应用依赖：

[dependencies]
tokio = { version = "1", features = ["full"] }

full 适合学习和应用开发，但库作者通常应该只启用实际需要的 feature，缩短编译时间并减少依赖面。

Tokio 的主要组成包括：

组件	作用
Runtime	组合调度器、I/O driver 和 timer driver
Task	由 runtime 调度的异步任务
`tokio::net`	TCP、UDP、Unix Socket 等异步网络接口
`tokio::time`	sleep、interval、timeout
`tokio::sync`	channel、Mutex、RwLock、Semaphore、Notify
`tokio::fs`	文件系统异步接口
`spawn_blocking`	将阻塞或 CPU 密集工作移出异步 worker
`select!`	同时等待多个异步分支

需要先建立一个重要认识：

Rust on Hellokitty's Blog

NVIDIA Dynamo 源码阅读（二）：分布式运行时如何组织服务与请求

Rust 异步编程原理：Future、状态机、Waker 与 Executor

Rust Tokio 深入解析：运行时原理、并发模型与最佳实践

一、Tokio 提供了什么