PagedAttention 与 RadixCache 原理:从分页 KV 管理到跨请求前缀复用

用操作系统虚拟内存和压缩前缀树两个类比,解释 PagedAttention 如何管理 KV 物理块、RadixCache 如何发现并复用公共前缀,并给出可运行的纯 Python 简化实现。

2026年9月4日 · 6 分钟 · Hellokitty