Mini-SGLang on Hellokitty's Blog https://yangyang233333.github.io/tags/mini-sglang/ Recent content in Mini-SGLang on Hellokitty's Blog Hugo zh-CN Tue, 25 Aug 2026 21:10:00 +0800 Mini-SGLang 源码阅读（五）：模型层、Tensor Parallel 与自定义 Kernel https://yangyang233333.github.io/posts/mini-sglang-source-reading-tensor-parallel/ Tue, 25 Aug 2026 21:10:00 +0800 https://yangyang233333.github.io/posts/mini-sglang-source-reading-tensor-parallel/ 从张量并行的矩阵切分原理出发，分析 Mini-SGLang 的并行 Linear、Embedding、模型注册、权重加载和底层 Kernel。 Mini-SGLang 源码阅读（四）：Engine、Attention Backend 与 CUDA Graph https://yangyang233333.github.io/posts/mini-sglang-source-reading-engine/ Tue, 25 Aug 2026 21:00:00 +0800 https://yangyang233333.github.io/posts/mini-sglang-source-reading-engine/ 从 GPU 推理的 kernel 启动开销和 Prefill/Decode 差异出发，分析 Mini-SGLang Engine 的完整执行路径。 Mini-SGLang 源码阅读（三）：Paged KV Cache 与 Radix Prefix Cache https://yangyang233333.github.io/posts/mini-sglang-source-reading-kv-cache/ Tue, 25 Aug 2026 20:50:00 +0800 https://yangyang233333.github.io/posts/mini-sglang-source-reading-kv-cache/ 从自回归推理的 KV Cache 成本出发，分析 Mini-SGLang 的物理页池、请求页表、前缀匹配与缓存驱逐。 Mini-SGLang 源码阅读（二）：Scheduler、Continuous Batching 与 Chunked Prefill https://yangyang233333.github.io/posts/mini-sglang-source-reading-scheduler/ Tue, 25 Aug 2026 20:40:00 +0800 https://yangyang233333.github.io/posts/mini-sglang-source-reading-scheduler/ 先解释在线推理调度的资源约束，再分析 Mini-SGLang 如何组织 Prefill、Decode 和 CPU/GPU 重叠执行。 Mini-SGLang 源码阅读（一）：一次 LLM 请求如何穿过推理引擎 https://yangyang233333.github.io/posts/mini-sglang-source-reading-request-lifecycle/ Tue, 25 Aug 2026 20:30:00 +0800 https://yangyang233333.github.io/posts/mini-sglang-source-reading-request-lifecycle/ 从 Prefill、Decode、Continuous Batching 和多进程流水线出发，梳理 Mini-SGLang 一次请求的完整执行流程。