https://yangyang233333.github.io/tags/llm-serving/ Recent content in LLM Serving on Hellokitty's Blog Hugo zh-CN Wed, 26 Aug 2026 13:50:00 +0800 https://yangyang233333.github.io/posts/nvidia-dynamo-architecture-overview/ Wed, 26 Aug 2026 13:50:00 +0800 https://yangyang233333.github.io/posts/nvidia-dynamo-architecture-overview/ 从请求路径、控制面、数据面和后端边界出发，理解 NVIDIA Dynamo 为什么是推理引擎之上的分布式编排层。 https://yangyang233333.github.io/posts/mini-sglang-source-reading-request-lifecycle/ Tue, 25 Aug 2026 20:30:00 +0800 https://yangyang233333.github.io/posts/mini-sglang-source-reading-request-lifecycle/ 从 Prefill、Decode、Continuous Batching 和多进程流水线出发，梳理 Mini-SGLang 一次请求的完整执行流程。