Mooncake 学习路线
📅 2026/7/22 9:09:31
👁️ 阅读次数
📝 编程学习
Mooncake 学习路线(倒金字塔,先跑通再深入)
阶段一:跑通集成示例(半天)
先不要读源码,先看到它怎么跑。
- 在现有环境装好:
pipinstallmooncake-transfer-engine# 或者用已有的 build跑一个 PD 分离的 demo:用
test_1p1d_erdma.sh的流程——两台机器(或模拟),prefill 写 KV cache,decode 通过 Mooncake 读到。关键是亲眼看到--enable-mooncake之后 SGLang 的日志变化。目的:建立 “Mooncake 到底是什么” 的心理模型——它不是一个独立服务,是嵌入 SGLang 的传输层。
阶段二:读 Transfer Engine 核心流程(1-2 天)
按"一条传输请求的生命周期"来读源码,不要按目录扫。
编程学习
技术分享
实战经验