围绕 xLLM 推理框架的特性设计报告、PR 评审与知识沉淀。每篇为自包含 HTML,支持离线打开与打印导出。
围绕某个特性或 PR 的一次性快照:架构、工作流、接口、验证与风险。
跨 PR 的原理、踩坑与方法论,会随认识加深持续更新。
一次 forward 从调度到采样穿过的四段流水线:step → prepare → forward → sample,外加 MTP 投机分支与 ACL Graph 的 capture/replay。
从 BlockManagerPool 到 Block 句柄的分层地图:谁分配物理 block、谁只是引用计数句柄、prefix cache / composite / hierarchy / linear-state slot 各自的职责。
GDN recurrent state 无法零拷贝共享:save 走 scheduler 零拷贝换手(promotion),restore 走 worker 侧真拷贝,加上四字段 scheduler↔worker 契约的字段必要性论证。