章节模板(Chapter Template)
复制本文件开始新章节。所有 <!-- --> 注释在成稿时删除。
<!--
章节元信息(成稿时保留此注释块,供维护者使用)
chapter: chNN
part: partX_xxx
title: 章节中文标题
status: draft | review | done
-->
# 章节标题(英文副标题)
!!! abstract "本章内容"
用 3–5 句话预告:本章解决什么问题、理论主线是什么、用什么代码验证、读者将获得什么能力。
---
## 1. Motivation 动机
<!-- 为什么会出现这个技术?它解决什么问题?如果没有它,会发生什么?
结合 GPU、Memory、Latency、Throughput 等工程背景解释。 -->
- 问题场景描述(给出具体数字示例,如"一个 7B 模型 KV Cache 需要 X GB")
- 没有该技术时的表现(baseline 行为)
- 该技术带来的核心收益(预期收益,量化)
## 2. Theory 理论
<!-- 第一性原理推导。要求:
1. 从第一性原理推导,不假设读者已知道背景
2. 画出系统流程
3. 给出时序图
4. 给出数据流
5. 给出复杂度分析
6. 给出设计权衡(Trade-off)
不只是解释概念,要解释"为什么"。 -->
### 2.1 问题建模
<!-- 定义问题:输入、输出、约束条件 -->
### 2.2 第一性原理推导
<!-- 从最底层的约束(硬件特性/算法本质)出发推导 -->
### 2.3 系统流程
```mermaid
flowchart TD
A[输入] --> B[步骤 1]
B --> C{决策点}
C -->|分支 1| D[路径 1]
C -->|分支 2| E[路径 2]
2.4 时序与数据流
sequenceDiagram
participant A as 组件 A
participant B as 组件 B
A->>B: 调用(携带参数)
B-->>A: 返回
2.5 复杂度分析
| 指标 |
表达式 |
直观含义 |
| 时间 |
\(O(\cdot)\) |
... |
| 空间 |
\(O(\cdot)\) |
... |
2.6 设计权衡(Trade-off)
| 方向 |
收益 |
代价 |
适用场景 |
| 方案 A |
... |
... |
... |
| 方案 B |
... |
... |
... |
3. Industrial Implementations 工业实现
3.1 vLLM
3.2 TensorRT-LLM
3.3 SGLang / DeepSpeed / llama.cpp ...
3.4 方案对比
| 框架 | 核心思路 | 关键权衡 | 适用场景 |
4. mini-runtime Implementation
4.1 架构设计
flowchart TD
subgraph mini_runtime
A[模块] --> B[模块]
end
4.2 模块与类
| 模块 | 类/函数 | 职责 | 文件路径 |
4.3 生命周期与数据结构变化
stateDiagram-v2
[*] --> 状态1
状态1 --> 状态2
4.4 关键代码(理论验证)
# mini_runtime/xxx.py:行号范围
# 代码片段,验证 2.2 节的推导
4.5 Theory → Code 对应表
5.1 性能维度拆解
5.2 Benchmark 方法
# 可复现的 benchmark 命令
PYTHONPATH=. python benchmarks/scenarios/xxx.py
5.3 结果解读
6. Evolution 演进
flowchart LR
A[阶段 1] --> B[阶段 2] --> C[阶段 3]
7. Summary 总结
| 维度 |
结论 |
| 解决的问题 |
... |
| 在 AI Infra 中的位置 |
... |
| 依赖 |
... |
| 影响 |
... |
思考题
- ...
- ...
延伸阅读