系统性的 PyTorch 编译器技术栈源码教学材料，按 Inductor → vLLM 实战 → operator → Triton → MLIR 的顺序组织五大核心：Inductor 编译器、vLLM 工业级编译集成、基础算子（ATen Ops）、Triton 编译器 与 MLIR 编译器基础设施，面向准备从事 ML 编译器开发的工程师，以专家视角提供从全局架构到关键代码的完整学习路径。
- Inductor：理解 PyTorch 2 编译管线的完整架构——Dynamo 追踪 → FX 图优化 → Lowering → 调度与融合 → 代码生成
- vLLM 实战：理解
torch.compile在工业级推理服务中的完整落地——vLLM 如何把编译当轴线重排运行时、算子边界与缓存策略（一次捕获、丢 guards、Piecewise 切分、CUDA Graph、compile-once），看编译原理落进工程现场的第一手样本 - operator（基础算子）：理解被 Inductor 编译的对象——ATen 基础算子到底在做什么（数学语义 / 操作逻辑 / 在模型里的角色），尤其是难懂的「操作类算子」（as_strided / gather / scatter …），以及每个算子在 Inductor 中走哪条降级路径（pointwise / reduction / template / fallback）
- Triton：理解 Triton 编译器的全栈设计——从 DSL 前端（TTIR）到 GPU 后端（TTGIR → LLVM IR → PTX → CUBIN）
- MLIR：理解 MLIR 编译器基础设施的设计哲学——先从全局俯瞰（编译器/IR 演进史、Dialect 体系、渐进式递降），再以编译器学科视角逐层拆解其工作机制（IR 表示、def-use chain、重写范式）
- 掌握每个阶段的设计动机、编译器理论基础与源码实现细节
- PyTorch 2 论文 (ASPLOS 2024): "PyTorch 2: Faster Machine Learning Through Dynamic Python Bytecode Transformation and Graph Compilation"
- Triton 论文 (MAPS@PLDI 2019): "Triton: An Intermediate Language and Compiler for Tiled Neural Network Computations"
- MLIR 论文 (CGO 2021): "MLIR: Scaling Compiler Infrastructure for Domain Specific Computation"
- MLIR Dialect 教程 (Lei.Chat): 由 MLIR/SPIR-V 核心开发者撰写的系列博客，涵盖 Linalg/Vector Dialect 与变换管线
- TorchInductor 设计帖: dev-discuss.pytorch.org
- vLLM torch.compile 设计文档: docs.vllm.ai — torch.compile（《vLLM 中的 Inductor》的事实基准为 vLLM 0.27.1 源码）
- 编译器理论教材: Engineering a Compiler (Keith D. Cooper & Linda Torczon, 3rd Edition)
my pytorch tutorial/
├── README.md # 本文件
│
├── Inductor Introduction/ # Inductor 编译器教程
│ ├── README.md # Inductor 教程导航
│ ├── compiler_view_tutorial/ # ⭐【核心】编译器设计视角（12章 + 2附录）
│ ├── skeleton_tutorial/ # 管线阶段视角（5个 phase）
│ └── key_classes_analysis/ # OOP/类设计视角（9章 + 附录）
│
├── inductor in vllm book/ # ⭐【核心】vLLM 中的 Inductor：工业级编译集成实战（已定稿）
│ ├── README.md # 该书导航（15章 + 前言 + 附录 A/B/C）
│ ├── 00-前言 ~ 15-动手实践 # 全景 → 配置/前端 → 中端切分 → 后端编译 → 产物/运行时 → 哲学/实践
│ └── appendix-A/B/C # 术语对照、图例与写作规范、源码锚点索引
│
├── operator/ # 基础算子（ATen Ops）教程：以 Inductor/编译器视角看算子
│ ├── README.md # ⭐【核心】算子书导航（含 161 算子速查）
│ ├── 00-…~16-… # 17 章：张量基底 + 数学类 + 操作类 + 模型层原语
│ ├── stride-essence.md # stride 本质深度专题
│ └── appendix-b/c # 复合→基础分解 cookbook、Inductor 降级速查
│
├── Triton Introduction/ # Triton 编译器教程
│ ├── README.md # Triton 教程导航
│ ├── High level Introduction of triton/ # ⭐【核心】高层导论（3章 + 1附录）
│ └── triton_compiler_view_tutorial/ # 编译器设计视角（15章 + 5附录）
│
├── MLIR/ # MLIR 编译器基础设施教程
│ ├── README.md # MLIR 教程导航
│ ├── MLIR high level overview/ # ⭐【核心】第一阶段：高层概述（4章）
│ └── compiler-view-of-MLIR/ # 第二阶段：编译器视角教材（Ch0-Ch13）
│
└── code/
└── src/
├── data_flow_panorama.py # 数据流加工全景演示脚本
├── torch_compile_debug/ # torch.compile 调试输出
└── phase1/ # Phase 1 相关代码
Inductor 编译器教程 → Inductor Introduction/
三套并行教程从不同角度覆盖 Inductor 编译器：
| 教程 | 视角 | 篇幅 | 适合场景 |
|---|---|---|---|
| compiler_view_tutorial（核心） | 编译器理论，映射 EaC 教材 | 12章 + 2附录 | 建立整体认知框架 |
| skeleton_tutorial | 编译管线阶段，12节标准化模板 | 5个 phase | 快速了解各阶段边界与数据流 |
| key_classes_analysis | OOP/类设计，类继承树与协作关系 | 9章 + 附录 | 深入源码理解"为什么这样设计" |
vLLM 中的 Inductor → inductor in vllm book/
定位：Inductor 教程的直接工业后续——学完编译管线后，立刻看它被放进真实推理服务的样子：一个工业级系统为了吃下编译收益，愿意把多少东西重塑给编译器让路（重排运行时、算子边界与缓存策略）。
面向 Inductor 开发者的 vLLM 编译栈全景教材，15 章 + 前言 + 附录 A/B/C 已全部定稿。以 vLLM 0.27.1 源码为唯一事实基准，沿五层编译栈（模型层 → Dynamo 前端 → vLLM 中端 → Inductor 后端 → 运行时执行层）逐层拆解 torch.compile 的工业级集成。全书共享一条叙事因果链：decode 是 CPU/launch bound → 必须消灭 Python 开销 → 代价是编译 → 编译的代价是启动时间 → 所以全部编译前置 + 缓存 → 所以敢丢 guards、敢一次 trace、敢去泛函化。
读者契约：假设你懂 dynamo / AOTAutograd / Inductor 流水线（即已完成 Inductor Introduction），不假设任何 vLLM 知识（第 2 章兜底）。
详细目录见 inductor in vllm book/README.md
| 部分 | 章节 | 核心内容 |
|---|---|---|
| Part I 背景与全景 | 第 1~3 章 | launch-bound 的 decode、V1 引擎最小背景、编译栈五层全景图 |
| Part II 配置与前端 | 第 4~5 章 | CompilationMode / CUDAGraphMode / -O 优化级别、@support_torch_compile 与「一次捕获」哲学 |
| Part III 中端切分 | 第 6~7 章 | Piecewise 切分（attention 为何是图的边界）、unified_attention / vllm_ir 与 activation donation |
| Part IV 后端编译 | 第 8~10 章 | VllmBackend 总编排、逐 range 编译与 Inductor 对接、PostGradPassManager 与自定义 fusion |
| Part V 产物与运行时 | 第 11~13 章 | execution_fn / liveness / 可序列化产物、CUDA Graph capture/replay 与运行时分派、编译缓存与 AOT |
| Part VI 哲学与实践 | 第 14~15 章 | 七条设计命题 P1~P7、动手实践与调试 |
operator 基础算子教程 → operator/
定位：在理解「Inductor 怎么编译」之前，先看懂「被编译的算子在干什么」。它是三大编译器教程的算子前置知识——Inductor 的输入就是一张由
aten.*算子组成的计算图。
以「位置保持 vs 位置变化」为分类轴，系统讲解 Core ATen 全 161 个基础算子的功能：数学公式 / 操作逻辑 / 实现复杂度 / 在模型里的角色，并标注每个算子在 Inductor 中走哪条降级路径。重心放在操作类算子（as_strided / gather / scatter / sort … 这些「不在算数学、而在搬运/重排/索引」的算子）。
详细目录见 operator/README.md
| 部分 | 章节 | 核心内容 |
|---|---|---|
| 前置 | 第 0 章 张量基底 · stride 本质 | shape/dtype/stride/广播/类型提升/SSA 契约；stride 的数学本质与「能做/不能做」边界 |
| Part I 数学语义类 | 第 1 章 · 第 2 章 · 第 3 章 · 第 4 章 · 第 5 章 · 第 6 章 | 逐元素算术、三角与超越、比较/布尔/位运算、规约、线性代数核心、激活函数 |
| Part II 张量操作类（重心） | 第 7 章 · 第 8 章 · 第 9 章 · 第 10 章 · 第 11 章 · 第 12 章 | 形状与视图、拼接与切分、索引家族（最难）、排序与选取、创建与填充、内存布局与类型转换 |
| Part III 模型层原语 | 第 13 章 · 第 14 章 · 第 15 章 · 第 16 章 | 卷积、池化、归一化、填充/上采样/采样 |
| 附录 | 附录 B 复合→基础分解 · 附录 C Inductor 降级速查 | silu/gelu/softmax… 如何分解；每类算子走 pointwise/reduction/template/fallback 哪条路 |
Triton 编译器教程 → Triton Introduction/
| 教程 | 视角 | 篇幅 | 适合场景 |
|---|---|---|---|
| ⭐ High level Introduction of triton | 工程实践，高层全景 | 3章 + 1附录 | 入门最佳起点，快速建立 Triton 编译器整体认知 |
| triton_compiler_view_tutorial | 编译器理论，映射 EaC + MLIR + GPU 教材 | 15章 + 5附录 | 系统深度学习，适合完成 High level 后深入 |
MLIR 编译器基础设施教程 → MLIR/
MLIR 教程采用两阶段结构，先建立全景再深入机制：
| 教程 | 视角 | 篇幅 | 适合场景 |
|---|---|---|---|
| ⭐ MLIR high level overview（第一阶段） | 编译器/IR 演进史 + Dialect 体系 + 变换管线 | 4 章 | 理解 MLIR 设计哲学与结构化代码生成的宏观图景 |
| compiler-view-of-MLIR（第二阶段） | 编译器学科镜头下的 MLIR 工作机制 | Ch0–Ch13 | 系统深入学习 IR 表示、def-use chain、图重写等核心机制 |
第一阶段从 LLVM IR → SPIR-V → MLIR 的演进逻辑出发，讲清 Linalg/Vector Dialect 如何协同完成渐进式递降（Progressive Lowering）；由 MLIR/SPIR-V 核心开发者 Lei Zhang 撰写。第二阶段则以编译器学科谱系为镜头，把 MLIR 当作编译器教材的一员来审视——它回答了哪些经典问题、用了什么新抽象、相比 LLVM/GCC/Sea of Nodes 做了哪些取舍。两阶段从"宏观图景"递进到"机制内幕"，与 Triton 编译器教程形成互补（Triton 编译器本身基于 MLIR 构建）。
- inductor_overview.md — 从文件结构角度建立全局地图，理解
torch/_inductor/下各文件的职责与协作关系 - phase1_global_view.md — 从数据流角度理解编译管线：Dynamo → FX Graph → Lowering → Scheduling → Codegen
- 运行 data_flow_panorama.py — 通过实际代码运行观察数据在各阶段的变化
以 Engineering a Compiler 为骨架的系统性 12 章教材，每章包含编译器理论与 Inductor 源码实现的映射分析。
详细目录见 compiler_view_tutorial/README.md
| 部分 | 章节 | 核心内容 |
|---|---|---|
| 基础与全景 | 第 1 章 · 第 2 章 | 编译器设计导论、Dynamo 字节码追踪与 FX Graph |
| 前端 | 第 3 章 | Inductor IR 设计 |
| 中间层 | 第 4 章 · 第 5 章 | Lowering、图优化 |
| 后端 | 第 6 章 · 第 7 章 · 第 8 章 · 第 9 章 · 第 10 章 | 依赖分析、融合、代码生成、内存管理、指令调度 |
| 集成与展望 | 第 11 章 · 第 12 章 | 端到端流程回顾、PyTorch 生态协同 |
从面向对象设计视角，以类继承树为核心线索逐一剖析关键类的设计动机、接口语义和协作方式。
详细目录见 key_classes_analysis/README.md
| 章节 | 核心内容 |
|---|---|
| 第 1 章 | 全局架构概览 |
| 第 2 章 | Virtualized 基础设施 |
| 第 3 章 | Handler 协议 |
| 第 4 章 | IR 表示体系 |
| 第 5 章 | Lowering 相关类 |
| 第 6 章 | 调度相关类 |
| 第 7 章 | Kernel 代码生成 |
| 第 8 章 | Wrapper 代码生成 |
| 第 9 章 | 端到端流程串联 |
前置：已熟悉 dynamo / AOTAutograd / Inductor 流水线（完成 Inductor Introduction 任一教程即可）；不假设任何 vLLM 知识。
- 速览（约 2 小时，建立心智模型）：第 1 → 3 → 14 章 —— 动机（decode 为何 CPU/launch bound）、五层全景图、七条设计命题
- 主线（教材式）：第 1~15 章顺序读，这是本书设计的默认路径，每章末尾有下一章预告
- 深潜（要改代码的读者）：第 3 章站稳后按 Part III → IV → V 逐层下钻，边读边对照章末源码索引开源码，最后用第 15 章的调试工具亲手验证机制
详细目录与阅读路径见 inductor in vllm book/README.md。
读懂 Inductor 编译的对象。建议在通读 Inductor 教程后、深入各算子 lowering 前切入。
- 第 0 章 张量基底 — shape/dtype/stride/contiguity/广播/类型提升，建立全书「位置保持 vs 位置变化」分类轴
- stride 的本质 — 一块一维内存如何假装成任意多维张量，讲透 stride「能做 / 不能做」的精确边界
- 按轴阅读：先 Part I（数学语义类，第 1–6 章）建立直觉，再进入 Part II（张量操作类，第 7–12 章，全书重心），最后 Part III（模型层原语，第 13–16 章）
- 附录 C Inductor 降级速查 — 查每个算子走 pointwise / reduction / template / fallback 的哪条路（torch 2.7.1）
Triton 是 PyTorch Inductor 的默认代码生成后端，也是理解 GPU 编译器全栈技术的绝佳入口。
⭐ 入门最佳起点：High level Introduction of triton（3 章 + 1 附录），以工程实践视角覆盖 kernel 全生命周期、编译器架构全景与多后端适配、Dialect 与 Pass Pipeline 设计，快速建立 Triton 编译器整体认知。
需要系统深入学习时，triton_compiler_view_tutorial（15 章 + 5 附录）以编译器理论为骨架逐章拆解 Triton 全栈设计。详细目录见 triton_compiler_view_tutorial/README.md。
MLIR 学习分两阶段推进：先建立全景，再深入机制。
源自 Lei.Chat 博客系列文章，由 MLIR/SPIR-V 核心开发者撰写，共 4 章，建立编译器/IR 演进史到 MLIR Dialect 体系再到核心变换管线的整体认知。
| 章节 | 核心内容 | 适合场景 |
|---|---|---|
| 第 1 章 | 编译器/IR 演进：LLVM IR → SPIR-V → MLIR | 建立历史视角，理解 MLIR 设计动机 |
| 第 2 章 | MLIR Dialect 体系：Linalg/Vector/Tensor/Memref/SCF/CF | 理解沙漏型架构和 Dialect 协作关系 |
| 第 3 章 | Vector Dialect 深度：三级分层 + 完整变换管线 | 掌握向量层的渐进式递降 |
| 第 4 章 | Linalg Dialect 深度：Tiling/Fusion/Distribution/Vectorization | 理解结构化代码生成入口 |
以编译器学科为镜头逐章拆解 MLIR 的工作机制——IR 如何被表示、构造、重写、销毁，共 Ch0–Ch13，分 7 部分：导论 → IR 逻辑结构 → def-use chain → IR 遍历 → IR 构建 → IR 重写 → 专题与综合。详细目录见 compiler-view-of-MLIR/README.md。
三大编译器教程（Inductor / Triton / MLIR）均以 Engineering a Compiler (3rd Edition) 为理论骨架，以下是关键映射。
operator 教程与《vLLM 中的 Inductor》不在此列：前者不是以 EaC 为骨架的编译器教材，而是以「算子分类轴」（位置保持 vs 位置变化）组织的算子功能手册，定位为三大编译器教程的算子前置知识——EaC 阶段表里的任何一行，落到 Inductor 源码里的具体处理对象，都可在 operator/ 找到对应算子的功能与降级路径讲解；后者以 vLLM 编译栈五层架构为主线，是 EaC 各阶段在工业推理服务里的落地检验场——每个环节都带着生产级约束与取舍（如图优化遇上 compile-once 缓存、指令调度遇上 CUDA Graph），详见 inductor in vllm book/。
| EaC 章节 | 主题 | Inductor 对应模块 | Triton 对应模块 | MLIR 对应内容 |
|---|---|---|---|---|
| Ch.1-3 | 编译器概览、词法/语法分析 | Dynamo 字节码追踪 | Triton DSL 前端 | 编译器/IR 演进史（第一阶段·第 1 章）；MLIR 在编译器学科中的位置（第二阶段·Ch0） |
| Ch.4 | 中间表示 (IR) | FX Graph IR、Inductor IR | TTIR + TTGIR (MLIR) | MLIR Dialect 体系（第一阶段·第 2 章）；Operation/Block/Region（第二阶段·Ch2-3） |
| Ch.5 | 语法导向翻译 | Lowering: FX Graph → Inductor IR | TTIR → TTGIR Lowering | Progressive Lowering / Dialect Conversion；从 AST 到 IR（第二阶段·Ch6） |
| Ch.8 | 优化简介 (CSE, DCE) | 图优化 passes | TTIR/TTGIR 优化 passes | Canonicalization patterns；matchAndRewrite 图重写（第二阶段·Ch9-11） |
| Ch.9 | 循环优化 (fusion, tiling) | Scheduler 融合决策 | Tiling, Peeling, Coalescing | Linalg Tiling/Fusion（第一阶段·第 4 章） |
| Ch.10 | 指令选择 | Codegen: IR → Triton/C++ | TTGIR → LLVM IR Conversion | Vector Lowering / Unrolling（第一阶段·第 3 章） |
| Ch.11 | 指令调度 | Scheduler 节点排序 | 软件流水线、Warp Specialization | Distribution（第一阶段·第 4 章） |
| Ch.12 | 寄存器分配 | Buffer 内存分配 | Shared Memory 分配、Alias 分析 | Bufferization / 寄存器资源分配 |
| Ch.13 | 后端编译总结 | Inductor 端到端回顾 | LLVM → PTX → CUBIN 发射 | LLVM/SPIR-V Dialect 导出；BufferCastOpFold 闭环（第二阶段·Ch13） |
教学脚本依赖 PyTorch 开发环境（含 torch.compile 支持）和 Triton：
# 激活环境
source .venv/bin/activate
# 运行 Inductor 数据流全景演示
python "my pytorch tutorial/code/src/data_flow_panorama.py"
# 查看详细编译日志
TORCH_LOGS="+inductor" python "my pytorch tutorial/code/src/data_flow_panorama.py"
# 查看 Triton 编译中间产物
TRITON_DUMP_IR=1 python your_triton_kernel.pycode/src/torch_compile_debug/ 目录下保存了多次运行的 torch.compile 调试输出（FX graph 可读版、转换版、Inductor IR、生成的 kernel 代码），可直接查阅作为学习参考。