一个能用的大模型，从来不是"跑一次训练"就有的，而是一条流水线。本文对应 Datawhale diy-llm 第十三章，作为总览篇把三段串成一条线：预训练在 50–200T tokens 上用 next-token 自学通用知识（产出只会续写的基座）→ SFT 用少量高质量演示学会指令格式（质量比数量更重要，含 Alpaca/ChatML 数据格式、污染阈值、幻觉根源与"中期训练"退火）→ 偏好对齐用 RLHF / DPO / RLVR 把模型调得更合人意（含 DPO 把 RL 问题变监督问题的关键推导、过度优化风险）。各阶段的深水区细节直接链到本站已有专篇（PPO、RLVR、DPO），本文只负责讲清"它们怎么衔接、各自解决什么"。配重绘示意图与论文原图。

用固定 30 题评测集定位 SFT v1 退化，再通过数据重建、质量门禁和同集复评验证 SFT v2 如何超过 base。

基于 Pokemon-data 项目，完整拆解 SFT 数据链路：数据爬取、文本清洗、模板化转换、去重质检、确定性切分与数据卡产出。

进入 E:/Pokemon-data/SFT，完整拆解从 smoke 校验到正式训练、监控、产物回收与常见坑排查的实战流程。

LoRA 通过冻结预训练权重并注入低秩更新，在接近全量微调效果的同时显著降低可训练参数量、显存占用与部署成本。