AI Infra 学习之路

给定模型、卡和用户量，回答五个问题：能撑多少人、每人等多久、百万 token 多少钱、瓶颈在哪、改哪里有用。

方法很朴素：AI 写代码，我来跑，改一个参数，再用自己的话讲清楚原理。从唐诗 mini-GPT 开始，到 KV Cache、LoRA、DPO、可验证奖励的强化学习，再到 vLLM 的 fp8 实测，所有数字都记在一本测量账里。

下一件

DeepSeek 显存计算器 →

模拟 vLLM 与 SGLang 的显存预分配，推荐需要多少卡、多少台机器。