王理 天翼云技术经理 联系我
菜单

作品 / 公开学习

小工具 · 部署前算账

DeepSeek 显存计算器

模拟 vLLM 与 SGLang 的显存预分配,推荐需要多少卡、多少台机器。

部署大模型之前先算账:权重、KV Cache、框架预留,各占多少显存。这个计算器把这笔账算清楚。