输入模型参数、训练数据规模、精度与序列长度,自动推算 增量预训练 · SFT · RL(GRPO) · LoRA · QLoRA 的显存占用,并可折算到 H100 / H200 / B300 · 昇腾 910C / 950 等单卡所需数量。
| 设备 | 厂商 | 显存 | 带宽 | 预训练 | SFT | RL | LoRA | QLoRA |
|---|
估算结果用于规模规划(例如采购 / 容量评估),仅含训练过程 GPU 显存,不含 KV-Cache、推理路由、CPU Offload 等。
参考:NVIDIA H100 /
H200 /
Rubin (Vera);
华为 昇腾 官方规格。