LLM 显存计算
根据参数量与精度，估算模型所需的 GPU 显存。
全部在浏览器内运行，你输入的内容不会被上传。
关于这个工具
输入参数量与权重精度即可得到权重显存。若提供架构信息——层数、KV 头数、头维度、上下文长度与批大小——还会加上 KV 缓存，给出详细估算。缺少这些信息时，只报告权重部分，而不会凭空推测。
常见问题
- 权重显存如何计算？
- 参数量 × 每权重比特数 ÷ 8。7B 模型在 FP16 下为 7,000,000,000 × 16 ÷ 8 = 14 GB。
- 为什么有时不显示 KV 缓存？
- 因为它取决于模型架构，而不仅是规模。缺少层数、KV 头数与头维度时没有诚实的计算方式，所以工具会显示「仅权重」，而不是编造数字。
- 能装进显存就一定能跑吗？
- 不一定。该估算包含权重、已知时的 KV 缓存以及你设定的余量。运行时还需要激活值的工作空间，显存碎片与驱动也会占用一部分。