VRAM 计算器

估算运行 LLM 所需的 VRAM：按量化方式计算的模型权重，加上与您的上下文长度和批大小对应的 KV 缓存。