CYAN LABS
EN
返回工具箱

LLM 显存计算器

权重

—

KV 缓存

—

预计显存需求

—

建议显卡

—

llama.cpp 风格推理的粗略估算（FP16 KV）。实际占用因实现 / FlashAttention / 内核开销而异。

本工具仅供估算参考，不构成财务建议。实际结果因费率、税费和个人情况而异。