用同一组业务工作量，对比单张 H100 GPU 和大模型 API 的真实预算差异。当前先用 H100 作为统一参考口径，你也可以直接改 GPU 时价、吞吐速度和额外月成本，把它当成其他 GPU 的预算模型来用。
先选 API 模型，再填业务工作量。这里先用一张默认 GPU 参考口径起算，其他 GPU 你可以直接改时价、吞吐和额外成本来近似模拟。
API 成本是按使用量增长的可变成本，GPU 更像是你先买下一个固定吞吐容量，再把业务量往里塞。
如果你的请求量还小，或者波动很大，API 通常更灵活，预算也更可控；但如果业务长期稳定、吞吐足够高，那么一张 GPU 的固定成本就有机会被摊薄，反而比 API 更便宜。
这也是为什么这个页面不只看 GPU 小时价，还会同时看 tokens 吞吐、每月需求量和额外月成本。只有把这三件事放在一起，GPU vs API 的比较才更接近真实业务。
如果你还没搞清楚当前模型的 API 价格，可以先去 Token 成本计算器 或 完整模型价格页 校准基线，再回到这里看 GPU 是否值得上。
如果你现在卡在多个 API 模型之间，还没有进入 GPU 阶段，建议先去 LLM API 价格对比工具 把候选模型的预算差拉出来，再决定有没有必要继续做 GPU 评估。
如果你还没想清楚是否该上自建 GPU，最稳的方式是先用 API 成本校准业务需求，再用 H100 参考口径或你自己的 GPU 参数去看持平区间。
把一次请求的输入 tokens、输出 tokens 和每日请求量先估出来，确保工作量口径真实。
把你拿到的 H100 时价，或者其他 GPU 的时价、吞吐估计和额外月成本填进去，看看单卡或多卡预算。
如果利用率长期偏低，GPU 通常不划算；如果利用率高且量稳定，才更值得认真评估自建。
如果你的业务还在试错期，或者流量起伏很大，API 往往是更稳的选择。
API 的好处是不用提前买容量，也不用自己扛运维、容灾和部署复杂度。只要工作量还不够大，固定 GPU 成本通常很难打赢按量计费。
当你的调用量比较稳定，而且 GPU 利用率能长期拉起来时，固定成本开始有意义。
这时候你应该重点看 break-even tokens、单卡利用率和额外运维成本。如果这三项都在可控范围内，自建或租 GPU 才更值得进入下一轮深入评估。
这些问题能帮助你更快理解什么时候该继续走 API，什么时候值得认真测算自建 GPU。
因为 API 通常是按 tokens 用量计费，而 GPU 更像固定容量成本。要比较两者，需要同时考虑工作量、吞吐、利用率和额外运维成本。
不是。第一版只提供一个可编辑的参考值，目的是让你快速建立预算模型。你可以把它改成自己拿到的云厂商或租赁平台报价。
可以。当前页面先用 H100 作为统一参考口径，但 GPU 时价、吞吐和额外月成本都能手动改。你可以把这些参数替换成自己实际使用的 4090、A100、L40S 或其他 GPU 假设。
可以把电费、带宽、运维、人力、监控、存储和其他固定运维成本折算到这里。如果暂时不确定，也可以先填 0 做第一轮判断。
通常在请求量大、吞吐高、利用率足够高时，GPU 的固定成本会逐渐摊薄；如果业务量还小或波动很大，API 往往更省心也更灵活。
