开源与闭源模型的成本选型表

做一份开源模型自建与闭源 API 调用的三年总成本对比表，含被忽略的隐性成本项。

更新于 4天前

适用场景

  • 老板问「自建模型是不是更省钱」，需要一份算得清的回答
  • 日调用量到了几十万次，要判断该不该转自建
  • 要把 GPU 采购、运维人力这些隐性成本摆到台面上
PROMPT
技术负责人被问到「DeepSeek 都开源了，我们为什么不自己部署省下 API 费用」，需要一个能摆到会议桌上的成本测算时用这个。

【需求】
做一份三年总成本对比，对比两套方案：
A. 调用闭源 API，按每百万 token 单价计费，日调用量从 30 万 token 增长到 120 万；
B. 自建一台 8 卡机器部署 32B 开源模型。
要求列出的成本项：
1. 直接成本：A 的 token 费用；B 的硬件采购、电费、机柜、带宽；
2. 人力成本：B 需要一个能维护推理服务的工程师，按 0.3 人力折算；
3. 隐性成本：A 的限流导致的业务损失、B 的模型效果不达预期导致的返工、B 的扩容周期；
4. 机会成本：B 占用的现金流。
给出三年累计对比表与盈亏平衡点。

【输出要求】
1. 用表格给出逐年数据与合计，标注所有假设值；
2. 明确算出「日调用量达到多少时才值得自建」这个临界点；
3. 最后给 3 条结论，每条一句话，能直接念给老板听；
4. 说明这套测算在什么条件下会失效。

---
标签
成本 选型 自建
返回上一页