企业接入大模型 API 前，务必先算清这个成本公式

真正阻碍落地的并非技术

大模型接入现有系统，在技术层面并不困难：配置服务地址与一把密钥后，SDK 调用代码通常无须调整。真正阻碍落地的，往往是预算部门询问「本月需要花多少钱」时，技术团队无法提供一个可以签字确认的数字。

这正是企业与个人开发者的区别。个人通常是「先运行起来，实际花多少就算多少」；企业则要求开销能够预估、可以归因且设有上限。因此，只有在编写第一行调用代码前算清成本模型，后续接入才有意义。

一、将成本转化为公式

大模型 API 的计费依据是 token，而不是请求次数。常见错误是根据「每天调用多少次」估算预算，最终与实际账单相差好几倍。正确方法应当拆解每一次调用：

单次成本 = 输入 token 数 × 输入单价 + 输出 token 数 × 输出单价
月度成本 = 单次成本 × 日均调用量 × 30

三个变量都必须取自真实数据，不能凭感觉估计：

• 输入 token：企业场景的输入通常远大于个人场景。带上系统提示词、检索到的文档片段、多轮历史，一次「简单问答」的输入常常是几千 token。
• 输出 token：受到 max_tokens 约束，也是唯一可以直接限定上限的变量。
• 日均调用量：内部工具可按照「人数 × 人均日使用次数」估算，客服场景则根据工单数量计算。

举个内部知识库助手的例子：系统提示 500 token + 检索片段 2500 token + 历史 1000 token = 4000 输入 token，输出限制 500 token。200 人每天各用 10 次，就是一天 2000 次调用、800 万输入 token。这个量级和「200 人偶尔问几句」的直觉差得很远，但它才是应该写进预算表的数字。

二、选择按量计费还是预付额度

确定用量规模后，便有了选择付费方式的依据。

按量计费适用于验证阶段：调用量尚不明确，实际使用多少就扣除多少，不存在沉没成本。代价是财务难以安排计划，每月账单会有波动，还需要按月对账。

预付额度（许多平台称为资源包）主要解决三个企业特有问题：预算可一次完成审批，不必每月重新申请；采购口径保持统一，一份合同能够覆盖多个项目；额度存在上限，可自然约束失控风险。

判断方式可以非常机械：如果连续两三个月的实际用量波动保持在 30% 以内，就意味着已进入可预测区间，此时预付比按量更省心；若波动仍然很大，则继续按量计费，不必急于锁定。

三、接入时将 usage 写入日志

接入本身是最简单的环节。工程实施时必须把服务地址和密钥提取为配置，避免写死。下面以jiekou.vip为例：

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["LLM_API_KEY"],
    base_url=os.environ["https://api.highwayapi.ai/openai"],
)

resp = client.chat.completions.create(
    model="gpt-4o-mini",
    messages=[{"role": "user", "content": "你好"}],
    max_tokens=500,
)
print(resp.usage)

其中一个细节值得特别说明：resp.usage 是开展成本治理的起点。它会返回本次调用实际消耗的输入和输出 token。只有将其写入日志，第一节的估算公式才能通过实测数据校准。许多团队接入阶段只打印 content、却把 usage 舍弃，直到月底账单超出预算，才发现没有任何数据可用于复盘。

排查错误时可关注几个常见返回码：遇到404，先确认服务地址末尾是否少写或多写了 /v1（不同 SDK 的路径拼接方式不同，最快的办法是核对最终请求的完整 URL）；401 通常表示密钥未携带或填写错误；429 说明触发频率限制，应降低并发后重试。

四、接入第一天就按项目拆分密钥

只知道「花了多少」仍不够，还必须明确「谁花的」。实现成本很低，只要接入时按项目和环境分别申请独立密钥，用量就会自然分开统计：

• 每条业务线各用一把密钥，让用量和成本直接对应具体部门。
• 将测试与生产环境分开，防止压测流量混入生产账单。
• 若某把密钥泄露或项目下线，可独立吊销，不影响其他业务线。

首日拆分几乎没有成本；若等十几个服务共用一把后再拆，就需要逐一修改配置并重新发布。

小结

企业接入大模型 API，应遵循「先核算成本、再选择付费方式、最后编写代码」的顺序：用 token 公式估算真实规模，根据用量稳定程度选择按量或预付；接入阶段把地址和密钥独立配置，并将 usage 写入日志，再按项目拆分密钥。技术接入只需几行代码，真正的前提是让成本成为可以预估、能够归因的数字。