把 OpenAI SDK 一行切到 DeepSeek：自建 OpenAI 兼容网关实战

结论先行：如果你在用 OpenAI 的 SDK（或 LangChain / Claude Code / Cursor / Continue），想接国产模型，不用改任何业务代码，只要换一个 base_url。

痛点

OpenAI 太贵，国产模型（DeepSeek / Qwen）便宜好几倍，但：

• 每个厂商 SDK 不一样，迁移成本高
• 多模型要维护多套 client
• 想给团队统一配额、做审计，没有入口

解法：OpenAI 兼容网关

「兼容网关」实现了 OpenAI 的 /v1/chat/completions 协议，所以任何能调 OpenAI 的代码，把 base_url 指过来就能用：

from openai import OpenAI

client = OpenAI(
    base_url="https://keheai.com/v1",   # 只改这一行
    api_key="sk-your-key",
)

resp = client.chat.completions.create(
    model="deepseek-chat",
    messages=[{"role": "user", "content": "你好"}],
)
print(resp.choices[0].message.content)

model 填 deepseek-chat 就行，网关负责把请求打到后端 DeepSeek，对你完全透明。

为什么不直接用厂商 SDK

1. 一套代码多模型：deepseek-chat / deepseek-reasoner / qwen 随意切
2. 双上游容灾：网关层做 failover，一家挂了自动切另一家，调用方无感
3. 统一配额与日志：团队共用一个 key，后台看用量

如何验证网关靠谱

公共网关鱼龙混杂，接之前一定要实测。可以用这个开源小工具自查（stdlib，无依赖）：

python bench.py --base-url https://keheai.com/v1 --api-key sk-xxx --model deepseek-chat

会返回：暴露了多少模型、chat 是否 200、延迟多少、tok/s 多少。

自己搭也行

网关本身开源（New API 等），一台境外小机器 + Caddy 反代就能跑，成本约 ¥40/月。想省事直接用现成网关也行——重点是你的代码只认 base_url，供应商随时可换，别被绑死。

作者做 AI 基础设施，上面提到的网关和测速工具都是自己跑的。欢迎留言交流迁移踩坑。

← 返回 keheai · 价格对比 · 免费试用：keheai.com · 📧 harvey@keheai.com