搭建自己的 AI API 中转站（踩坑记录）

背景

想统一管理多个模型的调用，顺便省点 API 费用，于是决定自己搭一个中转站。

架构

IDE / 应用 --(中转站 Token)--> 中转站 --(上游 Key)--> DeepSeek 等

踩坑记录

1. 鉴权：一开始直接把上游 key 透传，后来改成自定义 Token，按用户维度做用量统计。
2. 流式响应：Stream 模式必须关闭代理缓冲，否则 IDE 一直等不到第一个 token。
3. 限流：不加限流，测试期就被刷爆了，后来用 Redis 做了简单的滑动窗口。

下一步

• 注册 → 充值 → 使用的完整链路
• 按模型/用户维度出报表