📚 离职知识库

llm-relay 从 0 到 1 复盘 + 中转站为什么便宜

2026-07-23 记录

#一、我是怎么把这个项目从 0 搭到 1 的

#1. 选型：不重造轮子，找活跃的开源底座

先搜了一圈"市面上的中转站都是拿什么软件做的"，结论很集中：几乎所有中大型中转站 （包括 yunwu 这类）底层都是同一批开源项目的分支或二次开发，家族树大概是：

songquanpeng/one-api（鼻祖，已停更）
  └── new-api（QuantumNous/new-api，最活跃，功能最全）
  └── one-hub / done-hub / Veloera / AnyRouter（各自的分支/竞品）

我选了 New API（github.com/QuantumNous/new-api），理由：

  • Star 数和更新频率都最高，几乎是事实标准
  • 原生支持 DeepSeek / Moonshot(Kimi) / MiniMax 等几十种渠道类型，也支持任意自定义 OpenAI 兼容渠道（阶跃星辰没有原生类型，但可以当自定义渠道接）
  • 有现成的 Docker 官方镜像 calciumion/new-api，官方仓库里就带 docker-compose.yml

#2. 本地建项目骨架

在 ~/personal/llm-relay 里写了：

  • docker-compose.yml（从官方仓库扒下来的模板改的：New API + Postgres + Redis 三容器， 密码全部换成随机强密码，服务端口只绑 127.0.0.1，不直接对外）
  • .env / .env.example（真实密钥只留服务器上，.env 进 .gitignore）
  • nginx-relay.saveme505.help.conf（反代模板，抄的你已有的 scribe-api.saveme505.help 那份配置的路子）
  • README.md

#3. 部署到你的东京 VPS

rsync 项目文件 → tky
docker compose up -d   # 拉镜像、起三个容器

#4. 域名 + HTTPS

  • 你的 saveme505.help 域名 DNS 托管在 Vercel（即使这个服务本身不跑在 Vercel 上， 域名解析这一层还是走它），所以用 vercel dns add saveme505.help relay A 66.42.32.208 加了条 A 记录
  • 等 DNS 生效后用 certbot --nginx 一键签发 Let's Encrypt 证书

#5. 初始化 + 接渠道（这段没用浏览器，全走的是 New API 自己的 REST API）

  • New API 新版本没有默认账号密码，得先调 POST /api/setup 建管理员账号
  • 登录拿到 session cookie 后，调 POST /api/channel/ 把 DeepSeek / Kimi / MiniMax / 阶跃星辰四个 Key 注册成"渠道"（统一按 type=1 OpenAI 兼容渠道接，而不是各家的 原生渠道类型——原生类型有些还在适配老版本接口格式，容易水土不服）
  • 调 POST /api/token/ 生成一个你自己用的下游 Token
  • 逐个 GET /api/channel/test/:id 测试连通性，最后拿生成的 Token 真的发了一条 chat/completions 请求验证全链路

全程没有登录网页手点一次鼠标，纯靠读 New API 的 Go 源码找接口字段拼出来的。

#二、中转站为什么能做得比官方便宜？你说的"打对折的倍率"是什么

你的直觉是对的——便宜的中转站，便宜的核心几乎都不是"进价更低"，而是"计价体系错位"。 拆开来看主要是这几种手法，从相对正规到纯灰产排列：

#1️⃣ 包月订阅"拆零卖"（这是你说的"半价倍率"最可能对应的手法）

官方很多产品有两套完全不同的计费入口：

  • 按量付费 API（官方零售价，比如 DeepSeek 官网挂的 /v1 端点）
  • 包月订阅端点（比如 Claude Code 的 Max 订阅、ChatGPT Plus/Pro 的对话额度、 阶跃星辰的 Step Plan——固定月费、额度很高甚至不限速）

中转站的玩法：批量购买/占用这些包月订阅账号，把订阅账号的 access token 伪装成 API 渠道接进网关，再按官方零售单价打折对外按 token 计费转卖。只要买家的总用量 不超过订阅套餐本身的额度，商家就是纯赚——订阅是固定成本，转卖是按量收入， 边际成本趋近于 0，所以敢标官方价的三折五折。

这个模式你并不陌生——你自己在 tky 上跑的 grok-shim 反代订阅额度 就是同一套原理 （拿 grok 的订阅额度当 API 用，见 阶跃Step-Plan订阅接入.md 里记的按量端点 vs 订阅端点区别）。中转站只是把这套个人自用的手法做成了对外卖的生意。

风险：这几乎必然违反官方的服务条款（订阅账号≠API授权、更不能转售），一旦被官方 风控识别（异常并发、User-Agent 不像官方客户端等）会被批量封号，所以这类中转站 经常"跑路"或频繁换马甲，这也是你查到那篇知乎"别上头"文章提醒的核心风险点。

#2️⃣ "反代网页版"，压根没有 API 授权

不走官方开放的 API，而是模拟浏览器登录网页版对话产品（抓包网页的会话 Cookie/ 临时 Token），把网页对话接口伪装成标准 OpenAI 格式转发。同样是把"给人看的" 产品当成"给程序调"的接口在用，官方一旦升级网页鉴权就会大规模失效。

#3️⃣ 规模化批发折扣

正规的一面：中大型中转站体量大，确实可能从官方或代理商那里谈到企业批量采购折扣 （类似云计算的 RI/批量购买价），比普通开发者的零售单价低一截，这部分是"真便宜"， 没有猫腻。

#4️⃣ 掺水 / 降级 / 虚报（纯诈骗层面，别碰也别信）

  • 挂"GPT-4"的名字实际转发到便宜得多的小模型或量化版本
  • 故意多算你的 token 消耗，反向薅你的余额
  • 用免费试用账号池滚动轮换，额度用尽就换号，本质是"薅厂商新用户福利"规模化

#你自己现在这套（划重点）

你搭的 llm-relay 是纯自用、四个渠道全部是你自己账户下的真实按量付费官方 API Key，没有涉及上面任何一种"错位计价"或"反代网页版"，唯一的成本就是你自己 实打实充的官方余额——这是最干净的用法，没有 ToS 风险，唯一的代价是没法像中转站 那样打折。如果以后想更省钱，唯一安全的路子是像 project_tokyo_vps_ai_server 的 grok-shim 那样——用你自己合法拥有的订阅账号去转 API，而不是买别人转售的。

#三、参考资料

  • QuantumNous/new-api —— 本项目实际使用的网关
  • [songquanpeng 系 one-api 家族] —— one-api / new-api / done-hub / Veloera 等的源头
  • 知乎《有人靠 API 中转站赚了上亿？我花 2 块钱做了一个》—— 中转站商业模式一手信息
  • CSDN/AtomGit《大模型 API 中转站架构与核心原理》系列 —— 技术架构拆解
  • 36氪《如今大量出现的 API 中转站，大家最好别上头》—— 风险提示

来源：沉淀/02-AI与API/llm-relay项目复盘与中转站定价揭秘.md（整理于 2026-08-18）

相关笔记