OPENAI COMPATIBLE · SELF-HOSTED GATEWAY

把上游模型，
变成你的统一 API

一套轻量、安全、可自托管的 AI 中转入口。上游密钥留在服务器，客户端只使用你签发的访问密钥。

开始配置 ↗查看调用方式

01 流式输出02 模型白名单03 密钥隔离

01 QUICK START

三步接通你的网关

没有默认万能密码，也不会把上游密钥放进网页。

设置上游

配置模型服务地址和上游 API Key。密钥只在服务端读取。

AI_GATEWAY_UPSTREAM_KEY

签发访问密钥

为你的设备或团队成员生成独立、随机的访问密钥。

AI_GATEWAY_ACCESS_KEYS

替换 Base URL

现有 OpenAI SDK 无需重写，只需替换地址和客户端密钥。

https://你的域名/v1

还差最后一步

部署后添加上游密钥和至少一个网关访问密钥，健康状态就会变为 READY。

02 CONNECT

原来的 SDK，
只换一个地址。

兼容 Chat Completions、Responses 和 Embeddings，并原样转发流式响应。

✓ Bearer Token 鉴权
✓ SSE 流式传输
✓ 上游错误透明返回
✓ 可选模型白名单

curl "$GATEWAY_URL/v1/chat/completions" \
  -H "Authorization: Bearer $GATEWAY_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-4.1-mini",
    "messages": [{"role": "user", "content": "你好"}],
    "stream": true
  }'

03 SECURITY BY DEFAULT

先守住密钥，
再谈更多功能。

NO. 01

默认拒绝

未配置访问密钥时，转发接口不会开放；无效凭证统一返回 401。

NO. 02

最小暴露

不持久化提示词，不在响应中暴露上游地址或上游密钥。

NO. 03

范围控制

可通过环境变量只允许指定模型，并限制单次请求体大小。