一个 Key 接入 OpenAI、Anthropic、Google、xAI、DeepSeek、通义、豆包、Kimi、GLM、MiniMax、混元、FLUX 等主流大模型
OpenAI Chat/Responses/Embeddings/Images、Anthropic Messages、Gemini generateContent,现有 SDK 只需替换 Base URL。
以上游返回的真实用量计费,区分缓存命中、缓存写入、推理 Token;整数微额度结算,无浮点误差,每笔可查。
多渠道优先级 + 权重负载、失败自动切换、熔断保护、流式实时透传。
curl http://localhost:8080/v1/chat/completions \
-H "Authorization: Bearer sk-你的Key" \
-H "Content-Type: application/json" \
-d '{"model":"gpt-4o-mini","messages":[{"role":"user","content":"你好"}]}'