that AI Router 是专为开发者打造的下一代 AI API 网关。兼容 OpenAI 格式,支持智能路由、负载均衡、自动重试与多维度成本看板,让您的 AI 应用固若金汤。
import openai
# 仅需修改两行代码,即可无缝切换到 that AI Router
client = openai.OpenAI(
api_key="tair-xxxxxxxxxxxxxxxxxxxx",
base_url="https://airouter.thatlink.top/v1"
)
response = client.chat.completions.create(
model="claude-3-opus", # 直接调用不同厂商模型
messages=[{"role": "user", "content": "Hello!"}]
)
完全兼容 OpenAI 接口规范,无需更改业务逻辑,只需修改 Base URL,即可调用 OpenAI、Anthropic、Gemini 及主流开源模型。
遇到提供商宕机或触发频率限制时,网关会自动无缝回退到备用模型(如 GPT-4 故障自动回退到 Claude-3),确保业务 100% 高可用。
支持配置多个 API Key 及上游渠道,网关可按权重(Weight)或轮询(Round Robin)方式分配请求,突破单一账号的速率限制。
按项目、模型、甚至终端用户提供详细的 Token 消耗和成本统计看板,让您的 AI 开销一目了然,拒绝糊涂账。
全球部署的 API 节点,结合智能缓存策略(Semantic Caching),不仅能有效降低重复请求成本,更能将响应延迟降至最低。
支持数据脱敏、IP 白名单、请求日志留存审计。您的真实 API Key 始终安全地保存在网关后端,绝不在客户端暴露。