that AI Router

所有大模型,
只需一个接口

that AI Router 是专为开发者打造的下一代 AI API 网关。兼容 OpenAI 格式,支持智能路由、负载均衡、自动重试与多维度成本看板,让您的 AI 应用固若金汤。

app.py

import openai


# 仅需修改两行代码,即可无缝切换到 that AI Router

client = openai.OpenAI(

api_key="tair-xxxxxxxxxxxxxxxxxxxx",

base_url="https://airouter.thatlink.top/v1"

)


response = client.chat.completions.create(

model="claude-3-opus", # 直接调用不同厂商模型

messages=[{"role": "user", "content": "Hello!"}]

)

专为生产环境设计的网关特性

多模型统一下发

完全兼容 OpenAI 接口规范,无需更改业务逻辑,只需修改 Base URL,即可调用 OpenAI、Anthropic、Gemini 及主流开源模型。

智能重试与自动回退

遇到提供商宕机或触发频率限制时,网关会自动无缝回退到备用模型(如 GPT-4 故障自动回退到 Claude-3),确保业务 100% 高可用。

智能负载均衡

支持配置多个 API Key 及上游渠道,网关可按权重(Weight)或轮询(Round Robin)方式分配请求,突破单一账号的速率限制。

精细化成本监控

按项目、模型、甚至终端用户提供详细的 Token 消耗和成本统计看板,让您的 AI 开销一目了然,拒绝糊涂账。

边缘节点加速

全球部署的 API 节点,结合智能缓存策略(Semantic Caching),不仅能有效降低重复请求成本,更能将响应延迟降至最低。

企业级安全审计

支持数据脱敏、IP 白名单、请求日志留存审计。您的真实 API Key 始终安全地保存在网关后端,绝不在客户端暴露。