ai-gateway

Never stop coding. Free MIT AI gateway: one endpoint, 375 providers (150+ free), 1,400+ models Kimi, Claude, GPT, Gemini, GLM, DeepSeek, MiniMax. Works with Claude Code, Codex, Cursor, OpenCode, Cline & Copilot. Quota-aware auto-fallback, RTK+Caveman compression saves 15-95% tokens, MCP/A2A, Desktop/PWA. Built by 900+ contributors

OmniRoute是一个面向多供应商大语言模型的AI网关：它提供兼容OpenAI的端点，具备智能路由、负载均衡、重试和故障转移功能。

Python SDK及代理服务器（LLM网关）：支持以OpenAI格式调用100+LLM API——涵盖Bedrock、Azure、OpenAI、VertexAI、Cohere、Anthropic、Sagemaker、HuggingFace、Replicate、Groq等平台

一个统一的AI模型中心，用于聚合与分发。它支持将各类大语言模型跨格式转换为OpenAI兼容、Claude兼容或Gemini兼容的格式。作为个人与企业模型管理的集中式网关。🍥

🦍 云原生API网关与AI网关。

适用于Claude Code、Codex、Cursor的通用AI代理 | 支持OpenAI、Claude、Gemini、Copilot

云原生API网关与AI网关

开源UI优先的身份与访问管理平台/单点登录平台，提供支持OAuth 0、OIDC、SAML、CAS、LDAP、SCIM、WebAuthn、TOTP、MFA、Face ID、RADIUS、Google Workspace、Active Directory及Kerberos的Web用户界面。

🤖 AI 网关 | AI 原生 API 网关

最快的LLM网关，性能超越LiteLLM达50倍，具备自适应负载均衡器、集群模式、防护机制，支持1000多种模型，在5k RPS下延迟低于100微秒

🤖 AI网关 | 原生AI API网关

用于多通道、多凭证设置的自托管 AI 网关 — API 密钥和订阅帐户、调度、故障转移、请求日志和使用情况。 自托管AI网关：多渠道多外汇统一接入器，含外汇与订阅账号、调度内容错、日志与用量。

智能体应用交付基础设施——Plano是面向AI原生的代理与数据平面，可卸载底层管道工作，让您专注于智能体核心逻辑开发（支持任意AI框架）。

面向混合模型的智能路由器。

面向AI智能体与MCP服务器的下一代代理型代理工具

代理系统的模型路由器。在 <50 毫秒内将每个提示路由到正确的模型。只需更改端点即可将成本削减 40-70%。

面向智能体系统的模型路由器。在50毫秒内将每个提示路由至正确模型，仅需更改端点即可降低40-70%成本。

一个自托管的CPA/CLIProxyAPI管理面板及可观测性仪表板，用于监控请求、用量、成本、配额、故障和账户健康状态。

基于Envoy Gateway构建的生成式AI服务统一访问管理平台

用于评估、观察和改进 LLM 和 AI 代理应用程序的开源端到端平台。追踪·评估·模拟·数据集·网关·护栏。可自行托管。阿帕奇2.0。

Route, manage, and analyze your LLM requests across multiple providers with a unified API interface.

TokenHub为企业提供了统一AI模型接入和治理的私有网关，让每个请求可控、可追溯、可归因。

您自己运行的开源、兼容 OpenAI 的 LLM 网关。适用于 40 多家提供商的一个端点，具有虚拟密钥、预算和使用情况跟踪功能。

基于 Nuxt UI 和 Vercel AI SDK 构建的 Nuxt AI 聊天机器人模板。