#llm-gateway 仓库
探索 32 个标记为 #llm-gateway 的活跃开源 GitHub 仓库,它们累计获得 404,707 个 Star(平均每个项目 12,647 个)。该主题的领先项目是 cheaper-inference/OmniRoute,拥有 89,311 个 Star。
共 32 个仓库
永不停止编码。免费的 MIT 许可证 AI 网关:一个端点,375 家服务提供商(150 多家免费),1,400 多个模型:Kimi、Claude、GPT、Gemini、GLM、DeepSeek、MiniMax。兼容 Claude Code、Codex、Cursor、OpenCode、Cline 和 Copilot。根据配额自动切换备用服务,RTK+Caveman 压缩可节省 15–95% 的 token,支持 MCP/A2A、桌面端/PWA。由 900 多位贡献者打造
最快、最轻的AI网关。采用Rust核心与Python SDK。以OpenAI(或原生)格式调用100多个LLM API,支持成本追踪、防护栏、负载均衡和日志记录 [Bedrock、Azure、OpenAI、Anthropic、OpenAI、VertexAI、vLLM、Nvidia NIM]
开源 AI 网关。可自行托管的 LLM 网关,提供兼容 OpenAI、Claude 和 Gemini 的 API,以及模型路由、访问控制、用量跟踪和成本核算功能。
🪢 开源 AI 工程平台:基于 OpenTelemetry 构建,提供 AI 网关、智能体可观测性、评估以及提示词/技能管理。一个开放平台,覆盖每一次 AI 调用和每一个智能体。可自行托管,也可使用 Langfuse Cloud。
无限免费 AI 编码。通过 40 多家供应商将 Claude Code、Codex、Cursor、Cline、Copilot、Antigravity 连接至免费 Claude/GPT/Gemini。自动回退,RTK -40% 令牌,永不触及上限。
开源、高性能的 AI 网关,可作为您的 LLM 网关、MCP 网关和智能体网关。通过一个兼容 OpenAI 的 API 接入 10,000 多种模型,并提供故障转移、负载均衡、语义缓存、虚拟密钥、预算管理和 MCP Code Mode。兼容任何 SDK 或智能体,在 5k RPS 下增加的开销低于 200µs。
🚀 下一代多租户 AI 一站式解决方案。内置管理与计费系统。企业级统一 LLM 网关,支持 200 多个模型和 35 家以上提供商,具备基于优先级的负载均衡路由、成本管理、聊天共享、云同步、积分/订阅计费、全文件解析、网络搜索及内置模型缓存。
云原生、超高性能 AI&API网关,LLM API 管理、分发系统、开放平台,支持所有AI API,不限于OpenAI、Azure、Anthropic Claude、Google Gemini、DeepSeek、字节豆包、ChatGLM、文心一言、讯飞星火、通义千问、360 智脑、腾讯混元等主流模型,统一 API 请求和返回,API申请与审批,调用统计、负载均衡、多模型灾备。一键部署,开箱即用。
用于AI编码代理的非破坏性压缩网关。从第一轮减少25%的token费用,到长时间或饱和会话中减少超过85%,并在相同的上下文窗口中容纳约3倍的轮次。由我们开源的代码原生4B模型驱动。可直接用于Claude Code、Cursor、Codex、OpenHands以及任何BASE_URL代理。
用Go编写的AI网关/AI控制平面/AI代理。为OpenAI、Anthropic、Gemini、Groq、xAI、Ollama、vLLM等提供统一的OpenAI兼容和Anthropic兼容API。作为LiteLLM的替代方案,具备可观测性、护栏、流式传输、成本跟踪、智能路由、粘性会话、故障转移、实时日志和使用跟踪。生产就绪。
An AI chat bot for small and medium-sized teams, supporting models such as Deepseek, Open AI, Claude, and Gemini. 专为中小团队设计的 AI 聊天应用,支持 Deepseek、Open AI、Claude、Gemini 等模型。
用 Rust 构建的开源 LLM 网关。一个端点即可接入 OpenAI、Anthropic、Gemini 及其他所有供应商。支持任意 SDK、任意模型、任意工具。
Gemini 网页 → OpenAI 兼容 API + Gemini 原生 API,可自托管,无需 API 密钥。通过付费账号 Cookie 使用 Gemini 4 Argon;strict_model(返回 429,而非静默降级)、Cookie 池自动续期、代理池、管理面板、图像与视频生成,单个 Go 二进制文件 · 将 Gemini 网页反向代理为 OpenAI 兼容 / Gemini 原生 API,付费账号 Cookie 可直接使用 Gemini 4 Argon
适用于 macOS、Windows 和 Linux 上 Claude Code、Codex 及其他 AI 客户端的本地网关:无需修改客户端即可切换上游服务,避免 API 密钥暴露给中继服务,拦截恶意工具调用,追踪每个请求。
面向组织的自托管 AI API 和 MCP 网关:支持单点登录(SSO)和基于角色的访问控制(RBAC)、为 MCP 工具调用提供每用户身份、个人身份信息(PII)脱敏和工具调用防护、速率限制、预算、成本核算及审计日志。
提供源代码的 LLM 路由器和 AI 成本优化器。自动将简单提示路由到廉价或本地模型,将复杂提示路由到高级模型。可直接替换使用的 OpenAI 兼容代理,适用于 Claude Code、Codex、Cursor 和 OpenClaw。支持自托管,无中间商。
查看机器上每个 AI 编程代理正在做什么,以及其背后的 API 是否确实是你付费使用的那个。Claude Code、Codex、Cursor、Gemini CLI 等等:一个端点接入 44 家模型供应商,提供 A–F 级 API 真实性评级、按代理划分的权限、使用情况和提示词记录。
🕷️ 速度最快的开源 AI 网关和 LLM 网关——一个内置控制台的二进制程序,可对 OpenAI、Anthropic、Gemini、Bedrock 等平台上的每次 LLM 调用进行路由、安全防护、预算管理和监控。
常见问题解答
GitHub 上最受欢迎的 #llm-gateway 仓库是什么?
GitHub 上排名第一的开源 #llm-gateway 项目是 cheaper-inference/OmniRoute,拥有 89,311 个 Star。永不停止编码。免费的 MIT 许可证 AI 网关:一个端点,375 家服务提供商(150 多家免费),1,400 多个模型:Kimi、Claude、GPT、Gemini、GLM、DeepSeek、MiniMax。兼容 Claude Code、Codex、Cursor、OpenCode、Cline 和 Copilot。根据配额自动切换备用服务,RTK+Caveman 压缩可节省 15–95% 的 token,支持 MCP/A2A、桌面端/PWA。由 900 多位贡献者打造
#llm-gateway 仓库中最常使用的编程语言有哪些?
在 GitHub 上排名靠前的 #llm-gateway 项目中,最常见的编程语言是 Go, TypeScript, Rust, Python。
#llm-gateway 仓库的排名是如何计算的?
我们跟踪了 32 个标记为 #llm-gateway 且拥有 500+ 个 Star 的活跃开源仓库,共计获得 404,707 个 Star,平均每个仓库拥有 12,647 个 Star。排名每日根据 GitHub API 更新。