Git Stars Git Stars

#llm-gateway 仓库

探索 32 个标记为 #llm-gateway 的活跃开源 GitHub 仓库,它们累计获得 404,707 个 Star(平均每个项目 12,647 个)。该主题的领先项目是 cheaper-inference/OmniRoute,拥有 89,311 个 Star。

32
仓库总数
404,707
总星标数
12,647
平均每个仓库星标数
1
cheaper-inference/OmniRoute

永不停止编码。免费的 MIT 许可证 AI 网关:一个端点,375 家服务提供商(150 多家免费),1,400 多个模型:Kimi、Claude、GPT、Gemini、GLM、DeepSeek、MiniMax。兼容 Claude Code、Codex、Cursor、OpenCode、Cline 和 Copilot。根据配额自动切换备用服务,RTK+Caveman 压缩可节省 15–95% 的 token,支持 MCP/A2A、桌面端/PWA。由 900 多位贡献者打造

cheaper-inference
⭐ 89,311 TypeScript 👤 cheaper-inference Organization 🕐 已更新 2026-11-21 📅 创建时间 2026-02-13
2
BerriAI/litellm

最快、最轻的AI网关。采用Rust核心与Python SDK。以OpenAI(或原生)格式调用100多个LLM API,支持成本追踪、防护栏、负载均衡和日志记录 [Bedrock、Azure、OpenAI、Anthropic、OpenAI、VertexAI、vLLM、Nvidia NIM]

BerriAI
⭐ 63,649 Python 👤 BerriAI Organization 🕐 已更新 2026-11-21 📅 创建时间 2023-07-27
3
QuantumNous/new-api

开源 AI 网关。可自行托管的 LLM 网关,提供兼容 OpenAI、Claude 和 Gemini 的 API,以及模型路由、访问控制、用量跟踪和成本核算功能。

QuantumNous
⭐ 52,302 Go 👤 QuantumNous Organization 🕐 已更新 2026-11-20 📅 创建时间 2023-11-10
4
Kong/kong

🦍 API 与 AI 网关

Kong
⭐ 44,403 Lua 👤 Kong Organization 🕐 已更新 2026-11-20 📅 创建时间 2014-11-17
5
langfuse/langfuse

🪢 开源 AI 工程平台:基于 OpenTelemetry 构建,提供 AI 网关、智能体可观测性、评估以及提示词/技能管理。一个开放平台,覆盖每一次 AI 调用和每一个智能体。可自行托管,也可使用 Langfuse Cloud。

langfuse
⭐ 37,696 TypeScript 👤 langfuse Organization 🕐 已更新 2026-11-21 📅 创建时间 2023-05-18
6
decolua/9router

无限免费 AI 编码。通过 40 多家供应商将 Claude Code、Codex、Cursor、Cline、Copilot、Antigravity 连接至免费 Claude/GPT/Gemini。自动回退,RTK -40% 令牌,永不触及上限。

decolua
⭐ 32,693 JavaScript 👤 decolua User 🕐 已更新 2026-11-16 📅 创建时间 2026-01-05
7
Portkey-AI/gateway

闪电般快速的AI网关,集成护栏。路由至1,600+ LLM,50+ AI护栏,仅需1个快速友好的API。

Portkey-AI
⭐ 13,424 TypeScript 👤 Portkey-AI Organization 🕐 已更新 2026-11-20 📅 创建时间 2023-08-23
8
TykTechnologies/tyk

支持 REST、GraphQL、TCP、gRPC 和 MCP(模型上下文协议)的开源 API 和 AI 网关

TykTechnologies
⭐ 10,897 Go 👤 TykTechnologies Organization 🕐 已更新 2026-11-20 📅 创建时间 2014-05-07
9
maximhq/bifrost

开源、高性能的 AI 网关,可作为您的 LLM 网关、MCP 网关和智能体网关。通过一个兼容 OpenAI 的 API 接入 10,000 多种模型,并提供故障转移、负载均衡、语义缓存、虚拟密钥、预算管理和 MCP Code Mode。兼容任何 SDK 或智能体,在 5k RPS 下增加的开销低于 200µs。

maximhq
⭐ 9,886 Go 👤 maximhq Organization 🕐 已更新 2026-11-21 📅 创建时间 2025-03-19
10
coaidev/coai

🚀 下一代多租户 AI 一站式解决方案。内置管理与计费系统。企业级统一 LLM 网关,支持 200 多个模型和 35 家以上提供商,具备基于优先级的负载均衡路由、成本管理、聊天共享、云同步、积分/订阅计费、全文件解析、网络搜索及内置模型缓存。

coaidev
⭐ 9,343 TypeScript 👤 coaidev Organization 🕐 已更新 2026-03-12 📅 创建时间 2023-07-17
11
tbphp/gpt-load

自托管 AI 网关:多渠道、多凭据统一接入,支持 API 密钥与订阅账号、调度、故障转移、请求日志和用量统计。

tbphp
⭐ 7,241 Go 👤 tbphp User 🕐 已更新 2026-11-20 📅 创建时间 2025-06-06
12
katanemo/plano

Plano 是一个面向智能体应用的AI原生代理服务器和数据平面。提供智能LLM路由、可观测性、智能体编排和安全护栏,让您专注于智能体的核心逻辑。

katanemo
⭐ 7,118 Rust 👤 katanemo Organization 🕐 已更新 2026-10-24 📅 创建时间 2024-07-09
13
deanxv/coze-discord-proxy

代理Discord对话Coze-Bot,实现以API形式请求GPT4模型,提供对话、文生图、图生文、知识库检索等功能。

deanxv
⭐ 3,768 Go 👤 deanxv User 🕐 已更新 2026-02-22 📅 创建时间 2024-01-26
15
bestruirui/octopus

One Hub All LLMs For You | 为个人打造的 LLM API 聚合网关

bestruirui
⭐ 2,750 TypeScript 👤 bestruirui User 🕐 已更新 2026-10-23 📅 创建时间 2025-11-18
16
APIParkLab/APIPark

云原生、超高性能 AI&API网关,LLM API 管理、分发系统、开放平台,支持所有AI API,不限于OpenAI、Azure、Anthropic Claude、Google Gemini、DeepSeek、字节豆包、ChatGLM、文心一言、讯飞星火、通义千问、360 智脑、腾讯混元等主流模型,统一 API 请求和返回,API申请与审批,调用统计、负载均衡、多模型灾备。一键部署,开箱即用。

APIParkLab
⭐ 1,825 TypeScript 👤 APIParkLab Organization 🕐 已更新 2026-10-27 📅 创建时间 2024-08-12
17
theopenco/llmgateway

通过统一的 API 接口,跨多个提供商路由、管理和分析您的 LLM 请求。

theopenco
⭐ 1,755 TypeScript 👤 theopenco Organization 🕐 已更新 2026-11-21 📅 创建时间 2025-04-12
18
Paritok-official/paritok-4b-v1

用于AI编码代理的非破坏性压缩网关。从第一轮减少25%的token费用,到长时间或饱和会话中减少超过85%,并在相同的上下文窗口中容纳约3倍的轮次。由我们开源的代码原生4B模型驱动。可直接用于Claude Code、Cursor、Codex、OpenHands以及任何BASE_URL代理。

Paritok-official
⭐ 1,439 Python 👤 Paritok-official Organization 🕐 已更新 2026-11-17 📅 创建时间 2026-07-15
19
ENTERPILOT/GoModel

用Go编写的AI网关/AI控制平面/AI代理。为OpenAI、Anthropic、Gemini、Groq、xAI、Ollama、vLLM等提供统一的OpenAI兼容和Anthropic兼容API。作为LiteLLM的替代方案,具备可观测性、护栏、流式传输、成本跟踪、智能路由、粘性会话、故障转移、实时日志和使用跟踪。生产就绪。

ENTERPILOT
⭐ 1,323 Go 👤 ENTERPILOT Organization 🕐 已更新 2026-11-21 📅 创建时间 2025-12-05
20
HiveNexus/HiveChat

An AI chat bot for small and medium-sized teams, supporting models such as Deepseek, Open AI, Claude, and Gemini. 专为中小团队设计的 AI 聊天应用,支持 Deepseek、Open AI、Claude、Gemini 等模型。

HiveNexus
⭐ 1,186 TypeScript 👤 HiveNexus Organization 🕐 已更新 2025-09-16 📅 创建时间 2025-02-19
21
Deep-ai-inc/ch.at

通用基础聊天

Deep-ai-inc
⭐ 1,132 Go 👤 Deep-ai-inc Organization 🕐 已更新 2026-10-14 📅 创建时间 2025-06-18
22
respanai/respan-gateway

用 Rust 构建的开源 LLM 网关。一个端点即可接入 OpenAI、Anthropic、Gemini 及其他所有供应商。支持任意 SDK、任意模型、任意工具。

respanai
⭐ 975 Rust 👤 respanai Organization 🕐 已更新 2026-11-20 📅 创建时间 2026-09-25
23
zexadev/gemini-web2api-go

Gemini 网页 → OpenAI 兼容 API + Gemini 原生 API,可自托管,无需 API 密钥。通过付费账号 Cookie 使用 Gemini 4 Argon;strict_model(返回 429,而非静默降级)、Cookie 池自动续期、代理池、管理面板、图像与视频生成,单个 Go 二进制文件 · 将 Gemini 网页反向代理为 OpenAI 兼容 / Gemini 原生 API,付费账号 Cookie 可直接使用 Gemini 4 Argon

zexadev
⭐ 974 Go 👤 zexadev User 🕐 已更新 2026-11-21 📅 创建时间 2026-05-29
24
mozilla-ai/otari

可自行部署的开源 AI 网关。一个端点接入 40 多家服务提供商,并支持虚拟密钥、预算管理和用量跟踪。

mozilla-ai
⭐ 959 Python 👤 mozilla-ai Organization 🕐 已更新 2026-11-21 📅 创建时间 2026-04-02
25
ThinkWatchProject/ThinkWatch-Lite

适用于 macOS、Windows 和 Linux 上 Claude Code、Codex 及其他 AI 客户端的本地网关:无需修改客户端即可切换上游服务,避免 API 密钥暴露给中继服务,拦截恶意工具调用,追踪每个请求。

ThinkWatchProject
⭐ 946 TypeScript 👤 ThinkWatchProject Organization 🕐 已更新 2026-11-20 📅 创建时间 2026-09-12
26
laravel/mcp

为您的Laravel应用程序快速构建MCP服务器。

laravel
⭐ 875 PHP 👤 laravel Organization 🕐 已更新 2026-11-20 📅 创建时间 2025-05-15
27
ThinkWatchProject/ThinkWatch

面向组织的自托管 AI API 和 MCP 网关:支持单点登录(SSO)和基于角色的访问控制(RBAC)、为 MCP 工具调用提供每用户身份、个人身份信息(PII)脱敏和工具调用防护、速率限制、预算、成本核算及审计日志。

ThinkWatchProject
⭐ 817 Rust 👤 ThinkWatchProject Organization 🕐 已更新 2026-11-21 📅 创建时间 2026-04-02
28
vllora/vllora

调试你的 AI 智能体

vllora
⭐ 810 Rust 👤 vllora Organization 🕐 已更新 2026-06-30 📅 创建时间 2025-01-27
29
NadirRouter/NadirClaw

提供源代码的 LLM 路由器和 AI 成本优化器。自动将简单提示路由到廉价或本地模型,将复杂提示路由到高级模型。可直接替换使用的 OpenAI 兼容代理,适用于 Claude Code、Codex、Cursor 和 OpenClaw。支持自托管,无中间商。

NadirRouter
⭐ 666 Python 👤 NadirRouter Organization 🕐 已更新 2026-11-20 📅 创建时间 2026-02-11
30
apache/casbin-gateway

查看机器上每个 AI 编程代理正在做什么,以及其背后的 API 是否确实是你付费使用的那个。Claude Code、Codex、Cursor、Gemini CLI 等等:一个端点接入 44 家模型供应商,提供 A–F 级 API 真实性评级、按代理划分的权限、使用情况和提示词记录。

apache
⭐ 650 Go 👤 apache Organization 🕐 已更新 2026-10-31 📅 创建时间 2017-05-13
31
Fast-Editor/Lynkr

使用Lynkr简化您的工作流程,这是一款CLI工具,可作为HTTP代理,通过Claude Code CLI实现高效的代码交互。

Fast-Editor
⭐ 642 JavaScript 👤 Fast-Editor Organization 🕐 已更新 2026-11-15 📅 创建时间 2025-12-03
32
eliasbiondo/antirion

🕷️ 速度最快的开源 AI 网关和 LLM 网关——一个内置控制台的二进制程序,可对 OpenAI、Anthropic、Gemini、Bedrock 等平台上的每次 LLM 调用进行路由、安全防护、预算管理和监控。

eliasbiondo
⭐ 539 Rust 👤 eliasbiondo User 🕐 已更新 2026-10-31 📅 创建时间 2026-10-17

常见问题解答

1

GitHub 上最受欢迎的 #llm-gateway 仓库是什么?

GitHub 上排名第一的开源 #llm-gateway 项目是 cheaper-inference/OmniRoute,拥有 89,311 个 Star。永不停止编码。免费的 MIT 许可证 AI 网关:一个端点,375 家服务提供商(150 多家免费),1,400 多个模型:Kimi、Claude、GPT、Gemini、GLM、DeepSeek、MiniMax。兼容 Claude Code、Codex、Cursor、OpenCode、Cline 和 Copilot。根据配额自动切换备用服务,RTK+Caveman 压缩可节省 15–95% 的 token,支持 MCP/A2A、桌面端/PWA。由 900 多位贡献者打造

2

#llm-gateway 仓库中最常使用的编程语言有哪些?

在 GitHub 上排名靠前的 #llm-gateway 项目中,最常见的编程语言是 Go, TypeScript, Rust, Python。

3

#llm-gateway 仓库的排名是如何计算的?

我们跟踪了 32 个标记为 #llm-gateway 且拥有 500+ 个 Star 的活跃开源仓库,共计获得 404,707 个 Star,平均每个仓库拥有 12,647 个 Star。排名每日根据 GitHub API 更新。