Git Stars Git Stars

#llm-gateway Repositories

Entdecke 32 aktive Open-Source-GitHub-Repositories, die mit #llm-gateway getaggt sind und insgesamt 404,707 Sterne gesammelt haben (durchschnittlich 12,647 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist cheaper-inference/OmniRoute mit 89,311 Sternen.

32
Gesamtzahl der Repositories
404,707
Gesamtanzahl der Sterne
12,647
Durchschnittliche Sterne/Repo

Insgesamt 32 Repositories

1
cheaper-inference/OmniRoute

Hör niemals auf zu programmieren. Kostenloses KI-Gateway unter MIT-Lizenz: ein Endpunkt, 375 Anbieter (über 150 kostenlos), mehr als 1.400 Modelle: Kimi, Claude, GPT, Gemini, GLM, DeepSeek und MiniMax. Funktioniert mit Claude Code, Codex, Cursor, OpenCode, Cline und Copilot. Quotenbewusster automatischer Fallback; RTK+Caveman-Komprimierung spart 15–95 % der Tokens. MCP/A2A, Desktop/PWA. Entwickelt von über 900 Mitwirkenden

cheaper-inference
⭐ 89,311 TypeScript 👤 cheaper-inference Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2026-02-13
2
BerriAI/litellm

Das schnellste, leichteste AI-Gateway. Rust-Kern mit Python-SDK. Rufen Sie über 100 LLM-APIs im OpenAI- (oder nativen) Format auf mit Kostenverfolgung, Schutzmaßnahmen, Lastausgleich und Protokollierung [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]

BerriAI
⭐ 63,649 Python 👤 BerriAI Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2023-07-27
3
QuantumNous/new-api

Open-Source-KI-Gateway. Selbst gehostetes LLM-Gateway mit APIs, die mit OpenAI, Claude und Gemini kompatibel sind, sowie Modell-Routing, Zugriffskontrolle, Nutzungsverfolgung und Kostenabrechnung.

QuantumNous
⭐ 52,302 Go 👤 QuantumNous Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2023-11-10
4
Kong/kong

🦍 API und KI-Gateway

Kong
⭐ 44,403 Lua 👤 Kong Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2014-11-17
5
langfuse/langfuse

🪢 Open-Source-Plattform für KI-Engineering: AI Gateway, Agenten-Observability, Evaluierungen sowie Prompt- und Skill-Management, basierend auf OpenTelemetry. Eine offene Plattform für jeden KI-Aufruf und jeden Agenten. Selbst hosten oder Langfuse Cloud nutzen.

langfuse
⭐ 37,696 TypeScript 👤 langfuse Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2023-05-18
6
decolua/9router

Unbegrenztes KOSTENLOSES KI‑Coding. Verbinden Sie Claude Code, Codex, Cursor, Cline, Copilot, Antigravity mit KOSTENLOSEN Claude/GPT/Gemini über 40+ Anbieter. Automatischer Fallback, RTK -40 % Tokens, nie an Grenzen stoßen.

decolua
⭐ 32,693 JavaScript 👤 decolua User 🕐 Aktualisiert 2026-11-16 📅 Erstellt 2026-01-05
7
Portkey-AI/gateway

Ein ultraschnelles AI-Gateway mit integrierten Schutzschwellen. Routing zu über 1.600 LLMs, über 50 AI-Schutzschwellen mit 1 schnellem & freundlichem API.

Portkey-AI
⭐ 13,424 TypeScript 👤 Portkey-AI Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2023-08-23
8
TykTechnologies/tyk

Open-Source-API- und KI-Gateway mit Unterstützung für REST, GraphQL, TCP, gRPC und MCP (Model Context Protocol)

TykTechnologies
⭐ 10,897 Go 👤 TykTechnologies Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2014-05-07
9
maximhq/bifrost

Open-Source-KI-Gateway mit hoher Leistung, die als LLM-, MCP- und Agent-Gateway dient. Eine einzige OpenAI-kompatible API für mehr als 10.000 Modelle – mit Failover, Lastverteilung, semantischem Caching, virtuellen Schlüsseln, Budgets und MCP Code Mode. Funktioniert mit jedem SDK und Agenten und verursacht bei 5k RPS weniger als 200 µs zusätzlichen Overhead.

maximhq
⭐ 9,886 Go 👤 maximhq Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2025-03-19
10
coaidev/coai

🚀 Multi-Tenant KI-Komplettlösung der nächsten Generation. Integriertes Admin- und Abrechnungssystem. Enterprise-Grade Unified LLM-Gateway mit Unterstützung für über 200 Modelle und 35+ Anbieter, Lastverteilung mit prioritätsbasierter Routenführung, Kostenmanagement, Chat-Sharing, Cloud-Synchronisierung, Kredit-/Abonnement-Abrechnung, Analyse aller Dateitypen, Websuche, integrierter Modell-Cache.

coaidev
⭐ 9,343 TypeScript 👤 coaidev Organization 🕐 Aktualisiert 2026-03-12 📅 Erstellt 2023-07-17
11
tbphp/gpt-load

Selbst gehostetes KI-Gateway für Setups mit mehreren Kanälen und Anmeldedaten – API-Schlüssel und Abonnementkonten, Scheduling, Failover, Anfrageprotokolle und Nutzungsdaten.

tbphp
⭐ 7,241 Go 👤 tbphp User 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2025-06-06
12
katanemo/plano

Plano ist ein KI-nativer Proxy-Server und eine Datenebene für agentische Anwendungen. Intelligentes LLM-Routing, Beobachtbarkeit, Agentenorchestrierung und Schutzmechanismen, damit Sie sich auf die Kernlogik Ihrer Agenten konzentrieren können.

katanemo
⭐ 7,118 Rust 👤 katanemo Organization 🕐 Aktualisiert 2026-10-24 📅 Erstellt 2024-07-09
13
deanxv/coze-discord-proxy

Stellt die Discord-Konversation von Coze-Bot dar und ermöglicht die Anforderung des GPT4-Modells über die API, um Funktionen wie Konversation, Text-zu-Bild, Bild-zu-Text und Wissensdatenbankabfragen bereitzustellen.

deanxv
⭐ 3,768 Go 👤 deanxv User 🕐 Aktualisiert 2026-02-22 📅 Erstellt 2024-01-26
15
bestruirui/octopus

Ein Hub, alle LLMs für Sie | Das LLM-API-Aggregations-Gateway für Einzelpersonen

bestruirui
⭐ 2,750 TypeScript 👤 bestruirui User 🕐 Aktualisiert 2026-10-23 📅 Erstellt 2025-11-18
16
APIParkLab/APIPark

Cloud-native, ultra-leistungsstarkes KI&API-Gateway, LLM-API-Verwaltung, Verteilungssystem, offene Plattform, unterstützt alle KI-APIs, nicht beschränkt auf Mainstream-Modelle wie OpenAI, Azure, Anthropic Claude, Google Gemini, DeepSeek, ByteDance Doubao, ChatGLM, Baidu Wenxin Yiyan, iFlytek Spark, Alibaba Tongyi Qianwen, 360 Zhinao, Tencent Hunyuan usw., einheitliche API-Anfragen und -Antworten, API-Antrag und Genehmigung, Aufrufstatistiken, Lastausgleich, Multi-Modell-Desaster-Recovery. Ein-Klick-Bereitstellung, sofort einsatzbereit.

APIParkLab
⭐ 1,825 TypeScript 👤 APIParkLab Organization 🕐 Aktualisiert 2026-10-27 📅 Erstellt 2024-08-12
17
theopenco/llmgateway

Routen, verwalten und analysieren Sie Ihre LLM-Anfragen über mehrere Anbieter hinweg mit einer einheitlichen API-Schnittstelle.

theopenco
⭐ 1,755 TypeScript 👤 theopenco Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2025-04-12
18
Paritok-official/paritok-4b-v1

Nicht-destruktives Komprimierungs-Gateway für KI-Codierungsagenten. Reduziert Token-Rechnungen von 25 % bei Runde 1 auf über 85 % in langen oder gesättigten Sitzungen und passt etwa 3× mehr Runden in dasselbe Kontextfenster. Angetrieben von unserem Open-Source-Code-nativen 4B-Modell. Drop-in für Claude Code, Cursor, Codex, OpenHands und jeden BASE_URL-Agenten.

Paritok-official
⭐ 1,439 Python 👤 Paritok-official Organization 🕐 Aktualisiert 2026-11-17 📅 Erstellt 2026-07-15
19
ENTERPILOT/GoModel

AI-Gateway / AI-Control-Plane / AI-Proxy in Go geschrieben. Einheitliche OpenAI-kompatible und Anthropic-kompatible API für OpenAI, Anthropic, Gemini, Groq, xAI, Ollama, vLLM und mehr. Eine LiteLLM-Alternative mit Beobachtbarkeit, Schutzmechanismen, Streaming, Kostenverfolgung, intelligentem Routing, Sticky Sessions, Failover, Echtzeit-Logs und Nutzungsverfolgung. Produktionsreif.

ENTERPILOT
⭐ 1,323 Go 👤 ENTERPILOT Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2025-12-05
20
HiveNexus/HiveChat

Ein KI-Chatbot für kleine und mittelständische Teams, der Modelle wie Deepseek, Open AI, Claude und Gemini unterstützt. 专为中小团队设计的 AI 聊天应用,支持 Deepseek、Open AI、Claude、Gemini 等模型。

HiveNexus
⭐ 1,186 TypeScript 👤 HiveNexus Organization 🕐 Aktualisiert 2025-09-16 📅 Erstellt 2025-02-19
21
Deep-ai-inc/ch.at

Universeller Basis-Chat

Deep-ai-inc
⭐ 1,132 Go 👤 Deep-ai-inc Organization 🕐 Aktualisiert 2026-10-14 📅 Erstellt 2025-06-18
22
respanai/respan-gateway

Open-Source-LLM-Gateway in Rust. Ein einziger Endpunkt für OpenAI, Anthropic, Gemini und alle anderen Anbieter. Jedes SDK, jedes Modell, jedes Tool.

respanai
⭐ 975 Rust 👤 respanai Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2026-09-25
23
zexadev/gemini-web2api-go

Gemini-Web → OpenAI-kompatible API + native Gemini-API, selbst gehostet, ohne API-Schlüssel. Gemini 4 Argon über das Cookie eines kostenpflichtigen Kontos; strict_model (429 statt stiller Herabstufung), Cookie-Pool mit automatischer Erneuerung, Proxy-Pool, Admin-Panel, Bild- und Videogenerierung, eine einzelne Go-Binärdatei · Die Gemini-Website per Reverse-Proxy als OpenAI-kompatible / native Gemini-API bereitstellen; Gemini 4 Argon direkt mit dem Cookie eines kostenpflichtigen Kontos nutzen.

zexadev
⭐ 974 Go 👤 zexadev User 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2026-05-29
24
mozilla-ai/otari

Open-Source-KI-Gateway zum Selbstbetrieb. Ein Endpunkt für über 40 Anbieter – mit virtuellen Schlüsseln, Budgets und Nutzungsverfolgung.

mozilla-ai
⭐ 959 Python 👤 mozilla-ai Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2026-04-02
25
ThinkWatchProject/ThinkWatch-Lite

Lokales Gateway für Claude Code, Codex und andere KI-Clients unter macOS, Windows und Linux: Upstreams wechseln, ohne die Clients anzupassen, API-Schlüssel von Relays fernhalten, bösartige Tool-Aufrufe blockieren und jede Anfrage nachverfolgen.

ThinkWatchProject
⭐ 946 TypeScript 👤 ThinkWatchProject Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2026-09-12
26
laravel/mcp

Bauen Sie schnell MCP-Server für Ihre Laravel-Anwendungen.

laravel
⭐ 875 PHP 👤 laravel Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2025-05-15
27
ThinkWatchProject/ThinkWatch

Self-hosted KI-API und MCP-Gateway für Organisationen: SSO und RBAC, benutzerbezogene Identität für MCP-Tool-Aufrufe, Schwärzung personenbezogener Daten (PII) und Schutzmechanismen für Tool-Aufrufe, Ratenbegrenzungen, Budgets, Kostenabrechnung und Audit-Protokolle.

ThinkWatchProject
⭐ 817 Rust 👤 ThinkWatchProject Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2026-04-02
28
vllora/vllora

Debuggen Sie Ihre KI-Agenten

vllora
⭐ 810 Rust 👤 vllora Organization 🕐 Aktualisiert 2026-06-30 📅 Erstellt 2025-01-27
29
NadirRouter/NadirClaw

Quelloffener LLM-Router und KI-Kostenoptimierer. Leitet einfache Prompts automatisch an günstige oder lokale Modelle und komplexe Prompts an Premium-Modelle weiter. Direkter OpenAI-kompatibler Proxy für Claude Code, Codex, Cursor und OpenClaw. Selbst gehostet, ohne Zwischenhändler.

NadirRouter
⭐ 666 Python 👤 NadirRouter Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2026-02-11
30
apache/casbin-gateway

Sehen Sie, was jeder KI-Coding-Agent auf Ihrem Rechner tut und ob die dahinterliegende API tatsächlich die ist, für die Sie bezahlt haben. Claude Code, Codex, Cursor, Gemini CLI und mehr: ein Endpunkt für 44 Modellanbieter, eine A–F-Bewertung der API-Authentizität sowie agentenbezogene Berechtigungen, Nutzungs- und Prompt-Aufzeichnungen.

apache
⭐ 650 Go 👤 apache Organization 🕐 Aktualisiert 2026-10-31 📅 Erstellt 2017-05-13
31
Fast-Editor/Lynkr

Optimieren Sie Ihren Workflow mit Lynkr, einem CLI-Tool, das als HTTP-Proxy für effiziente Code-Interaktionen mit Claude Code CLI fungiert.

Fast-Editor
⭐ 642 JavaScript 👤 Fast-Editor Organization 🕐 Aktualisiert 2026-11-15 📅 Erstellt 2025-12-03
32
eliasbiondo/antirion

🕷️ Das schnellste Open-Source-AI- und LLM-Gateway – eine einzelne Binärdatei mit integrierter Konsole, um jeden LLM-Aufruf über OpenAI, Anthropic, Gemini, Bedrock und weitere Dienste zu routen, abzusichern, zu budgetieren und zu überwachen.

eliasbiondo
⭐ 539 Rust 👤 eliasbiondo User 🕐 Aktualisiert 2026-10-31 📅 Erstellt 2026-10-17

Häufig gestellte Fragen

1

Welches ist das beliebteste #llm-gateway-Repository auf GitHub?

Das am höchsten eingestufte Open-Source-#llm-gateway-Projekt auf GitHub ist cheaper-inference/OmniRoute mit 89,311 Sternen. Hör niemals auf zu programmieren. Kostenloses KI-Gateway unter MIT-Lizenz: ein Endpunkt, 375 Anbieter (über 150 kostenlos), mehr als 1.400 Modelle: Kimi, Claude, GPT, Gemini, GLM, DeepSeek und MiniMax. Funktioniert mit Claude Code, Codex, Cursor, OpenCode, Cline und Copilot. Quotenbewusster automatischer Fallback; RTK+Caveman-Komprimierung spart 15–95 % der Tokens. MCP/A2A, Desktop/PWA. Entwickelt von über 900 Mitwirkenden

2

Welche Programmiersprachen werden in #llm-gateway-Repositories am häufigsten verwendet?

Unter den am höchsten eingestuften #llm-gateway-Projekten auf GitHub sind Go, TypeScript, Rust, Python die am häufigsten verwendeten Programmiersprachen.

3

Wie wird das Ranking der #llm-gateway-Repositories berechnet?

Wir verfolgen 32 aktive Open-Source-Repositories, die mit #llm-gateway getaggt sind (500+ Sterne), mit insgesamt 404,707 Sternen und durchschnittlich 12,647 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.