#llm-gateway Repositories
Entdecke 32 aktive Open-Source-GitHub-Repositories, die mit #llm-gateway getaggt sind und insgesamt 404,707 Sterne gesammelt haben (durchschnittlich 12,647 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist cheaper-inference/OmniRoute mit 89,311 Sternen.
Insgesamt 32 Repositories
Hör niemals auf zu programmieren. Kostenloses KI-Gateway unter MIT-Lizenz: ein Endpunkt, 375 Anbieter (über 150 kostenlos), mehr als 1.400 Modelle: Kimi, Claude, GPT, Gemini, GLM, DeepSeek und MiniMax. Funktioniert mit Claude Code, Codex, Cursor, OpenCode, Cline und Copilot. Quotenbewusster automatischer Fallback; RTK+Caveman-Komprimierung spart 15–95 % der Tokens. MCP/A2A, Desktop/PWA. Entwickelt von über 900 Mitwirkenden
Das schnellste, leichteste AI-Gateway. Rust-Kern mit Python-SDK. Rufen Sie über 100 LLM-APIs im OpenAI- (oder nativen) Format auf mit Kostenverfolgung, Schutzmaßnahmen, Lastausgleich und Protokollierung [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]
Open-Source-KI-Gateway. Selbst gehostetes LLM-Gateway mit APIs, die mit OpenAI, Claude und Gemini kompatibel sind, sowie Modell-Routing, Zugriffskontrolle, Nutzungsverfolgung und Kostenabrechnung.
🪢 Open-Source-Plattform für KI-Engineering: AI Gateway, Agenten-Observability, Evaluierungen sowie Prompt- und Skill-Management, basierend auf OpenTelemetry. Eine offene Plattform für jeden KI-Aufruf und jeden Agenten. Selbst hosten oder Langfuse Cloud nutzen.
Unbegrenztes KOSTENLOSES KI‑Coding. Verbinden Sie Claude Code, Codex, Cursor, Cline, Copilot, Antigravity mit KOSTENLOSEN Claude/GPT/Gemini über 40+ Anbieter. Automatischer Fallback, RTK -40 % Tokens, nie an Grenzen stoßen.
Ein ultraschnelles AI-Gateway mit integrierten Schutzschwellen. Routing zu über 1.600 LLMs, über 50 AI-Schutzschwellen mit 1 schnellem & freundlichem API.
Open-Source-API- und KI-Gateway mit Unterstützung für REST, GraphQL, TCP, gRPC und MCP (Model Context Protocol)
Open-Source-KI-Gateway mit hoher Leistung, die als LLM-, MCP- und Agent-Gateway dient. Eine einzige OpenAI-kompatible API für mehr als 10.000 Modelle – mit Failover, Lastverteilung, semantischem Caching, virtuellen Schlüsseln, Budgets und MCP Code Mode. Funktioniert mit jedem SDK und Agenten und verursacht bei 5k RPS weniger als 200 µs zusätzlichen Overhead.
🚀 Multi-Tenant KI-Komplettlösung der nächsten Generation. Integriertes Admin- und Abrechnungssystem. Enterprise-Grade Unified LLM-Gateway mit Unterstützung für über 200 Modelle und 35+ Anbieter, Lastverteilung mit prioritätsbasierter Routenführung, Kostenmanagement, Chat-Sharing, Cloud-Synchronisierung, Kredit-/Abonnement-Abrechnung, Analyse aller Dateitypen, Websuche, integrierter Modell-Cache.
Selbst gehostetes KI-Gateway für Setups mit mehreren Kanälen und Anmeldedaten – API-Schlüssel und Abonnementkonten, Scheduling, Failover, Anfrageprotokolle und Nutzungsdaten.
Plano ist ein KI-nativer Proxy-Server und eine Datenebene für agentische Anwendungen. Intelligentes LLM-Routing, Beobachtbarkeit, Agentenorchestrierung und Schutzmechanismen, damit Sie sich auf die Kernlogik Ihrer Agenten konzentrieren können.
Stellt die Discord-Konversation von Coze-Bot dar und ermöglicht die Anforderung des GPT4-Modells über die API, um Funktionen wie Konversation, Text-zu-Bild, Bild-zu-Text und Wissensdatenbankabfragen bereitzustellen.
Ein Hub, alle LLMs für Sie | Das LLM-API-Aggregations-Gateway für Einzelpersonen
Cloud-native, ultra-leistungsstarkes KI&API-Gateway, LLM-API-Verwaltung, Verteilungssystem, offene Plattform, unterstützt alle KI-APIs, nicht beschränkt auf Mainstream-Modelle wie OpenAI, Azure, Anthropic Claude, Google Gemini, DeepSeek, ByteDance Doubao, ChatGLM, Baidu Wenxin Yiyan, iFlytek Spark, Alibaba Tongyi Qianwen, 360 Zhinao, Tencent Hunyuan usw., einheitliche API-Anfragen und -Antworten, API-Antrag und Genehmigung, Aufrufstatistiken, Lastausgleich, Multi-Modell-Desaster-Recovery. Ein-Klick-Bereitstellung, sofort einsatzbereit.
Routen, verwalten und analysieren Sie Ihre LLM-Anfragen über mehrere Anbieter hinweg mit einer einheitlichen API-Schnittstelle.
Nicht-destruktives Komprimierungs-Gateway für KI-Codierungsagenten. Reduziert Token-Rechnungen von 25 % bei Runde 1 auf über 85 % in langen oder gesättigten Sitzungen und passt etwa 3× mehr Runden in dasselbe Kontextfenster. Angetrieben von unserem Open-Source-Code-nativen 4B-Modell. Drop-in für Claude Code, Cursor, Codex, OpenHands und jeden BASE_URL-Agenten.
AI-Gateway / AI-Control-Plane / AI-Proxy in Go geschrieben. Einheitliche OpenAI-kompatible und Anthropic-kompatible API für OpenAI, Anthropic, Gemini, Groq, xAI, Ollama, vLLM und mehr. Eine LiteLLM-Alternative mit Beobachtbarkeit, Schutzmechanismen, Streaming, Kostenverfolgung, intelligentem Routing, Sticky Sessions, Failover, Echtzeit-Logs und Nutzungsverfolgung. Produktionsreif.
Ein KI-Chatbot für kleine und mittelständische Teams, der Modelle wie Deepseek, Open AI, Claude und Gemini unterstützt. 专为中小团队设计的 AI 聊天应用,支持 Deepseek、Open AI、Claude、Gemini 等模型。
Open-Source-LLM-Gateway in Rust. Ein einziger Endpunkt für OpenAI, Anthropic, Gemini und alle anderen Anbieter. Jedes SDK, jedes Modell, jedes Tool.
Gemini-Web → OpenAI-kompatible API + native Gemini-API, selbst gehostet, ohne API-Schlüssel. Gemini 4 Argon über das Cookie eines kostenpflichtigen Kontos; strict_model (429 statt stiller Herabstufung), Cookie-Pool mit automatischer Erneuerung, Proxy-Pool, Admin-Panel, Bild- und Videogenerierung, eine einzelne Go-Binärdatei · Die Gemini-Website per Reverse-Proxy als OpenAI-kompatible / native Gemini-API bereitstellen; Gemini 4 Argon direkt mit dem Cookie eines kostenpflichtigen Kontos nutzen.
Open-Source-KI-Gateway zum Selbstbetrieb. Ein Endpunkt für über 40 Anbieter – mit virtuellen Schlüsseln, Budgets und Nutzungsverfolgung.
Lokales Gateway für Claude Code, Codex und andere KI-Clients unter macOS, Windows und Linux: Upstreams wechseln, ohne die Clients anzupassen, API-Schlüssel von Relays fernhalten, bösartige Tool-Aufrufe blockieren und jede Anfrage nachverfolgen.
Self-hosted KI-API und MCP-Gateway für Organisationen: SSO und RBAC, benutzerbezogene Identität für MCP-Tool-Aufrufe, Schwärzung personenbezogener Daten (PII) und Schutzmechanismen für Tool-Aufrufe, Ratenbegrenzungen, Budgets, Kostenabrechnung und Audit-Protokolle.
Quelloffener LLM-Router und KI-Kostenoptimierer. Leitet einfache Prompts automatisch an günstige oder lokale Modelle und komplexe Prompts an Premium-Modelle weiter. Direkter OpenAI-kompatibler Proxy für Claude Code, Codex, Cursor und OpenClaw. Selbst gehostet, ohne Zwischenhändler.
Sehen Sie, was jeder KI-Coding-Agent auf Ihrem Rechner tut und ob die dahinterliegende API tatsächlich die ist, für die Sie bezahlt haben. Claude Code, Codex, Cursor, Gemini CLI und mehr: ein Endpunkt für 44 Modellanbieter, eine A–F-Bewertung der API-Authentizität sowie agentenbezogene Berechtigungen, Nutzungs- und Prompt-Aufzeichnungen.
Optimieren Sie Ihren Workflow mit Lynkr, einem CLI-Tool, das als HTTP-Proxy für effiziente Code-Interaktionen mit Claude Code CLI fungiert.
🕷️ Das schnellste Open-Source-AI- und LLM-Gateway – eine einzelne Binärdatei mit integrierter Konsole, um jeden LLM-Aufruf über OpenAI, Anthropic, Gemini, Bedrock und weitere Dienste zu routen, abzusichern, zu budgetieren und zu überwachen.
Häufig gestellte Fragen
Welches ist das beliebteste #llm-gateway-Repository auf GitHub?
Das am höchsten eingestufte Open-Source-#llm-gateway-Projekt auf GitHub ist cheaper-inference/OmniRoute mit 89,311 Sternen. Hör niemals auf zu programmieren. Kostenloses KI-Gateway unter MIT-Lizenz: ein Endpunkt, 375 Anbieter (über 150 kostenlos), mehr als 1.400 Modelle: Kimi, Claude, GPT, Gemini, GLM, DeepSeek und MiniMax. Funktioniert mit Claude Code, Codex, Cursor, OpenCode, Cline und Copilot. Quotenbewusster automatischer Fallback; RTK+Caveman-Komprimierung spart 15–95 % der Tokens. MCP/A2A, Desktop/PWA. Entwickelt von über 900 Mitwirkenden
Welche Programmiersprachen werden in #llm-gateway-Repositories am häufigsten verwendet?
Unter den am höchsten eingestuften #llm-gateway-Projekten auf GitHub sind Go, TypeScript, Rust, Python die am häufigsten verwendeten Programmiersprachen.
Wie wird das Ranking der #llm-gateway-Repositories berechnet?
Wir verfolgen 32 aktive Open-Source-Repositories, die mit #llm-gateway getaggt sind (500+ Sterne), mit insgesamt 404,707 Sternen und durchschnittlich 12,647 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.