Git Stars Git Stars

#llm-gateway Репозитории

Откройте для себя 32 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #llm-gateway, с общим числом 404,707 звёзд (в среднем 12,647 на проект). Лидером этой темы является cheaper-inference/OmniRoute, набравший 89,311 звёзд.

32
Всего репозиториев
404,707
Всего звезд
12,647
Среднее количество звезд на репозиторий
Языки программирования: Go TypeScript Rust Python JavaScript Lua PHP

Всего репозиториев: 32

1
cheaper-inference/OmniRoute

Не прекращайте писать код. Бесплатный ИИ-шлюз по лицензии MIT: одна конечная точка, 375 провайдеров (более 150 бесплатных), свыше 1 400 моделей: Kimi, Claude, GPT, Gemini, GLM, DeepSeek, MiniMax. Работает с Claude Code, Codex, Cursor, OpenCode, Cline и Copilot. Автоматическое переключение с учётом квот; сжатие RTK+Caveman экономит 15–95% токенов. MCP/A2A, настольная версия/PWA. Создан при участии более 900 разработчиков

cheaper-inference
⭐ 89,311 TypeScript 👤 cheaper-inference Organization 🕐 Обновлено 2026-11-21 📅 Создано 2026-02-13
2
BerriAI/litellm

Самый быстрый и легкий AI-шлюз. Ядро на Rust с Python SDK. Вызов более 100 LLM API в формате OpenAI (или нативном) с отслеживанием затрат, защитными механизмами, балансировкой нагрузки и ведением журнала [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]

BerriAI
⭐ 63,649 Python 👤 BerriAI Organization 🕐 Обновлено 2026-11-21 📅 Создано 2023-07-27
3
QuantumNous/new-api

Шлюз для ИИ с открытым исходным кодом. Самостоятельно размещаемый шлюз для LLM с API, совместимыми с OpenAI, Claude и Gemini, маршрутизацией моделей, контролем доступа, отслеживанием использования и учётом затрат.

QuantumNous
⭐ 52,302 Go 👤 QuantumNous Organization 🕐 Обновлено 2026-11-20 📅 Создано 2023-11-10
4
Kong/kong

🦍 API и ИИ шлюз

Kong
⭐ 44,403 Lua 👤 Kong Organization 🕐 Обновлено 2026-11-20 📅 Создано 2014-11-17
5
langfuse/langfuse

🪢 Открытая платформа для разработки ИИ: AI Gateway, наблюдаемость агентов, оценка и управление промптами и навыками на базе OpenTelemetry. Единая открытая платформа для каждого вызова ИИ и каждого агента. Разверните её самостоятельно или используйте Langfuse Cloud.

langfuse
⭐ 37,696 TypeScript 👤 langfuse Organization 🕐 Обновлено 2026-11-21 📅 Создано 2023-05-18
6
decolua/9router

Неограниченное БЕСПЛАТНОЕ AI‑кодирование. Подключайте Claude Code, Codex, Cursor, Cline, Copilot, Antigravity к БЕСПЛАТНЫМ Claude/GPT/Gemini через более 40 провайдеров. Авто‑откат, RTK -40 % токенов, никогда не достигает лимитов.

decolua
⭐ 32,693 JavaScript 👤 decolua User 🕐 Обновлено 2026-11-16 📅 Создано 2026-01-05
7
Portkey-AI/gateway

Сверхбыстрый AI-шлюз с интегрированными защитными барьерами. Маршрутизация к 1600+ LLM, 50+ AI-защитным барьерам с 1 быстрым и дружелюбным API.

Portkey-AI
⭐ 13,424 TypeScript 👤 Portkey-AI Organization 🕐 Обновлено 2026-11-20 📅 Создано 2023-08-23
8
TykTechnologies/tyk

API и AI-шлюз с открытым исходным кодом, поддерживающие REST, GraphQL, TCP, gRPC и MCP (протокол контекста модели)

TykTechnologies
⭐ 10,897 Go 👤 TykTechnologies Organization 🕐 Обновлено 2026-11-20 📅 Создано 2014-05-07
9
maximhq/bifrost

Высокопроизводительный шлюз ИИ с открытым исходным кодом, который работает как шлюз для LLM, MCP и агентов. Единый API, совместимый с OpenAI, для более чем 10 000 моделей; поддерживает автоматическое переключение при сбоях, балансировку нагрузки, семантическое кэширование, виртуальные ключи, бюджеты и MCP Code Mode. Работает с любыми SDK и агентами, добавляя менее 200 мкс задержки при 5k RPS.

maximhq
⭐ 9,886 Go 👤 maximhq Organization 🕐 Обновлено 2026-11-21 📅 Создано 2025-03-19
10
coaidev/coai

🚀 Универсальное AI-решение нового поколения с поддержкой мультиарендности. Встроенная система администрирования и биллинга. Единый корпоративный LLM-шлюз с поддержкой более 200 моделей и 35+ провайдеров, балансировка нагрузки с маршрутизацией по приоритетам, управление затратами, обмен чатами, облачная синхронизация, биллинг по кредитам/подписке, парсинг любых файлов, веб-поиск, встроенное кэширование моделей.

coaidev
⭐ 9,343 TypeScript 👤 coaidev Organization 🕐 Обновлено 2026-03-12 📅 Создано 2023-07-17
11
tbphp/gpt-load

Самостоятельно размещаемый ИИ-шлюз для конфигураций с несколькими каналами и учетными данными — API-ключи и учетные записи подписки, планирование, отказоустойчивость, журналы запросов и статистика использования.

tbphp
⭐ 7,241 Go 👤 tbphp User 🕐 Обновлено 2026-11-20 📅 Создано 2025-06-06
12
katanemo/plano

Plano — это прокси-сервер и плоскость данных, созданные на основе ИИ для агентных приложений. Умная маршрутизация LLM, наблюдаемость, оркестрация агентов и защитные механизмы, чтобы вы могли сосредоточиться на основной логике ваших агентов.

katanemo
⭐ 7,118 Rust 👤 katanemo Organization 🕐 Обновлено 2026-10-24 📅 Создано 2024-07-09
13
deanxv/coze-discord-proxy

Агент диалогового интерфейса Discord Coze-Bot, реализующий запрос модели GPT4 в виде API, предоставляющий такие функции, как диалог, генерация изображений из текста, генерация текста из изображений и поиск по базе знаний.

deanxv
⭐ 3,768 Go 👤 deanxv User 🕐 Обновлено 2026-02-22 📅 Создано 2024-01-26
15
bestruirui/octopus

Один хаб, все LLM для вас | Шлюз агрегации API LLM для частных лиц

bestruirui
⭐ 2,750 TypeScript 👤 bestruirui User 🕐 Обновлено 2026-10-23 📅 Создано 2025-11-18
16
APIParkLab/APIPark

Облачный, сверхпроизводительный AI&API шлюз, управление LLM API, система дистрибуции, открытая платформа, поддержка всех AI API. Не ограничиваясь основными моделями, такими как OpenAI, Azure, Anthropic Claude, Google Gemini, DeepSeek, ByteDance Doubao, ChatGLM, Baidu Wenxin Yiyan, iFlytek Spark, Alibaba Tongyi Qianwen, 360 Zhinao, Tencent Hunyuan и др., унифицированные запросы и ответы API, подача и утверждение заявок на API, статистика вызовов, балансировка нагрузки, мультимодельное аварийное восстановление. Развертывание в один клик, готово к использованию.

APIParkLab
⭐ 1,825 TypeScript 👤 APIParkLab Organization 🕐 Обновлено 2026-10-27 📅 Создано 2024-08-12
17
theopenco/llmgateway

Маршрутизируйте, управляйте и анализируйте свои запросы LLM у нескольких поставщиков с помощью унифицированного API-интерфейса.

theopenco
⭐ 1,755 TypeScript 👤 theopenco Organization 🕐 Обновлено 2026-11-21 📅 Создано 2025-04-12
18
Paritok-official/paritok-4b-v1

Неразрушающий шлюз сжатия для ИИ-агентов кодирования. Сокращает счета за токены на 25% на первом ходу и более чем на 85% в длинных или насыщенных сессиях, и вмещает примерно в 3 раза больше ходов в том же окне контекста. Работает на нашей открытой модели, ориентированной на код, размером 4B. Подходит для Claude Code, Cursor, Codex, OpenHands и любого агента с BASE_URL.

Paritok-official
⭐ 1,439 Python 👤 Paritok-official Organization 🕐 Обновлено 2026-11-17 📅 Создано 2026-07-15
19
ENTERPILOT/GoModel

AI-шлюз / AI-плоскость управления / AI-прокси, написанный на Go. Единый API, совместимый с OpenAI и Anthropic, для OpenAI, Anthropic, Gemini, Groq, xAI, Ollama, vLLM и других. Альтернатива LiteLLM с наблюдаемостью, защитными механизмами, потоковой передачей, отслеживанием затрат, интеллектуальной маршрутизацией, липкими сессиями, отказоустойчивостью, журналами в реальном времени и отслеживанием использования. Готов к продакшену.

ENTERPILOT
⭐ 1,323 Go 👤 ENTERPILOT Organization 🕐 Обновлено 2026-11-21 📅 Создано 2025-12-05
20
HiveNexus/HiveChat

Чат-бот с ИИ для малых и средних команд, поддерживающий такие модели, как Deepseek, Open AI, Claude и Gemini. 专为中小团队设计的 AI 聊天应用,支持 Deepseek、Open AI、Claude、Gemini 等模型。

HiveNexus
⭐ 1,186 TypeScript 👤 HiveNexus Organization 🕐 Обновлено 2025-09-16 📅 Создано 2025-02-19
21
Deep-ai-inc/ch.at

Универсальный базовый чат

Deep-ai-inc
⭐ 1,132 Go 👤 Deep-ai-inc Organization 🕐 Обновлено 2026-10-14 📅 Создано 2025-06-18
22
respanai/respan-gateway

Открытый LLM-шлюз на Rust. Единая конечная точка для OpenAI, Anthropic, Gemini и любых других поставщиков. Любой SDK, любая модель, любой инструмент.

respanai
⭐ 975 Rust 👤 respanai Organization 🕐 Обновлено 2026-11-20 📅 Создано 2026-09-25
23
zexadev/gemini-web2api-go

Gemini Web → API, совместимый с OpenAI, + нативный API Gemini; самостоятельный хостинг, API-ключ не нужен. Gemini 4 Argon через cookie платного аккаунта; strict_model (429 вместо незаметного перехода на более слабую модель), пул cookie с автоматическим продлением, пул прокси, панель администратора, генерация изображений и видео, единый бинарный файл Go · Настройте обратный прокси для сайта Gemini, чтобы предоставлять API, совместимый с OpenAI, / нативный API Gemini; используйте Gemini 4 Argon напрямую с cookie платного аккаунта.

zexadev
⭐ 974 Go 👤 zexadev User 🕐 Обновлено 2026-11-21 📅 Создано 2026-05-29
24
mozilla-ai/otari

Самостоятельно размещаемый шлюз для ИИ с открытым исходным кодом. Единая точка доступа к более чем 40 провайдерам с виртуальными ключами, бюджетами и отслеживанием использования.

mozilla-ai
⭐ 959 Python 👤 mozilla-ai Organization 🕐 Обновлено 2026-11-21 📅 Создано 2026-04-02
25
ThinkWatchProject/ThinkWatch-Lite

Локальный шлюз для Claude Code, Codex и других ИИ-клиентов на macOS, Windows и Linux: переключайте upstream-сервисы, не меняя клиентов, скрывайте API-ключи от ретрансляторов, блокируйте вредоносные вызовы инструментов и отслеживайте каждый запрос.

ThinkWatchProject
⭐ 946 TypeScript 👤 ThinkWatchProject Organization 🕐 Обновлено 2026-11-20 📅 Создано 2026-09-12
26
laravel/mcp

Быстро создавайте серверы MCP для ваших приложений Laravel.

laravel
⭐ 875 PHP 👤 laravel Organization 🕐 Обновлено 2026-11-20 📅 Создано 2025-05-15
27
ThinkWatchProject/ThinkWatch

Самостоятельно размещаемые ИИ API и шлюз MCP для организаций: SSO и RBAC, идентификация каждого пользователя при вызовах инструментов MCP, удаление персональных данных (PII) и защита вызовов инструментов, ограничение частоты запросов, бюджеты, учёт затрат и журналы аудита.

ThinkWatchProject
⭐ 817 Rust 👤 ThinkWatchProject Organization 🕐 Обновлено 2026-11-21 📅 Создано 2026-04-02
28
vllora/vllora

Отлаживайте ваших ИИ-агентов

vllora
⭐ 810 Rust 👤 vllora Organization 🕐 Обновлено 2026-06-30 📅 Создано 2025-01-27
29
NadirRouter/NadirClaw

Маршрутизатор LLM и оптимизатор затрат на ИИ с доступным исходным кодом. Автоматически направляет простые запросы к недорогим или локальным моделям, а сложные — к премиальным. Готовый к замене OpenAI-совместимый прокси для Claude Code, Codex, Cursor и OpenClaw. Самостоятельное размещение, без посредников.

NadirRouter
⭐ 666 Python 👤 NadirRouter Organization 🕐 Обновлено 2026-11-20 📅 Создано 2026-02-11
30
apache/casbin-gateway

Узнайте, что делает каждый ИИ-агент для программирования на вашем компьютере и действительно ли API за ним принадлежит тому сервису, за который вы заплатили. Claude Code, Codex, Cursor, Gemini CLI и другие: одна конечная точка для 44 поставщиков моделей, оценка подлинности API по шкале от A до F, разрешения для каждого агента, а также записи об использовании и промптах.

apache
⭐ 650 Go 👤 apache Organization 🕐 Обновлено 2026-10-31 📅 Создано 2017-05-13
31
Fast-Editor/Lynkr

Оптимизируйте свой рабочий процесс с помощью Lynkr — инструмента CLI, который действует как HTTP-прокси для эффективного взаимодействия с кодом с использованием Claude Code CLI.

Fast-Editor
⭐ 642 JavaScript 👤 Fast-Editor Organization 🕐 Обновлено 2026-11-15 📅 Создано 2025-12-03
32
eliasbiondo/antirion

🕷️ Самый быстрый шлюз для ИИ и LLM с открытым исходным кодом — один бинарный файл со встроенной консолью для маршрутизации, защиты, управления бюджетом и мониторинга каждого вызова LLM через OpenAI, Anthropic, Gemini, Bedrock и другие сервисы.

eliasbiondo
⭐ 539 Rust 👤 eliasbiondo User 🕐 Обновлено 2026-10-31 📅 Создано 2026-10-17

Часто задаваемые вопросы

1

Какой репозиторий по теме #llm-gateway наиболее популярен на GitHub?

Самый высоко оценённый проект с открытым исходным кодом по теме #llm-gateway на GitHub — cheaper-inference/OmniRoute, набравший 89,311 звёзд. Не прекращайте писать код. Бесплатный ИИ-шлюз по лицензии MIT: одна конечная точка, 375 провайдеров (более 150 бесплатных), свыше 1 400 моделей: Kimi, Claude, GPT, Gemini, GLM, DeepSeek, MiniMax. Работает с Claude Code, Codex, Cursor, OpenCode, Cline и Copilot. Автоматическое переключение с учётом квот; сжатие RTK+Caveman экономит 15–95% токенов. MCP/A2A, настольная версия/PWA. Создан при участии более 900 разработчиков

2

Какие языки программирования чаще всего используются в репозиториях по теме #llm-gateway?

Среди наиболее высоко оценённых проектов по теме #llm-gateway на GitHub чаще всего используются языки программирования Go, TypeScript, Rust, Python.

3

Как рассчитывается рейтинг репозиториев по теме #llm-gateway?

Мы отслеживаем 32 активных репозиториев с открытым исходным кодом, отмеченных тегом #llm-gateway (500 и более звёзд), с общим числом 404,707 звёзд и в среднем 12,647 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.