#llm-gateway Репозитории
Откройте для себя 32 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #llm-gateway, с общим числом 404,707 звёзд (в среднем 12,647 на проект). Лидером этой темы является cheaper-inference/OmniRoute, набравший 89,311 звёзд.
Всего репозиториев: 32
Не прекращайте писать код. Бесплатный ИИ-шлюз по лицензии MIT: одна конечная точка, 375 провайдеров (более 150 бесплатных), свыше 1 400 моделей: Kimi, Claude, GPT, Gemini, GLM, DeepSeek, MiniMax. Работает с Claude Code, Codex, Cursor, OpenCode, Cline и Copilot. Автоматическое переключение с учётом квот; сжатие RTK+Caveman экономит 15–95% токенов. MCP/A2A, настольная версия/PWA. Создан при участии более 900 разработчиков
Самый быстрый и легкий AI-шлюз. Ядро на Rust с Python SDK. Вызов более 100 LLM API в формате OpenAI (или нативном) с отслеживанием затрат, защитными механизмами, балансировкой нагрузки и ведением журнала [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]
Шлюз для ИИ с открытым исходным кодом. Самостоятельно размещаемый шлюз для LLM с API, совместимыми с OpenAI, Claude и Gemini, маршрутизацией моделей, контролем доступа, отслеживанием использования и учётом затрат.
🪢 Открытая платформа для разработки ИИ: AI Gateway, наблюдаемость агентов, оценка и управление промптами и навыками на базе OpenTelemetry. Единая открытая платформа для каждого вызова ИИ и каждого агента. Разверните её самостоятельно или используйте Langfuse Cloud.
Неограниченное БЕСПЛАТНОЕ AI‑кодирование. Подключайте Claude Code, Codex, Cursor, Cline, Copilot, Antigravity к БЕСПЛАТНЫМ Claude/GPT/Gemini через более 40 провайдеров. Авто‑откат, RTK -40 % токенов, никогда не достигает лимитов.
Сверхбыстрый AI-шлюз с интегрированными защитными барьерами. Маршрутизация к 1600+ LLM, 50+ AI-защитным барьерам с 1 быстрым и дружелюбным API.
API и AI-шлюз с открытым исходным кодом, поддерживающие REST, GraphQL, TCP, gRPC и MCP (протокол контекста модели)
Высокопроизводительный шлюз ИИ с открытым исходным кодом, который работает как шлюз для LLM, MCP и агентов. Единый API, совместимый с OpenAI, для более чем 10 000 моделей; поддерживает автоматическое переключение при сбоях, балансировку нагрузки, семантическое кэширование, виртуальные ключи, бюджеты и MCP Code Mode. Работает с любыми SDK и агентами, добавляя менее 200 мкс задержки при 5k RPS.
🚀 Универсальное AI-решение нового поколения с поддержкой мультиарендности. Встроенная система администрирования и биллинга. Единый корпоративный LLM-шлюз с поддержкой более 200 моделей и 35+ провайдеров, балансировка нагрузки с маршрутизацией по приоритетам, управление затратами, обмен чатами, облачная синхронизация, биллинг по кредитам/подписке, парсинг любых файлов, веб-поиск, встроенное кэширование моделей.
Самостоятельно размещаемый ИИ-шлюз для конфигураций с несколькими каналами и учетными данными — API-ключи и учетные записи подписки, планирование, отказоустойчивость, журналы запросов и статистика использования.
Plano — это прокси-сервер и плоскость данных, созданные на основе ИИ для агентных приложений. Умная маршрутизация LLM, наблюдаемость, оркестрация агентов и защитные механизмы, чтобы вы могли сосредоточиться на основной логике ваших агентов.
Агент диалогового интерфейса Discord Coze-Bot, реализующий запрос модели GPT4 в виде API, предоставляющий такие функции, как диалог, генерация изображений из текста, генерация текста из изображений и поиск по базе знаний.
Облачный, сверхпроизводительный AI&API шлюз, управление LLM API, система дистрибуции, открытая платформа, поддержка всех AI API. Не ограничиваясь основными моделями, такими как OpenAI, Azure, Anthropic Claude, Google Gemini, DeepSeek, ByteDance Doubao, ChatGLM, Baidu Wenxin Yiyan, iFlytek Spark, Alibaba Tongyi Qianwen, 360 Zhinao, Tencent Hunyuan и др., унифицированные запросы и ответы API, подача и утверждение заявок на API, статистика вызовов, балансировка нагрузки, мультимодельное аварийное восстановление. Развертывание в один клик, готово к использованию.
Маршрутизируйте, управляйте и анализируйте свои запросы LLM у нескольких поставщиков с помощью унифицированного API-интерфейса.
Неразрушающий шлюз сжатия для ИИ-агентов кодирования. Сокращает счета за токены на 25% на первом ходу и более чем на 85% в длинных или насыщенных сессиях, и вмещает примерно в 3 раза больше ходов в том же окне контекста. Работает на нашей открытой модели, ориентированной на код, размером 4B. Подходит для Claude Code, Cursor, Codex, OpenHands и любого агента с BASE_URL.
AI-шлюз / AI-плоскость управления / AI-прокси, написанный на Go. Единый API, совместимый с OpenAI и Anthropic, для OpenAI, Anthropic, Gemini, Groq, xAI, Ollama, vLLM и других. Альтернатива LiteLLM с наблюдаемостью, защитными механизмами, потоковой передачей, отслеживанием затрат, интеллектуальной маршрутизацией, липкими сессиями, отказоустойчивостью, журналами в реальном времени и отслеживанием использования. Готов к продакшену.
Чат-бот с ИИ для малых и средних команд, поддерживающий такие модели, как Deepseek, Open AI, Claude и Gemini. 专为中小团队设计的 AI 聊天应用,支持 Deepseek、Open AI、Claude、Gemini 等模型。
Открытый LLM-шлюз на Rust. Единая конечная точка для OpenAI, Anthropic, Gemini и любых других поставщиков. Любой SDK, любая модель, любой инструмент.
Gemini Web → API, совместимый с OpenAI, + нативный API Gemini; самостоятельный хостинг, API-ключ не нужен. Gemini 4 Argon через cookie платного аккаунта; strict_model (429 вместо незаметного перехода на более слабую модель), пул cookie с автоматическим продлением, пул прокси, панель администратора, генерация изображений и видео, единый бинарный файл Go · Настройте обратный прокси для сайта Gemini, чтобы предоставлять API, совместимый с OpenAI, / нативный API Gemini; используйте Gemini 4 Argon напрямую с cookie платного аккаунта.
Самостоятельно размещаемый шлюз для ИИ с открытым исходным кодом. Единая точка доступа к более чем 40 провайдерам с виртуальными ключами, бюджетами и отслеживанием использования.
Локальный шлюз для Claude Code, Codex и других ИИ-клиентов на macOS, Windows и Linux: переключайте upstream-сервисы, не меняя клиентов, скрывайте API-ключи от ретрансляторов, блокируйте вредоносные вызовы инструментов и отслеживайте каждый запрос.
Самостоятельно размещаемые ИИ API и шлюз MCP для организаций: SSO и RBAC, идентификация каждого пользователя при вызовах инструментов MCP, удаление персональных данных (PII) и защита вызовов инструментов, ограничение частоты запросов, бюджеты, учёт затрат и журналы аудита.
Маршрутизатор LLM и оптимизатор затрат на ИИ с доступным исходным кодом. Автоматически направляет простые запросы к недорогим или локальным моделям, а сложные — к премиальным. Готовый к замене OpenAI-совместимый прокси для Claude Code, Codex, Cursor и OpenClaw. Самостоятельное размещение, без посредников.
Узнайте, что делает каждый ИИ-агент для программирования на вашем компьютере и действительно ли API за ним принадлежит тому сервису, за который вы заплатили. Claude Code, Codex, Cursor, Gemini CLI и другие: одна конечная точка для 44 поставщиков моделей, оценка подлинности API по шкале от A до F, разрешения для каждого агента, а также записи об использовании и промптах.
Оптимизируйте свой рабочий процесс с помощью Lynkr — инструмента CLI, который действует как HTTP-прокси для эффективного взаимодействия с кодом с использованием Claude Code CLI.
🕷️ Самый быстрый шлюз для ИИ и LLM с открытым исходным кодом — один бинарный файл со встроенной консолью для маршрутизации, защиты, управления бюджетом и мониторинга каждого вызова LLM через OpenAI, Anthropic, Gemini, Bedrock и другие сервисы.
Часто задаваемые вопросы
Какой репозиторий по теме #llm-gateway наиболее популярен на GitHub?
Самый высоко оценённый проект с открытым исходным кодом по теме #llm-gateway на GitHub — cheaper-inference/OmniRoute, набравший 89,311 звёзд. Не прекращайте писать код. Бесплатный ИИ-шлюз по лицензии MIT: одна конечная точка, 375 провайдеров (более 150 бесплатных), свыше 1 400 моделей: Kimi, Claude, GPT, Gemini, GLM, DeepSeek, MiniMax. Работает с Claude Code, Codex, Cursor, OpenCode, Cline и Copilot. Автоматическое переключение с учётом квот; сжатие RTK+Caveman экономит 15–95% токенов. MCP/A2A, настольная версия/PWA. Создан при участии более 900 разработчиков
Какие языки программирования чаще всего используются в репозиториях по теме #llm-gateway?
Среди наиболее высоко оценённых проектов по теме #llm-gateway на GitHub чаще всего используются языки программирования Go, TypeScript, Rust, Python.
Как рассчитывается рейтинг репозиториев по теме #llm-gateway?
Мы отслеживаем 32 активных репозиториев с открытым исходным кодом, отмеченных тегом #llm-gateway (500 и более звёзд), с общим числом 404,707 звёзд и в среднем 12,647 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.