Git Stars Git Stars

#llm-gateway 저장소

#llm-gateway 태그가 지정된 GitHub의 활성 오픈 소스 저장소 32개를 확인해 보세요. 총 404,707개의 스타를 획득했으며 프로젝트당 평균 12,647개입니다. 이 주제를 이끄는 저장소는 89,311개의 스타를 받은 cheaper-inference/OmniRoute입니다.

32
총 리포지토리
404,707
총 별점
12,647
리포지토리당 평균 스타 수

저장소 총 32개

1
cheaper-inference/OmniRoute

코딩을 멈추지 마세요. MIT 라이선스 기반 무료 AI 게이트웨이: 단일 엔드포인트, 375개 제공업체(150개 이상 무료), 1,400개 이상의 모델 지원: Kimi, Claude, GPT, Gemini, GLM, DeepSeek, MiniMax. Claude Code, Codex, Cursor, OpenCode, Cline, Copilot과 호환됩니다. 사용량 한도를 고려한 자동 대체 기능과 RTK+Caveman 압축으로 토큰을 15~95% 절약할 수 있습니다. MCP/A2A, 데스크톱/PWA 지원. 900명 이상의 기여자가 개발

cheaper-inference
⭐ 89,311 TypeScript 👤 cheaper-inference Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2026-02-13
2
BerriAI/litellm

가장 빠르고 가벼운 AI 게이트웨이. Rust 코어와 Python SDK. OpenAI(또는 네이티브) 형식으로 100개 이상의 LLM API를 호출하며 비용 추적, 가드레일, 로드 밸런싱 및 로깅 지원 [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]

BerriAI
⭐ 63,649 Python 👤 BerriAI Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2023-07-27
3
QuantumNous/new-api

오픈 소스 AI 게이트웨이. OpenAI, Claude 및 Gemini 호환 API와 모델 라우팅, 액세스 제어, 사용량 추적 및 비용 정산 기능을 제공하는 셀프 호스팅 LLM 게이트웨이입니다.

QuantumNous
⭐ 52,302 Go 👤 QuantumNous Organization 🕐 업데이트됨 2026-11-20 📅 생성됨 2023-11-10
4
Kong/kong

🦍 API 및 AI 게이트웨이

Kong
⭐ 44,403 Lua 👤 Kong Organization 🕐 업데이트됨 2026-11-20 📅 생성됨 2014-11-17
5
langfuse/langfuse

🪢 OpenTelemetry 기반의 오픈소스 AI 엔지니어링 플랫폼: AI 게이트웨이, 에이전트 옵저버빌리티, 평가, 프롬프트/스킬 관리 기능을 제공합니다. 모든 AI 호출과 에이전트를 위한 하나의 오픈 플랫폼입니다. 직접 호스팅하거나 Langfuse Cloud를 사용하세요.

langfuse
⭐ 37,696 TypeScript 👤 langfuse Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2023-05-18
6
decolua/9router

무제한 무료 AI 코딩. Claude Code, Codex, Cursor, Cline, Copilot, Antigravity를 40개 이상의 제공자를 통해 무료 Claude/GPT/Gemini와 연결합니다. 자동 폴백, RTK -40% 토큰, 한도에 도달하지 않음.

decolua
⭐ 32,693 JavaScript 👤 decolua User 🕐 업데이트됨 2026-11-16 📅 생성됨 2026-01-05
7
Portkey-AI/gateway

초고속 AI 게이트웨이, 통합 가드레일 포함. 1,600+ LLM, 50+ AI 가드레일로 라우팅, 1개의 빠르고 친화적인 API로.

Portkey-AI
⭐ 13,424 TypeScript 👤 Portkey-AI Organization 🕐 업데이트됨 2026-11-20 📅 생성됨 2023-08-23
8
TykTechnologies/tyk

REST, GraphQL, TCP, gRPC 및 MCP(Model Context Protocol)를 지원하는 오픈 소스 API 및 AI 게이트웨이

TykTechnologies
⭐ 10,897 Go 👤 TykTechnologies Organization 🕐 업데이트됨 2026-11-20 📅 생성됨 2014-05-07
9
maximhq/bifrost

LLM 게이트웨이, MCP 게이트웨이, 에이전트 게이트웨이로 사용할 수 있는 오픈 소스 고성능 AI 게이트웨이입니다. OpenAI 호환 API 하나로 10,000개 이상의 모델을 지원하며, 장애 조치, 부하 분산, 시맨틱 캐싱, 가상 키, 예산 관리, MCP Code Mode를 제공합니다. 모든 SDK 또는 에이전트와 함께 사용할 수 있으며, 5k RPS에서 추가 오버헤드는 200µs 미만입니다.

maximhq
⭐ 9,886 Go 👤 maximhq Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2025-03-19
10
coaidev/coai

🚀 차세대 멀티 테넌트 AI 원스톱 솔루션. 관리 및 결제 시스템 내장. 200개 이상의 모델과 35개 이상의 제공업체를 지원하는 엔터프라이즈급 통합 LLM 게이트웨이, 우선순위 기반 라우팅을 통한 로드 밸런싱, 비용 관리, 채팅 공유, 클라우드 동기화, 크레딧/구독 결제, 모든 파일 파싱, 웹 검색, 내장 모델 캐시 지원.

coaidev
⭐ 9,343 TypeScript 👤 coaidev Organization 🕐 업데이트됨 2026-03-12 📅 생성됨 2023-07-17
11
tbphp/gpt-load

다중 채널·다중 자격 증명 환경을 위한 셀프 호스팅 AI 게이트웨이 — API 키와 구독 계정, 스케줄링, 장애 조치, 요청 로그 및 사용량 지원.

tbphp
⭐ 7,241 Go 👤 tbphp User 🕐 업데이트됨 2026-11-20 📅 생성됨 2025-06-06
12
katanemo/plano

Plano는 에이전트 앱을 위한 AI 네이티브 프록시 서버 및 데이터 플레인입니다. 스마트 LLM 라우팅, 관찰 가능성, 에이전트 오케스트레이션 및 가드레일을 제공하여 에이전트의 핵심 로직에 집중할 수 있도록 합니다.

katanemo
⭐ 7,118 Rust 👤 katanemo Organization 🕐 업데이트됨 2026-10-24 📅 생성됨 2024-07-09
13
deanxv/coze-discord-proxy

Coze-Bot의 Discord 대화를 대행하여 API 형태로 GPT4 모델을 요청하고, 대화, 텍스트-이미지 생성, 이미지-텍스트 생성, 지식 베이스 검색 등의 기능을 제공합니다.

deanxv
⭐ 3,768 Go 👤 deanxv User 🕐 업데이트됨 2026-02-22 📅 생성됨 2024-01-26
15
bestruirui/octopus

하나의 허브, 모든 LLM을 당신에게 | 개인을 위한 LLM API 통합 게이트웨이

bestruirui
⭐ 2,750 TypeScript 👤 bestruirui User 🕐 업데이트됨 2026-10-23 📅 생성됨 2025-11-18
16
APIParkLab/APIPark

클라우드 네이티브, 초고성능 AI&API 게이트웨이, LLM API 관리, 배포 시스템, 개방형 플랫폼, 모든 AI API 지원. OpenAI, Azure, Anthropic Claude, Google Gemini, DeepSeek, ByteDance Doubao, ChatGLM, Baidu Wenxin Yiyan, iFlytek Spark, Alibaba Tongyi Qianwen, 360 Zhinao, Tencent Hunyuan 등 주요 모델에 국한되지 않음, 통합 API 요청 및 응답, API 신청 및 승인, 호출 통계, 로드 밸런싱, 다중 모델 재해 복구. 원클릭 배포, 바로 사용 가능.

APIParkLab
⭐ 1,825 TypeScript 👤 APIParkLab Organization 🕐 업데이트됨 2026-10-27 📅 생성됨 2024-08-12
17
theopenco/llmgateway

단일 API 인터페이스를 통해 여러 제공업체에 걸쳐 LLM 요청을 라우팅, 관리 및 분석합니다.

theopenco
⭐ 1,755 TypeScript 👤 theopenco Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2025-04-12
18
Paritok-official/paritok-4b-v1

AI 코딩 에이전트를 위한 비파괴 압축 게이트웨이. 턴 1에서 토큰 비용을 25% 절감하고, 길거나 포화된 세션에서는 85% 이상 절감하며, 동일한 컨텍스트 창에 약 3배 더 많은 턴을 수용합니다. 당사의 오픈 소스 코드 네이티브 4B 모델로 구동됩니다. Claude Code, Cursor, Codex, OpenHands 및 모든 BASE_URL 에이전트에 바로 사용할 수 있습니다.

Paritok-official
⭐ 1,439 Python 👤 Paritok-official Organization 🕐 업데이트됨 2026-11-17 📅 생성됨 2026-07-15
19
ENTERPILOT/GoModel

Go로 작성된 AI 게이트웨이 / AI 컨트롤 플레인 / AI 프록시. OpenAI, Anthropic, Gemini, Groq, xAI, Ollama, vLLM 등을 위한 통합 OpenAI 호환 및 Anthropic 호환 API. 관찰 가능성, 가드레일, 스트리밍, 비용 추적, 지능형 라우팅, 고정 세션, 장애 조치, 실시간 로그 및 사용량 추적을 갖춘 LiteLLM 대안. 프로덕션 준비 완료.

ENTERPILOT
⭐ 1,323 Go 👤 ENTERPILOT Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2025-12-05
20
HiveNexus/HiveChat

Deepseek, Open AI, Claude, Gemini와 같은 모델을 지원하는 중소기업 팀을 위한 AI 챗봇입니다. 专为中小团队设计的 AI 聊天应用,支持 Deepseek、Open AI、Claude、Gemini 等模型。

HiveNexus
⭐ 1,186 TypeScript 👤 HiveNexus Organization 🕐 업데이트됨 2025-09-16 📅 생성됨 2025-02-19
21
Deep-ai-inc/ch.at

보편 기본 채팅

Deep-ai-inc
⭐ 1,132 Go 👤 Deep-ai-inc Organization 🕐 업데이트됨 2026-10-14 📅 생성됨 2025-06-18
22
respanai/respan-gateway

Rust로 만든 오픈 소스 LLM 게이트웨이. 하나의 엔드포인트로 OpenAI, Anthropic, Gemini 및 그 밖의 모든 공급자를 지원합니다. 모든 SDK, 모델, 도구를 사용할 수 있습니다.

respanai
⭐ 975 Rust 👤 respanai Organization 🕐 업데이트됨 2026-11-20 📅 생성됨 2026-09-25
23
zexadev/gemini-web2api-go

Gemini 웹 → OpenAI 호환 API + Gemini 네이티브 API. 셀프 호스팅 가능, API 키 불필요. 유료 계정 쿠키로 Gemini 4 Argon 사용, strict_model(조용한 다운그레이드 대신 429 반환), 자동 갱신 쿠키 풀, 프록시 풀, 관리자 패널, 이미지 및 동영상 생성, 단일 Go 바이너리 · Gemini 웹사이트를 리버스 프록시해 OpenAI 호환 API / Gemini 네이티브 API로 제공하고, 유료 계정 쿠키로 Gemini 4 Argon을 직접 사용하세요.

zexadev
⭐ 974 Go 👤 zexadev User 🕐 업데이트됨 2026-11-21 📅 생성됨 2026-05-29
24
mozilla-ai/otari

직접 운영하는 오픈소스 AI 게이트웨이. 하나의 엔드포인트로 40개 이상의 제공업체를 이용하고, 가상 키와 예산 및 사용량을 관리할 수 있습니다.

mozilla-ai
⭐ 959 Python 👤 mozilla-ai Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2026-04-02
25
ThinkWatchProject/ThinkWatch-Lite

macOS, Windows, Linux에서 Claude Code, Codex 및 기타 AI 클라이언트를 위한 로컬 게이트웨이: 클라이언트를 건드리지 않고 업스트림을 전환하고, 릴레이로부터 API 키를 보호하며, 악성 도구 호출을 차단하고, 모든 요청을 추적합니다.

ThinkWatchProject
⭐ 946 TypeScript 👤 ThinkWatchProject Organization 🕐 업데이트됨 2026-11-20 📅 생성됨 2026-09-12
26
laravel/mcp

Laravel 애플리케이션을 위한 MCP 서버를 빠르게 구축하세요.

laravel
⭐ 875 PHP 👤 laravel Organization 🕐 업데이트됨 2026-11-20 📅 생성됨 2025-05-15
27
ThinkWatchProject/ThinkWatch

조직을 위한 셀프 호스팅 AI API 및 MCP 게이트웨이: SSO 및 RBAC, MCP 도구 호출을 위한 사용자별 ID, 개인 식별 정보(PII) 비식별화 및 도구 호출 보호 기능, 속도 제한, 예산, 비용 정산 및 감사 로그.

ThinkWatchProject
⭐ 817 Rust 👤 ThinkWatchProject Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2026-04-02
28
vllora/vllora

AI 에이전트 디버깅

vllora
⭐ 810 Rust 👤 vllora Organization 🕐 업데이트됨 2026-06-30 📅 생성됨 2025-01-27
29
NadirRouter/NadirClaw

소스 코드를 제공하는 LLM 라우터 및 AI 비용 최적화 도구입니다. 간단한 프롬프트는 저렴한 모델이나 로컬 모델로, 복잡한 프롬프트는 프리미엄 모델로 자동 라우팅합니다. Claude Code, Codex, Cursor, OpenClaw에서 바로 사용할 수 있는 OpenAI 호환 프록시입니다. 셀프 호스팅 방식이며 중개자가 없습니다.

NadirRouter
⭐ 666 Python 👤 NadirRouter Organization 🕐 업데이트됨 2026-11-20 📅 생성됨 2026-02-11
30
apache/casbin-gateway

내 컴퓨터의 각 AI 코딩 에이전트가 무엇을 하고 있는지, 그리고 그 뒤에서 사용하는 API가 실제로 내가 비용을 지불한 API인지 확인하세요. Claude Code, Codex, Cursor, Gemini CLI 등: 44개 모델 공급업체를 위한 단일 엔드포인트, API 진위성 A–F 등급, 에이전트별 권한, 사용량 및 프롬프트 기록을 제공합니다.

apache
⭐ 650 Go 👤 apache Organization 🕐 업데이트됨 2026-10-31 📅 생성됨 2017-05-13
31
Fast-Editor/Lynkr

Lynkr로 워크플로우를 간소화하세요. Claude Code CLI를 사용하여 효율적인 코드 상호작용을 위한 HTTP 프록시 역할을 하는 CLI 도구입니다.

Fast-Editor
⭐ 642 JavaScript 👤 Fast-Editor Organization 🕐 업데이트됨 2026-11-15 📅 생성됨 2025-12-03
32
eliasbiondo/antirion

🕷️ 가장 빠른 오픈 소스 AI 및 LLM 게이트웨이 — 콘솔이 내장된 단일 바이너리로 OpenAI, Anthropic, Gemini, Bedrock 등에서 발생하는 모든 LLM 호출을 라우팅하고, 보호하고, 예산을 관리하고, 모니터링하세요.

eliasbiondo
⭐ 539 Rust 👤 eliasbiondo User 🕐 업데이트됨 2026-10-31 📅 생성됨 2026-10-17

자주 묻는 질문

1

GitHub에서 가장 인기 있는 #llm-gateway 저장소는 무엇인가요?

GitHub에서 가장 높은 순위의 오픈 소스 #llm-gateway 프로젝트는 89,311개의 스타를 받은 cheaper-inference/OmniRoute입니다. 코딩을 멈추지 마세요. MIT 라이선스 기반 무료 AI 게이트웨이: 단일 엔드포인트, 375개 제공업체(150개 이상 무료), 1,400개 이상의 모델 지원: Kimi, Claude, GPT, Gemini, GLM, DeepSeek, MiniMax. Claude Code, Codex, Cursor, OpenCode, Cline, Copilot과 호환됩니다. 사용량 한도를 고려한 자동 대체 기능과 RTK+Caveman 압축으로 토큰을 15~95% 절약할 수 있습니다. MCP/A2A, 데스크톱/PWA 지원. 900명 이상의 기여자가 개발

2

#llm-gateway 저장소에서 가장 많이 사용되는 프로그래밍 언어는 무엇인가요?

GitHub에서 순위가 가장 높은 #llm-gateway 프로젝트 중 가장 일반적으로 사용되는 프로그래밍 언어는 Go, TypeScript, Rust, Python입니다.

3

#llm-gateway 저장소 순위는 어떻게 계산되나요?

#llm-gateway 태그가 지정된 활성 오픈 소스 저장소(32개, 스타 500개 이상)를 추적하고 있습니다. 총 스타 수는 404,707개이며 저장소당 평균 12,647개입니다. 순위는 GitHub API를 통해 매일 업데이트됩니다.