#llm-gateway 저장소
#llm-gateway 태그가 지정된 GitHub의 활성 오픈 소스 저장소 32개를 확인해 보세요. 총 404,707개의 스타를 획득했으며 프로젝트당 평균 12,647개입니다. 이 주제를 이끄는 저장소는 89,311개의 스타를 받은 cheaper-inference/OmniRoute입니다.
저장소 총 32개
코딩을 멈추지 마세요. MIT 라이선스 기반 무료 AI 게이트웨이: 단일 엔드포인트, 375개 제공업체(150개 이상 무료), 1,400개 이상의 모델 지원: Kimi, Claude, GPT, Gemini, GLM, DeepSeek, MiniMax. Claude Code, Codex, Cursor, OpenCode, Cline, Copilot과 호환됩니다. 사용량 한도를 고려한 자동 대체 기능과 RTK+Caveman 압축으로 토큰을 15~95% 절약할 수 있습니다. MCP/A2A, 데스크톱/PWA 지원. 900명 이상의 기여자가 개발
가장 빠르고 가벼운 AI 게이트웨이. Rust 코어와 Python SDK. OpenAI(또는 네이티브) 형식으로 100개 이상의 LLM API를 호출하며 비용 추적, 가드레일, 로드 밸런싱 및 로깅 지원 [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]
오픈 소스 AI 게이트웨이. OpenAI, Claude 및 Gemini 호환 API와 모델 라우팅, 액세스 제어, 사용량 추적 및 비용 정산 기능을 제공하는 셀프 호스팅 LLM 게이트웨이입니다.
🪢 OpenTelemetry 기반의 오픈소스 AI 엔지니어링 플랫폼: AI 게이트웨이, 에이전트 옵저버빌리티, 평가, 프롬프트/스킬 관리 기능을 제공합니다. 모든 AI 호출과 에이전트를 위한 하나의 오픈 플랫폼입니다. 직접 호스팅하거나 Langfuse Cloud를 사용하세요.
무제한 무료 AI 코딩. Claude Code, Codex, Cursor, Cline, Copilot, Antigravity를 40개 이상의 제공자를 통해 무료 Claude/GPT/Gemini와 연결합니다. 자동 폴백, RTK -40% 토큰, 한도에 도달하지 않음.
REST, GraphQL, TCP, gRPC 및 MCP(Model Context Protocol)를 지원하는 오픈 소스 API 및 AI 게이트웨이
LLM 게이트웨이, MCP 게이트웨이, 에이전트 게이트웨이로 사용할 수 있는 오픈 소스 고성능 AI 게이트웨이입니다. OpenAI 호환 API 하나로 10,000개 이상의 모델을 지원하며, 장애 조치, 부하 분산, 시맨틱 캐싱, 가상 키, 예산 관리, MCP Code Mode를 제공합니다. 모든 SDK 또는 에이전트와 함께 사용할 수 있으며, 5k RPS에서 추가 오버헤드는 200µs 미만입니다.
🚀 차세대 멀티 테넌트 AI 원스톱 솔루션. 관리 및 결제 시스템 내장. 200개 이상의 모델과 35개 이상의 제공업체를 지원하는 엔터프라이즈급 통합 LLM 게이트웨이, 우선순위 기반 라우팅을 통한 로드 밸런싱, 비용 관리, 채팅 공유, 클라우드 동기화, 크레딧/구독 결제, 모든 파일 파싱, 웹 검색, 내장 모델 캐시 지원.
다중 채널·다중 자격 증명 환경을 위한 셀프 호스팅 AI 게이트웨이 — API 키와 구독 계정, 스케줄링, 장애 조치, 요청 로그 및 사용량 지원.
Plano는 에이전트 앱을 위한 AI 네이티브 프록시 서버 및 데이터 플레인입니다. 스마트 LLM 라우팅, 관찰 가능성, 에이전트 오케스트레이션 및 가드레일을 제공하여 에이전트의 핵심 로직에 집중할 수 있도록 합니다.
Coze-Bot의 Discord 대화를 대행하여 API 형태로 GPT4 모델을 요청하고, 대화, 텍스트-이미지 생성, 이미지-텍스트 생성, 지식 베이스 검색 등의 기능을 제공합니다.
클라우드 네이티브, 초고성능 AI&API 게이트웨이, LLM API 관리, 배포 시스템, 개방형 플랫폼, 모든 AI API 지원. OpenAI, Azure, Anthropic Claude, Google Gemini, DeepSeek, ByteDance Doubao, ChatGLM, Baidu Wenxin Yiyan, iFlytek Spark, Alibaba Tongyi Qianwen, 360 Zhinao, Tencent Hunyuan 등 주요 모델에 국한되지 않음, 통합 API 요청 및 응답, API 신청 및 승인, 호출 통계, 로드 밸런싱, 다중 모델 재해 복구. 원클릭 배포, 바로 사용 가능.
AI 코딩 에이전트를 위한 비파괴 압축 게이트웨이. 턴 1에서 토큰 비용을 25% 절감하고, 길거나 포화된 세션에서는 85% 이상 절감하며, 동일한 컨텍스트 창에 약 3배 더 많은 턴을 수용합니다. 당사의 오픈 소스 코드 네이티브 4B 모델로 구동됩니다. Claude Code, Cursor, Codex, OpenHands 및 모든 BASE_URL 에이전트에 바로 사용할 수 있습니다.
Go로 작성된 AI 게이트웨이 / AI 컨트롤 플레인 / AI 프록시. OpenAI, Anthropic, Gemini, Groq, xAI, Ollama, vLLM 등을 위한 통합 OpenAI 호환 및 Anthropic 호환 API. 관찰 가능성, 가드레일, 스트리밍, 비용 추적, 지능형 라우팅, 고정 세션, 장애 조치, 실시간 로그 및 사용량 추적을 갖춘 LiteLLM 대안. 프로덕션 준비 완료.
Deepseek, Open AI, Claude, Gemini와 같은 모델을 지원하는 중소기업 팀을 위한 AI 챗봇입니다. 专为中小团队设计的 AI 聊天应用,支持 Deepseek、Open AI、Claude、Gemini 等模型。
Rust로 만든 오픈 소스 LLM 게이트웨이. 하나의 엔드포인트로 OpenAI, Anthropic, Gemini 및 그 밖의 모든 공급자를 지원합니다. 모든 SDK, 모델, 도구를 사용할 수 있습니다.
Gemini 웹 → OpenAI 호환 API + Gemini 네이티브 API. 셀프 호스팅 가능, API 키 불필요. 유료 계정 쿠키로 Gemini 4 Argon 사용, strict_model(조용한 다운그레이드 대신 429 반환), 자동 갱신 쿠키 풀, 프록시 풀, 관리자 패널, 이미지 및 동영상 생성, 단일 Go 바이너리 · Gemini 웹사이트를 리버스 프록시해 OpenAI 호환 API / Gemini 네이티브 API로 제공하고, 유료 계정 쿠키로 Gemini 4 Argon을 직접 사용하세요.
직접 운영하는 오픈소스 AI 게이트웨이. 하나의 엔드포인트로 40개 이상의 제공업체를 이용하고, 가상 키와 예산 및 사용량을 관리할 수 있습니다.
macOS, Windows, Linux에서 Claude Code, Codex 및 기타 AI 클라이언트를 위한 로컬 게이트웨이: 클라이언트를 건드리지 않고 업스트림을 전환하고, 릴레이로부터 API 키를 보호하며, 악성 도구 호출을 차단하고, 모든 요청을 추적합니다.
조직을 위한 셀프 호스팅 AI API 및 MCP 게이트웨이: SSO 및 RBAC, MCP 도구 호출을 위한 사용자별 ID, 개인 식별 정보(PII) 비식별화 및 도구 호출 보호 기능, 속도 제한, 예산, 비용 정산 및 감사 로그.
소스 코드를 제공하는 LLM 라우터 및 AI 비용 최적화 도구입니다. 간단한 프롬프트는 저렴한 모델이나 로컬 모델로, 복잡한 프롬프트는 프리미엄 모델로 자동 라우팅합니다. Claude Code, Codex, Cursor, OpenClaw에서 바로 사용할 수 있는 OpenAI 호환 프록시입니다. 셀프 호스팅 방식이며 중개자가 없습니다.
내 컴퓨터의 각 AI 코딩 에이전트가 무엇을 하고 있는지, 그리고 그 뒤에서 사용하는 API가 실제로 내가 비용을 지불한 API인지 확인하세요. Claude Code, Codex, Cursor, Gemini CLI 등: 44개 모델 공급업체를 위한 단일 엔드포인트, API 진위성 A–F 등급, 에이전트별 권한, 사용량 및 프롬프트 기록을 제공합니다.
Lynkr로 워크플로우를 간소화하세요. Claude Code CLI를 사용하여 효율적인 코드 상호작용을 위한 HTTP 프록시 역할을 하는 CLI 도구입니다.
🕷️ 가장 빠른 오픈 소스 AI 및 LLM 게이트웨이 — 콘솔이 내장된 단일 바이너리로 OpenAI, Anthropic, Gemini, Bedrock 등에서 발생하는 모든 LLM 호출을 라우팅하고, 보호하고, 예산을 관리하고, 모니터링하세요.
자주 묻는 질문
GitHub에서 가장 인기 있는 #llm-gateway 저장소는 무엇인가요?
GitHub에서 가장 높은 순위의 오픈 소스 #llm-gateway 프로젝트는 89,311개의 스타를 받은 cheaper-inference/OmniRoute입니다. 코딩을 멈추지 마세요. MIT 라이선스 기반 무료 AI 게이트웨이: 단일 엔드포인트, 375개 제공업체(150개 이상 무료), 1,400개 이상의 모델 지원: Kimi, Claude, GPT, Gemini, GLM, DeepSeek, MiniMax. Claude Code, Codex, Cursor, OpenCode, Cline, Copilot과 호환됩니다. 사용량 한도를 고려한 자동 대체 기능과 RTK+Caveman 압축으로 토큰을 15~95% 절약할 수 있습니다. MCP/A2A, 데스크톱/PWA 지원. 900명 이상의 기여자가 개발
#llm-gateway 저장소에서 가장 많이 사용되는 프로그래밍 언어는 무엇인가요?
GitHub에서 순위가 가장 높은 #llm-gateway 프로젝트 중 가장 일반적으로 사용되는 프로그래밍 언어는 Go, TypeScript, Rust, Python입니다.
#llm-gateway 저장소 순위는 어떻게 계산되나요?
#llm-gateway 태그가 지정된 활성 오픈 소스 저장소(32개, 스타 500개 이상)를 추적하고 있습니다. 총 스타 수는 404,707개이며 저장소당 평균 12,647개입니다. 순위는 GitHub API를 통해 매일 업데이트됩니다.