Git Stars Git Stars

#llmops 저장소

#llmops 태그가 지정된 GitHub의 활성 오픈 소스 저장소 111개를 확인해 보세요. 총 716,901개의 스타를 획득했으며 프로젝트당 평균 6,458개입니다. 이 주제를 이끄는 저장소는 63,649개의 스타를 받은 BerriAI/litellm입니다.

111
총 리포지토리
716,901
총 별점
6,458
리포지토리당 평균 스타 수

저장소 총 111개

1
BerriAI/litellm

가장 빠르고 가벼운 AI 게이트웨이. Rust 코어와 Python SDK. OpenAI(또는 네이티브) 형식으로 100개 이상의 LLM API를 호출하며 비용 추적, 가드레일, 로드 밸런싱 및 로깅 지원 [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]

BerriAI
⭐ 63,649 Python 👤 BerriAI Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2023-07-27
2
GokuMohandas/Made-With-ML

프로덕션급 ML 애플리케이션을 개발, 배포 및 반복하는 방법을 배우세요.

GokuMohandas
⭐ 50,112 Jupyter Notebook 👤 GokuMohandas User 🕐 업데이트됨 2026-03-04 📅 생성됨 2018-11-05
3
langfuse/langfuse

🪢 OpenTelemetry 기반의 오픈소스 AI 엔지니어링 플랫폼: AI 게이트웨이, 에이전트 옵저버빌리티, 평가, 프롬프트/스킬 관리 기능을 제공합니다. 모든 AI 호출과 에이전트를 위한 하나의 오픈 플랫폼입니다. 직접 호스팅하거나 Langfuse Cloud를 사용하세요.

langfuse
⭐ 37,696 TypeScript 👤 langfuse Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2023-05-18
4
ComposioHQ/composio

Composio는 1000개 이상의 툴킷, 툴 검색, 컨텍스트 관리, 인증 및 샌드박스형 작업대를 지원하여, 의도를 행동으로 전환하는 AI 에이전트 구축을 돕습니다.

ComposioHQ
⭐ 31,218 TypeScript 👤 ComposioHQ Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2024-02-23
5
mlflow/mlflow

에이전트, LLM, ML 모델을 위한 오픈 소스 AI 엔지니어링 플랫폼. MLflow는 모든 규모의 팀이 프로덕션 품질의 AI 애플리케이션을 디버그, 평가, 모니터링, 최적화할 수 있게 하며 비용을 제어하고 모델 및 데이터 액세스를 관리합니다.

mlflow
⭐ 28,920 Python 👤 mlflow Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2018-06-05
6
promptfoo/promptfoo

프롬프트, 에이전트, RAG를 테스트하세요. AI를 위한 레드팀/펜테스팅/취약점 스캔을 수행합니다. GPT, Claude, Gemini, DeepSeek 등의 성능을 비교하세요. 명령줄 및 CI/CD 통합을 지원하는 간단한 선언적 구성을 제공합니다. OpenAI와 Anthropic에서 사용 중입니다.

promptfoo
⭐ 27,516 TypeScript 👤 promptfoo Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2023-04-28
7
liguodongiot/llm-action

본 프로젝트는 대형 모델 관련 기술 원리 및 실전 경험 (대형 모델 엔지니어링, 대형 모델 적용)을 공유하는 것을 목표로 합니다.

liguodongiot
⭐ 25,297 HTML 👤 liguodongiot User 🕐 업데이트됨 2026-10-14 📅 생성됨 2023-05-23
8
comet-ml/opik

포괄적인 추적, 자동화된 평가 및 프로덕션 준비 대시보드를 사용하여 LLM 애플리케이션, RAG 시스템 및 에이전트 워크플로를 디버깅, 평가 및 모니터링하십시오.

comet-ml
⭐ 23,479 Java 👤 comet-ml Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2023-05-10
9
dipakkr/awesome-ai-engineering

🚀 LLM, RAG, AI 에이전트, MCP, 파인튜닝, 평가 및 프로덕션 AI 시스템을 아우르는 AI 엔지니어링 리소스, 로드맵, 도구 및 프로젝트 엄선 모음.

dipakkr
⭐ 22,611 👤 dipakkr User 🕐 업데이트됨 2026-10-21 📅 생성됨 2018-09-17
10
jina-ai/serve

☁️ 클라우드 네이티브 스택으로 멀티모달 AI 애플리케이션 구축

jina-ai
⭐ 21,864 Python 👤 jina-ai Organization 🕐 업데이트됨 2025-03-24 📅 생성됨 2020-02-13
11
rocketride-org/rocketride-server

RocketRide는 C++로 구축된 유일한 엔터프라이즈급 런타임을 갖춘 오픈 소스 AI 메타 하네스입니다. 프로덕션 환경에서 확장 가능한 지속성 에이전트를 구축하고, 테스트하고, 배포하세요.

rocketride-org
⭐ 20,003 Python 👤 rocketride-org Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2026-02-11
12
TransformerOptimus/SuperAGI

<⚡️> SuperAGI - 개발자 우선 오픈 소스 자율 AI 에이전트 프레임워크. 개발자가 유용한 자율 에이전트를 빠르고 안정적으로 구축, 관리 및 실행할 수 있도록 지원합니다.

TransformerOptimus
⭐ 17,556 Python 👤 TransformerOptimus Organization 🕐 업데이트됨 2025-01-22 📅 생성됨 2023-05-13
13
vibrantlabsai/ragas

LLM 애플리케이션 평가를 강화하세요 🚀

vibrantlabsai
⭐ 16,395 Python 👤 vibrantlabsai Organization 🕐 업데이트됨 2026-11-14 📅 생성됨 2023-05-08
14
raga-ai-hub/RagaAI-Catalyst

Agent AI 관찰 가능성, 모니터링 및 평가 프레임워크를 위한 Python SDK. 에이전트, llm 및 도구 추적, 다중 에이전트 시스템 디버깅, 자체 호스팅 대시보드 및 타임라인과 실행 그래프 보기를 포함한 고급 분석과 같은 기능이 포함되어 있습니다.

raga-ai-hub
⭐ 16,193 Python 👤 raga-ai-hub Organization 🕐 업데이트됨 2026-02-11 📅 생성됨 2024-08-26
15
Portkey-AI/gateway

초고속 AI 게이트웨이, 통합 가드레일 포함. 1,600+ LLM, 50+ AI 가드레일로 라우팅, 1개의 빠르고 친화적인 API로.

Portkey-AI
⭐ 13,424 TypeScript 👤 Portkey-AI Organization 🕐 업데이트됨 2026-11-20 📅 생성됨 2023-08-23
16
bentoml/OpenLLM

DeepSeek 및 Llama와 같은 모든 오픈 소스 LLM을 클라우드에서 OpenAI 호환 API 엔드포인트로 실행하세요.

bentoml
⭐ 12,610 Python 👤 bentoml Organization 🕐 업데이트됨 2026-11-16 📅 생성됨 2023-04-19
17
dataelement/bisheng

BISHENG은 AI 애플리케이션을 구축, 배포 및 관리하기 위한 오픈 소스 엔터프라이즈 Agent 플랫폼입니다. AI 에이전트, 워크플로, RAG 및 지식 관리, 데스크톱 에이전트 통합, vibecoding 앱 호스팅을 통합 모델 관리, 평가, 옵저버빌리티, 액세스 제어 및 엔터프라이즈 관리 기능과 결합합니다.

dataelement
⭐ 12,391 Python 👤 dataelement Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2023-08-28
18
Arize-ai/phoenix

AI 관찰 가능성 및 평가

Arize-ai
⭐ 12,368 Python 👤 Arize-ai Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2022-11-09
19
tensorzero/tensorzero

TensorZero는 LLM 게이트웨이, 관찰 가능성, 평가, 최적화 및 실험을 통합하는 오픈 소스 LLMOps 플랫폼입니다.

tensorzero
⭐ 11,456 Rust 👤 tensorzero Organization 🕐 업데이트됨 2026-06-11 📅 생성됨 2024-07-16
20
MakazhanAlpamys/Soup

하나의 YAML에서 LLM을 미세 조정합니다. 레이어 스트리밍은 4GB 노트북 GPU에서 8B 모델을 훈련합니다.

MakazhanAlpamys
⭐ 10,703 Python 👤 MakazhanAlpamys User 🕐 업데이트됨 2026-11-21 📅 생성됨 2026-02-20
21
Netflix/metaflow

AI/ML 시스템 구축, 관리 및 배포

Netflix
⭐ 10,355 Python 👤 Netflix Organization 🕐 업데이트됨 2026-11-19 📅 생성됨 2019-09-17
22
0xPlaygrounds/rig

⚙️🦀 Rust로 모듈식 및 확장 가능한 LLM 애플리케이션 구축

0xPlaygrounds
⭐ 9,209 Rust 👤 0xPlaygrounds Organization 🕐 업데이트됨 2026-11-20 📅 생성됨 2024-06-05
23
bentoml/BentoML

AI 앱과 모델을 서빙하는 가장 쉬운 방법 - 모델 추론 API, 작업 큐, LLM 앱, 다중 모델 파이프라인 등을 구축하세요!

bentoml
⭐ 8,944 Python 👤 bentoml Organization 🕐 업데이트됨 2026-11-17 📅 생성됨 2019-04-02
24
evidentlyai/evidently

Evidently는 오픈 소스 ML 및 LLM 관찰 프레임워크입니다. 모든 AI 기반 시스템 또는 데이터 파이프라인을 평가, 테스트 및 모니터링하세요. 테이블 형식 데이터부터 Gen AI까지. 100개 이상의 지표.

evidentlyai
⭐ 8,073 Jupyter Notebook 👤 evidentlyai Organization 🕐 업데이트됨 2026-09-29 📅 생성됨 2020-11-25
25
traceloop/openllmetry

OpenTelemetry 기반의 GenAI 또는 LLM 애플리케이션을 위한 오픈 소스 관찰 가능성

traceloop
⭐ 7,546 Python 👤 traceloop Organization 🕐 업데이트됨 2026-11-19 📅 생성됨 2023-09-02
26
katanemo/plano

Plano는 에이전트 앱을 위한 AI 네이티브 프록시 서버 및 데이터 플레인입니다. 스마트 LLM 라우팅, 관찰 가능성, 에이전트 오케스트레이션 및 가드레일을 제공하여 에이전트의 핵심 로직에 집중할 수 있도록 합니다.

katanemo
⭐ 7,118 Rust 👤 katanemo Organization 🕐 업데이트됨 2026-10-24 📅 생성됨 2024-07-09
27
clearml/clearml

ClearML - AI 워크로드를 간소화하는 자동 마법 같은 CI/CD. 실험 관리, 데이터 관리, 파이프라인, 오케스트레이션, 스케줄링 및 서빙을 하나의 MLOps/LLMOps 솔루션에서

clearml
⭐ 6,943 Python 👤 clearml Organization 🕐 업데이트됨 2026-11-03 📅 생성됨 2019-06-10
28
GoogleCloudPlatform/agent-starter-pack

AI 에이전트를 몇 달이 아닌 몇 분 만에 Google Cloud에 배포하십시오. CI/CD, 평가 및 관측 가능성이 내장된 프로덕션 준비 템플릿.

GoogleCloudPlatform
⭐ 6,575 Python 👤 GoogleCloudPlatform Organization 🕐 업데이트됨 2026-07-21 📅 생성됨 2025-01-31
29
Helicone/helicone

🧊 오픈소스 LLM 관찰 플랫폼. 모니터링, 평가, 실험을 위한 단 한 줄의 코드. YC W23 🍓

Helicone
⭐ 6,292 TypeScript 👤 Helicone Organization 🕐 업데이트됨 2026-11-17 📅 생성됨 2023-01-31
30
tensorchord/Awesome-LLMOps

개발자를 위한 최고의 LLMOps 도구 모음

tensorchord
⭐ 5,979 Shell 👤 tensorchord Organization 🕐 업데이트됨 2026-11-16 📅 생성됨 2022-04-15
31
Giskard-AI/giskard-oss

🐢 LLM 에이전트를 위한 오픈 소스 평가 및 테스트 라이브러리

Giskard-AI
⭐ 5,965 Python 👤 Giskard-AI Organization 🕐 업데이트됨 2026-11-20 📅 생성됨 2022-03-06
32
coze-dev/coze-loop

차세대 AI 에이전트 최적화 플랫폼: Cozeloop은 개발, 디버깅, 평가부터 모니터링까지 전체 수명 주기 관리 기능을 제공하여 AI 에이전트 개발의 과제를 해결합니다.

coze-dev
⭐ 5,799 Go 👤 coze-dev Organization 🕐 업데이트됨 2026-11-17 📅 생성됨 2025-06-24
33
zenml-io/zenml

ZenML 🙏: 파이프라인부터 에이전트까지 하나의 AI 플랫폼. https://zenml.io.

zenml-io
⭐ 5,636 Python 👤 zenml-io Organization 🕐 업데이트됨 2026-11-20 📅 생성됨 2020-11-19
34
PacktPublishing/LLM-Engineers-Handbook

LLM 실무 가이드: 기본 개념부터 AWS에 고급 LLM 및 RAG 앱 배포까지 LLMOps 모범 사례 활용

PacktPublishing
⭐ 5,438 Python 👤 PacktPublishing Organization 🕐 업데이트됨 2026-04-22 📅 생성됨 2024-04-09
35
superduper-io/superduper

Superduper: 맞춤형 AI 애플리케이션 및 에이전트 구축을 위한 엔드투엔드 프레임워크.

superduper-io
⭐ 5,317 Python 👤 superduper-io Organization 🕐 업데이트됨 2025-09-01 📅 생성됨 2022-08-30
36
landing-ai/vision-agent

이 도구는 더 이상 사용되지 않습니다. 대신 Agentic Document Extraction을 사용하십시오.

landing-ai
⭐ 5,297 Python 👤 landing-ai Organization 🕐 업데이트됨 2026-01-29 📅 생성됨 2024-02-13
37
tencentmusic/cube-studio

cube studio 오픈소스 클라우드 네이티브 올인원 머신러닝/딥러닝/대규모 모델 AI 플랫폼, MLOps 알고리즘 링크 전체 프로세스, 컴퓨팅 파워 대여 플랫폼, 노트북 온라인 개발, 드래그 앤 드롭 작업 흐름 파이프라인 오케스트레이션, 다중 머신 다중 GPU 분산 학습, 하이퍼파라미터 검색, 추론 서비스 VGPU 가상화, 엣지 컴퓨팅, 주석 플랫폼 자동화 주석, Deepseek 등 대규모 모델 SFT 미세 조정/보상 모델/강화 학습 훈련, vLLM/Ollama/MindSpore 등 대규모 모델 다중 머신 추론, 비공개 지식 베이스, AI 모델 마켓, 국산 CPU/GPU/NPU Ascend 생태계 지원, RDMA 지원, PyTorch/TF/MXNet/DeepSpeed/Paddle/ColossalAI/Horovod/Ray/Volcano 등 분산 지원

tencentmusic
⭐ 5,085 👤 tencentmusic Organization 🕐 업데이트됨 2026-10-09 📅 생성됨 2021-08-17
38
langwatch/langwatch

AI 플랫폼 팀을 위한 오픈 소스 에이전트 관측성과 평가. 회사의 모든 에이전트와 코딩 어시스턴트를 추적하고, 테스트하고, 라우팅하고, 거버넌스하세요.

langwatch
⭐ 5,050 TypeScript 👤 langwatch Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2023-09-09
39
itsdecodingai/llm-twin-course

🤖 𝗟𝗟𝗠𝗢𝗽𝘀 모범 사례를 사용하여 종단 간 프로덕션 준비 𝗟𝗟𝗠 및 𝗥𝗔𝗚 시스템을 구축하는 방법을 무료로 𝗔𝗽𝗽𝗿𝗲𝗻𝗲𝘇: ~ 𝘴𝘰𝘶𝘳𝘤𝘦 𝘤𝘰𝘥𝘦 + 12 व्यावहारिक 𝐥𝐞ç𝐨𝐧𝐬

itsdecodingai
⭐ 4,413 Python 👤 itsdecodingai Organization 🕐 업데이트됨 2026-04-20 📅 생성됨 2024-03-08
40
truefoundry/cognita

TrueFoundry의 프로덕션용 모듈식 오픈 소스 애플리케이션 구축을 위한 RAG(검색 증강 생성) 프레임워크

truefoundry
⭐ 4,329 Python 👤 truefoundry Organization 🕐 업데이트됨 2026-02-23 📅 생성됨 2023-07-26
41
predibase/lorax

수천 개의 미세 조정된 LLM으로 확장되는 Multi-LoRA 추론 서버

predibase
⭐ 3,836 Python 👤 predibase Organization 🕐 업데이트됨 2026-05-28 📅 생성됨 2023-10-20
42
memodb-io/Acontext

에이전트 스킬을 메모리 레이어로

memodb-io
⭐ 3,697 JavaScript 👤 memodb-io Organization 🕐 업데이트됨 2026-07-14 📅 생성됨 2025-07-16
43
truera/trulens

LLM 실험 및 AI 에이전트에 대한 평가 및 추적

truera
⭐ 3,665 Python 👤 truera Organization 🕐 업데이트됨 2026-11-20 📅 생성됨 2020-11-02
44
lmnr-ai/lmnr

Laminar - AI 에이전트용으로 특별히 제작된 오픈 소스 관측 가능성 플랫폼. YC S24.

lmnr-ai
⭐ 3,516 TypeScript 👤 lmnr-ai Organization 🕐 업데이트됨 2026-11-20 📅 생성됨 2024-08-29
45
pezzolabs/pezzo

🕹️ 프롬프트 디자인, 버전 관리, 즉시 배포, 협업, 문제 해결, 관찰 가능성 등을 간소화하도록 설계된 오픈 소스, 개발자 우선 LLMOps 플랫폼입니다.

pezzolabs
⭐ 3,287 TypeScript 👤 pezzolabs Organization 🕐 업데이트됨 2026-11-08 📅 생성됨 2023-04-22
46
Josh-XT/AGiXT

AGiXT는 다양한 AI 공급자 간의 지침 관리 및 복잡한 작업 실행을 원활하게 조정하는 동적인 AI 에이전트 자동화 플랫폼입니다. 적응형 메모리, 스마트 기능 및 다목적 플러그인 시스템을 결합한 AGiXT는 효율적이고 포괄적인 AI 솔루션을 제공합니다.

Josh-XT
⭐ 3,214 Python 👤 Josh-XT User 🕐 업데이트됨 2026-07-28 📅 생성됨 2023-04-17
47
protectai/llm-guard

LLM 상호 작용을 위한 보안 툴킷

protectai
⭐ 3,156 Python 👤 protectai Organization 🕐 업데이트됨 2025-12-15 📅 생성됨 2023-07-27
48
itsdecodingai/second-brain-ai-assistant-course

LLM, 에이전트, RAG, 미세 조정, LLMOps 및 AI 시스템 기술을 사용하여 Second Brain AI 어시스턴트를 구축하는 방법을 알아보세요.

itsdecodingai
⭐ 3,138 Jupyter Notebook 👤 itsdecodingai Organization 🕐 업데이트됨 2026-04-06 📅 생성됨 2024-12-30
49
vllm-project/vllm-ascend

Huawei Ascend용 vLLM 커뮤니티 유지 관리 하드웨어 플러그인

vllm-project
⭐ 3,128 Python 👤 vllm-project Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2025-01-29
50
openlit/openlit

같은 에이전트, 더 낮은 비용. AI가 더 많은 일을 하도록 돕는 도구와 인프라. 토큰은 적게. 연산은 적게. 비용은 낮게.

openlit
⭐ 3,094 TypeScript 👤 openlit Organization 🕐 업데이트됨 2026-11-19 📅 생성됨 2024-01-23

자주 묻는 질문

1

GitHub에서 가장 인기 있는 #llmops 저장소는 무엇인가요?

GitHub에서 가장 높은 순위의 오픈 소스 #llmops 프로젝트는 63,649개의 스타를 받은 BerriAI/litellm입니다. 가장 빠르고 가벼운 AI 게이트웨이. Rust 코어와 Python SDK. OpenAI(또는 네이티브) 형식으로 100개 이상의 LLM API를 호출하며 비용 추적, 가드레일, 로드 밸런싱 및 로깅 지원 [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]

2

#llmops 저장소에서 가장 많이 사용되는 프로그래밍 언어는 무엇인가요?

GitHub에서 순위가 가장 높은 #llmops 프로젝트 중 가장 일반적으로 사용되는 프로그래밍 언어는 Python, TypeScript, Jupyter Notebook, Rust입니다.

3

#llmops 저장소 순위는 어떻게 계산되나요?

#llmops 태그가 지정된 활성 오픈 소스 저장소(111개, 스타 500개 이상)를 추적하고 있습니다. 총 스타 수는 716,901개이며 저장소당 평균 6,458개입니다. 순위는 GitHub API를 통해 매일 업데이트됩니다.