Git Stars Git Stars

#llmops 저장소

111
총 리포지토리
716,901
총 별점
6,458
리포지토리당 평균 스타 수

저장소 총 111개

51
ianarawjo/ChainForge

LLM에 대한 프롬프트를 실전 테스트하기 위한 오픈 소스 시각적 프로그래밍 환경입니다.

ianarawjo
⭐ 3,044 TypeScript 👤 ianarawjo User 🕐 업데이트됨 2026-10-29 📅 생성됨 2023-03-26
52
OpenPipe/OpenPipe

비싼 프롬프트를 저렴한 파인튜닝 모델로 전환하세요

OpenPipe
⭐ 2,763 TypeScript 👤 OpenPipe Organization 🕐 업데이트됨 2024-05-25 📅 생성됨 2023-06-20
53
apache/hamilton

Apache Hamilton은 데이터 과학자와 엔지니어가 계보/추적 및 메타데이터를 인코딩하는 테스트 가능한 모듈식 자체 문서화 데이터 흐름을 정의하도록 돕습니다. 파이썬이 실행되는 모든 곳에서 실행되고 확장됩니다.

apache
⭐ 2,631 Jupyter Notebook 👤 apache Organization 🕐 업데이트됨 2026-11-16 📅 생성됨 2023-02-23
54
data-infra/cube-studio

CubeStudio는 오픈 소스 클라우드 네이티브 올인원 머신러닝/딥러닝/대규모 모델 AI 플랫폼/MaaS/MLOps/인공지능 플랫폼/훈련 및 추론 플랫폼으로, 알고리즘 전체 파이프라인, 멀티 테넌시, 컴퓨팅 파워 임대 플랫폼, 토큰 중계, 드래그 앤 드롭 작업 흐름 파이프라인 오케스트레이션, 다중 머신 다중 카드 분산 훈련, 하이퍼파라미터 검색, 추론 서비스, VGPU 가상화, 클라우드-엣지-디바이스 협업, 엣지 컴퓨팅, 자동 주석 플랫폼, DeepSeek 등 대규모 모델의 SFT 미세 조정/보상 모델/강화 학습 훈련, vLLM/Ollama/MindIE를 사용한 대규모 모델 다중 머신 추론, 개인 지식 베이스 LLMOps 에이전트, AI 모델 마켓, 국내 이기종 컴퓨팅 파워 스케줄링 지원(昇騰, 寒武紀, 海光, Moore Threads, 沐曦 등), IB/RoCE/RDMA 지원, 신창 지원을 포함합니다.

data-infra
⭐ 2,615 Python 👤 data-infra User 🕐 업데이트됨 2026-10-12 📅 생성됨 2024-07-02
55
apache/burr

결정하는 애플리케이션(챗봇, 에이전트, 시뮬레이션 등)을 구축하세요. 자체 인프라에서 모니터링, 추적, 지속 및 실행하세요.

apache
⭐ 2,608 Python 👤 apache Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2024-01-29
56
bionic-gpt/bionic-gpt

Bionic은 기업을 위한 주권형 에이전틱 AI입니다. 온프레미스에서 실행되며 민감한 데이터와 시스템을 안전하게 활용할 수 있습니다.

bionic-gpt
⭐ 2,411 Rust 👤 bionic-gpt Organization 🕐 업데이트됨 2026-11-17 📅 생성됨 2023-07-07
57
dot-agent/nextpy

🤖미래에서 온 자가 수정 프레임워크 🔮 세계 최초 AMS

dot-agent
⭐ 2,338 Python 👤 dot-agent Organization 🕐 업데이트됨 2024-05-01 📅 생성됨 2023-08-07
58
uptrain-ai/uptrain

UpTrain은 생성형 AI 애플리케이션을 평가하고 개선하기 위한 오픈 소스 통합 플랫폼입니다. 저희는 20개 이상의 사전 구성된 검사(언어, 코드, 임베딩 사용 사례 포함)에 대한 등급을 제공하고, 실패 사례에 대한 근본 원인 분석을 수행하며, 문제 해결 방법에 대한 통찰력을 제공합니다.

uptrain-ai
⭐ 2,337 Python 👤 uptrain-ai Organization 🕐 업데이트됨 2024-08-18 📅 생성됨 2022-11-07
59
future-agi/future-agi

오픈소스 엔드투엔드 플랫폼으로 LLM 및 AI 에이전트 애플리케이션을 평가, 관찰 및 개선합니다. Tracing · Evals · Simulations · Datasets · Gateway · Guardrails. 셀프 호스팅 가능. Apache 2.0.

future-agi
⭐ 2,284 Python 👤 future-agi Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2026-04-23
60
tensorchord/envd

🏕️ 인간과 에이전트를 위한 재현 가능한 개발 환경

tensorchord
⭐ 2,249 Go 👤 tensorchord Organization 🕐 업데이트됨 2026-11-19 📅 생성됨 2022-04-11
61
trypromptly/LLMStack

귀하의 데이터로 LLM 에이전트, 워크플로 및 애플리케이션을 구축하기 위한 노코드 멀티에이전트 프레임워크

trypromptly
⭐ 2,245 Python 👤 trypromptly Organization 🕐 업데이트됨 2024-12-11 📅 생성됨 2023-08-06
62
ShenSeanChen/waku-agent

Waku Agent는 여러분이 소유하는 오픈 소스 AI 에이전트 하네스입니다. 루프, 메모리, 평가, 그리고 항상 작동하는 레이어(이벤트 받은편지함, 타이머, 승인, 보낼편지함)를 제공하며, 코드는 읽기 쉬운 상태로 유지됩니다.

ShenSeanChen
⭐ 2,206 Python 👤 ShenSeanChen User 🕐 업데이트됨 2026-11-21 📅 생성됨 2026-07-10
63
mcp-router/mcp-router

통합 MCP 서버 관리 앱 (MCP Manager).

mcp-router
⭐ 2,149 TypeScript 👤 mcp-router Organization 🕐 업데이트됨 2026-08-03 📅 생성됨 2025-03-22
64
microsoft/aici

AICI: (Wasm) 프로그램으로서의 프롬프트

microsoft
⭐ 2,077 Rust 👤 microsoft Organization 🕐 업데이트됨 2025-01-22 📅 생성됨 2023-09-26
65
supervc-stack/VectorChord

Postgres에서 확장 가능하고 빠르며 디스크 친화적인 벡터 검색, pgvecto.rs의 후속 버전입니다.

supervc-stack
⭐ 1,842 Rust 👤 supervc-stack User 🕐 업데이트됨 2026-08-06 📅 생성됨 2024-09-03
66
intentee/paddler

오픈소스 LLM/VLM 로드 밸런서 및 서빙 플랫폼. LLM(및 VLM)을 대규모로 셀프 호스팅하기 위한 🏓🦙 llm-d, Docker Model Runner 등의 프로젝트 대안이지만, 움직이는 부품이 적고 ggml 생태계 중심의 간단한 배포. CPU와 GPU에서 실행됩니다.

intentee
⭐ 1,694 Rust 👤 intentee Organization 🕐 업데이트됨 2026-11-11 📅 생성됨 2024-04-27
67
AgentEra/Agently

[GenAI 애플리케이션 개발 프레임워크] 🚀 GenAI 애플리케이션을 쉽고 빠르게 구축 💬 구조화된 데이터와 연결된 호출 구문을 사용하여 코드로 GenAI 에이전트와 쉽게 상호 작용 🧩 이벤트 기반 흐름 *TriggerFlow*를 사용하여 복잡한 GenAI 작업 로직 관리 🔀 애플리케이션 코드를 다시 작성하지 않고 모든 모델로 전환

AgentEra
⭐ 1,673 Python 👤 AgentEra Organization 🕐 업데이트됨 2026-11-12 📅 생성됨 2023-06-30
68
langwatch/better-agents

에이전트 구축 표준, 더 나은

langwatch
⭐ 1,562 TypeScript 👤 langwatch Organization 🕐 업데이트됨 2026-06-03 📅 생성됨 2025-04-19
69
alibaba/rtp-llm

RTP-LLM: 다양한 애플리케이션을 위한 Alibaba의 고성능 LLM 추론 엔진.

alibaba
⭐ 1,402 Python 👤 alibaba Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2023-12-27
70
Arize-ai/openinference

AI 관측성을 위한 OpenTelemetry 계측

Arize-ai
⭐ 1,333 Python 👤 Arize-ai Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2023-12-26
71
KusionStack/kusion

내부 개발자 플랫폼(IDP)을 위한 선언적 의도 기반 플랫폼 오케스트레이터.

KusionStack
⭐ 1,322 Go 👤 KusionStack Organization 🕐 업데이트됨 2026-10-30 📅 생성됨 2022-05-05
72
SmythOS/sre

SmythOS 런타임 환경(SRE)은 에이전트 AI를 위한 오픈 소스 클라우드 네이티브 런타임입니다. 안전하고 모듈식이며 프로덕션 준비가 되어 있어 개발자가 로컬, 클라우드 및 엣지 환경 전반에서 지능형 에이전트를 구축, 실행 및 관리할 수 있도록 합니다.

SmythOS
⭐ 1,305 TypeScript 👤 SmythOS Organization 🕐 업데이트됨 2026-04-03 📅 생성됨 2025-06-07
73
plurai-ai/intellagent

시뮬레이션된 실제 합성 상호 작용을 사용하여 에이전트를 포괄적으로 진단하고 최적화하기 위한 프레임워크

plurai-ai
⭐ 1,266 Python 👤 plurai-ai Organization 🕐 업데이트됨 2026-09-14 📅 생성됨 2024-10-28
74
e2b-dev/awesome-ai-sdks

자율 AI 에이전트를 생성, 모니터링, 디버깅 및 배포하기 위한 SDK, 프레임워크, 라이브러리 및 도구 데이터베이스

e2b-dev
⭐ 1,241 👤 e2b-dev Organization 🕐 업데이트됨 2026-07-09 📅 생성됨 2023-08-05
75
Scale3-Labs/langtrace

Langtrace 🔍는 LLM 애플리케이션을 위한 오픈 소스, Open Telemetry 기반 엔드투엔드 관찰 도구로, 인기 있는 LLM, LLM 프레임워크, 벡터DB 등을 위한 실시간 추적, 평가 및 메트릭을 제공합니다. Typescript, Python을 사용하여 통합하세요. 🚀💻📊

Scale3-Labs
⭐ 1,236 TypeScript 👤 Scale3-Labs Organization 🕐 업데이트됨 2025-11-17 📅 생성됨 2024-03-30
76
Ricky-7-Yan/intelligent-audit-system

AuditPilot: 증거 기반 워크플로우, 관리 도구, 평가 하네스, 인간 검토 및 시정 조치 전달을 위한 감사 가능한 엔터프라이즈 AI 에이전트.

Ricky-7-Yan
⭐ 1,182 Python 👤 Ricky-7-Yan User 🕐 업데이트됨 2026-11-05 📅 생성됨 2025-10-28
77
Jwuthri/Tracely-ai

AI 에이전트를 위한 트레이스 네이티브 CI/CD — 프로덕션 장애를 PR을 차단하는 회귀 테스트로 전환합니다. 자동 감지·클러스터링 후 격리된 테스트 케이스로 고정하고 CI에서 무료로 재생합니다.

Jwuthri
⭐ 1,122 Python 👤 Jwuthri User 🕐 업데이트됨 2026-11-21 📅 생성됨 2026-06-03
78
datadreamer-dev/DataDreamer

DataDreamer: 프롬프트. 합성 데이터 생성. 모델 훈련 및 정렬.   🤖💤

datadreamer-dev
⭐ 1,112 Python 👤 datadreamer-dev Organization 🕐 업데이트됨 2025-02-02 📅 생성됨 2023-06-02
79
prometheus-eval/prometheus-eval

Prometheus와 GPT4로 LLM의 응답을 평가하세요 💯

prometheus-eval
⭐ 1,087 Python 👤 prometheus-eval Organization 🕐 업데이트됨 2025-04-25 📅 생성됨 2024-04-18
80
dynamiq-ai/dynamiq

Dynamiq은 에이전트 기반 AI 및 LLM 애플리케이션을 위한 오케스트레이션 프레임워크입니다.

dynamiq-ai
⭐ 1,072 Python 👤 dynamiq-ai Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2024-09-26
81
ajndkr/lanarky

LLM 마이크로서비스 구축을 위한 웹 프레임워크 [사용 중단됨]

ajndkr
⭐ 996 Python 👤 ajndkr User 🕐 업데이트됨 2024-07-06 📅 생성됨 2023-04-07
82
respanai/respan-gateway

Rust로 만든 오픈 소스 LLM 게이트웨이. 하나의 엔드포인트로 OpenAI, Anthropic, Gemini 및 그 밖의 모든 공급자를 지원합니다. 모든 SDK, 모델, 도구를 사용할 수 있습니다.

respanai
⭐ 975 Rust 👤 respanai Organization 🕐 업데이트됨 2026-11-20 📅 생성됨 2026-09-25
83
mozilla-ai/otari

직접 운영하는 오픈소스 AI 게이트웨이. 하나의 엔드포인트로 40개 이상의 제공업체를 이용하고, 가상 키와 예산 및 사용량을 관리할 수 있습니다.

mozilla-ai
⭐ 959 Python 👤 mozilla-ai Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2026-04-02
84
msoedov/langcorn

⛓️ FastApi를 사용하여 LangChain LLM 앱 및 에이전트를 자동으로 제공합니다. LLMops

msoedov
⭐ 936 Python 👤 msoedov User 🕐 업데이트됨 2024-07-15 📅 생성됨 2023-04-14
85
onlyphantom/llm-python

Langchain, OpenAI, LlamaIndex, GPT, ChromaDB & Pinecone 활용 대규모 언어 모델(LLM) 튜토리얼 및 샘플 스크립트

onlyphantom
⭐ 932 Jupyter Notebook 👤 onlyphantom User 🕐 업데이트됨 2026-11-13 📅 생성됨 2023-04-06
86
getmetal/motorhead

🧠 Motorhead는 LLM을 위한 메모리 및 정보 검색 서버입니다.

getmetal
⭐ 915 Rust 👤 getmetal Organization 🕐 업데이트됨 2026-11-16 📅 생성됨 2023-03-29
87
callmesora/llmops-python-package

유연하고 강력하며 생산적인 Python 패키지로 LLMOps 이니셔티브를 시작하십시오.

callmesora
⭐ 897 Python 👤 callmesora User 🕐 업데이트됨 2025-02-13 📅 생성됨 2024-12-10
88
santifer/cv-santiago

AI 채팅 통합 인터랙티브 CV. React 19, TypeScript, Claude API로 제작. 내 경험에 대해 내 AI 아바타와 채팅하세요.

santifer
⭐ 871 HTML 👤 santifer User 🕐 업데이트됨 2026-11-12 📅 생성됨 2026-01-23
89
NeumTry/NeumAI

Neum AI는 대규모 벡터 임베딩의 생성 및 동기화를 관리하는 최고 수준의 프레임워크입니다.

NeumTry
⭐ 864 Python 👤 NeumTry Organization 🕐 업데이트됨 2024-01-15 📅 생성됨 2023-09-14
90
jwuthri-cloud/Tracely-ai

AI 에이전트를 위한 트레이스 네이티브 CI/CD: 프로덕션 트레이스를 평가하고, 실패를 클러스터링해 재생 가능한 회귀 테스트로 고정하며, 회귀를 유발하는 PR을 차단합니다. 자체 호스팅 가능.

jwuthri-cloud
⭐ 850 Python 👤 jwuthri-cloud User 🕐 업데이트됨 2026-11-16 📅 생성됨 2026-10-11
91
bosun-ai/swiftide

Rust에서의 빠르고 스트리밍 가능한 인덱싱, 쿼리 및 에이전트 LLM 애플리케이션

bosun-ai
⭐ 805 Rust 👤 bosun-ai Organization 🕐 업데이트됨 2026-11-20 📅 생성됨 2024-06-09
92
Abilityai/trinity

AI 네이티브 기업을 위한 자체 호스팅 AI 에이전트 플랫폼. Claude Code, Codex, Gemini, OpenCode 에이전트 지원. Apache 2.0.

Abilityai
⭐ 792 Python 👤 Abilityai Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2025-12-10
94
overmind-core/overmind

AI 에이전트를 지속적으로 개선하는 플랫폼.

overmind-core
⭐ 771 Python 👤 overmind-core Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2026-03-27
95
Azure-Samples/contoso-chat

이 샘플은 Prompty 및 Azure AI Foundry를 사용하여 RAG 애플리케이션을 만드는 전체 End2End 프로세스를 제공합니다. GPT-4 LLM 애플리케이션 코드, 평가, AZD CLI를 사용한 배포 자동화, 평가 및 배포를 위한 GitHub 작업, 여러 LLM 작업 매핑을 위한 의도 매핑을 포함합니다.

Azure-Samples
⭐ 762 Bicep 👤 Azure-Samples Organization 🕐 업데이트됨 2025-10-03 📅 생성됨 2023-11-29
96
morsoli/llm-books

LLM을 활용한 애플리케이션 구축 실습 노트

morsoli
⭐ 761 Python 👤 morsoli User 🕐 업데이트됨 2024-11-29 📅 생성됨 2023-06-12
97
mikehasa/agentacct

코딩 에이전트가 수행한 작업과 비용을 확인하세요. 각 작업을 작업 단계(사용된 도구, 변경된 파일, 실행된 테스트, 소요된 시간 및 토큰)로 세분화합니다. Claude Code, Codex, OpenCode 등을 위한 로컬 우선 대시보드입니다. 로그인 불필요, 원격 측정 없음.

mikehasa
⭐ 757 Python 👤 mikehasa User 🕐 업데이트됨 2026-10-03 📅 생성됨 2026-07-24
98
calmrocks/ai-engineer-notebooks

AI 엔지니어 / 포워드 디플로이드 엔지니어(FDE) 역량을 위한 프레임워크 없는 실습형 Colab 노트북 — 모델 API, 구조화된 출력, 툴 호출, RAG, 평가 중심 아키텍처(evals-as-the-spine), 에이전트(바닥부터 구축하는 루프, 툴 설계, 가드레일, MCP, Skills), 파인튜닝 vs LoRA, 프롬프트 인젝션/보안, LLMOps 및 고객 맞춤형 엔지니어링. 무료 Groq API에서 실행됩니다.

calmrocks
⭐ 756 Jupyter Notebook 👤 calmrocks User 🕐 업데이트됨 2026-11-07 📅 생성됨 2026-08-11
99
Haohao-end/openagent

OpenAI Deep Research와 Dify가 하나의 플랫폼이라면? OpenAgent — 깊은 추론 루프, 시각적 워크플로우, RAG 및 A2A 위임을 갖춘 수직적 AI 에이전트를 신속하게 구축하기 위한 하네스 아키텍처.

Haohao-end
⭐ 756 Python 👤 Haohao-end User 🕐 업데이트됨 2026-11-21 📅 생성됨 2025-06-20
100
liguodongiot/llm-resource

LLM 풀스택 우수 자료 모음

liguodongiot
⭐ 723 Shell 👤 liguodongiot User 🕐 업데이트됨 2025-07-15 📅 생성됨 2023-08-27