#llmops 저장소
#llmops 태그가 지정된 GitHub의 활성 오픈 소스 저장소 111개를 확인해 보세요. 총 716,901개의 스타를 획득했으며 프로젝트당 평균 6,458개입니다. 이 주제를 이끄는 저장소는 63,649개의 스타를 받은 BerriAI/litellm입니다.
저장소 총 111개
가장 빠르고 가벼운 AI 게이트웨이. Rust 코어와 Python SDK. OpenAI(또는 네이티브) 형식으로 100개 이상의 LLM API를 호출하며 비용 추적, 가드레일, 로드 밸런싱 및 로깅 지원 [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]
🪢 OpenTelemetry 기반의 오픈소스 AI 엔지니어링 플랫폼: AI 게이트웨이, 에이전트 옵저버빌리티, 평가, 프롬프트/스킬 관리 기능을 제공합니다. 모든 AI 호출과 에이전트를 위한 하나의 오픈 플랫폼입니다. 직접 호스팅하거나 Langfuse Cloud를 사용하세요.
Composio는 1000개 이상의 툴킷, 툴 검색, 컨텍스트 관리, 인증 및 샌드박스형 작업대를 지원하여, 의도를 행동으로 전환하는 AI 에이전트 구축을 돕습니다.
에이전트, LLM, ML 모델을 위한 오픈 소스 AI 엔지니어링 플랫폼. MLflow는 모든 규모의 팀이 프로덕션 품질의 AI 애플리케이션을 디버그, 평가, 모니터링, 최적화할 수 있게 하며 비용을 제어하고 모델 및 데이터 액세스를 관리합니다.
프롬프트, 에이전트, RAG를 테스트하세요. AI를 위한 레드팀/펜테스팅/취약점 스캔을 수행합니다. GPT, Claude, Gemini, DeepSeek 등의 성능을 비교하세요. 명령줄 및 CI/CD 통합을 지원하는 간단한 선언적 구성을 제공합니다. OpenAI와 Anthropic에서 사용 중입니다.
포괄적인 추적, 자동화된 평가 및 프로덕션 준비 대시보드를 사용하여 LLM 애플리케이션, RAG 시스템 및 에이전트 워크플로를 디버깅, 평가 및 모니터링하십시오.
🚀 LLM, RAG, AI 에이전트, MCP, 파인튜닝, 평가 및 프로덕션 AI 시스템을 아우르는 AI 엔지니어링 리소스, 로드맵, 도구 및 프로젝트 엄선 모음.
RocketRide는 C++로 구축된 유일한 엔터프라이즈급 런타임을 갖춘 오픈 소스 AI 메타 하네스입니다. 프로덕션 환경에서 확장 가능한 지속성 에이전트를 구축하고, 테스트하고, 배포하세요.
<⚡️> SuperAGI - 개발자 우선 오픈 소스 자율 AI 에이전트 프레임워크. 개발자가 유용한 자율 에이전트를 빠르고 안정적으로 구축, 관리 및 실행할 수 있도록 지원합니다.
Agent AI 관찰 가능성, 모니터링 및 평가 프레임워크를 위한 Python SDK. 에이전트, llm 및 도구 추적, 다중 에이전트 시스템 디버깅, 자체 호스팅 대시보드 및 타임라인과 실행 그래프 보기를 포함한 고급 분석과 같은 기능이 포함되어 있습니다.
BISHENG은 AI 애플리케이션을 구축, 배포 및 관리하기 위한 오픈 소스 엔터프라이즈 Agent 플랫폼입니다. AI 에이전트, 워크플로, RAG 및 지식 관리, 데스크톱 에이전트 통합, vibecoding 앱 호스팅을 통합 모델 관리, 평가, 옵저버빌리티, 액세스 제어 및 엔터프라이즈 관리 기능과 결합합니다.
Evidently는 오픈 소스 ML 및 LLM 관찰 프레임워크입니다. 모든 AI 기반 시스템 또는 데이터 파이프라인을 평가, 테스트 및 모니터링하세요. 테이블 형식 데이터부터 Gen AI까지. 100개 이상의 지표.
Plano는 에이전트 앱을 위한 AI 네이티브 프록시 서버 및 데이터 플레인입니다. 스마트 LLM 라우팅, 관찰 가능성, 에이전트 오케스트레이션 및 가드레일을 제공하여 에이전트의 핵심 로직에 집중할 수 있도록 합니다.
ClearML - AI 워크로드를 간소화하는 자동 마법 같은 CI/CD. 실험 관리, 데이터 관리, 파이프라인, 오케스트레이션, 스케줄링 및 서빙을 하나의 MLOps/LLMOps 솔루션에서
AI 에이전트를 몇 달이 아닌 몇 분 만에 Google Cloud에 배포하십시오. CI/CD, 평가 및 관측 가능성이 내장된 프로덕션 준비 템플릿.
차세대 AI 에이전트 최적화 플랫폼: Cozeloop은 개발, 디버깅, 평가부터 모니터링까지 전체 수명 주기 관리 기능을 제공하여 AI 에이전트 개발의 과제를 해결합니다.
LLM 실무 가이드: 기본 개념부터 AWS에 고급 LLM 및 RAG 앱 배포까지 LLMOps 모범 사례 활용
cube studio 오픈소스 클라우드 네이티브 올인원 머신러닝/딥러닝/대규모 모델 AI 플랫폼, MLOps 알고리즘 링크 전체 프로세스, 컴퓨팅 파워 대여 플랫폼, 노트북 온라인 개발, 드래그 앤 드롭 작업 흐름 파이프라인 오케스트레이션, 다중 머신 다중 GPU 분산 학습, 하이퍼파라미터 검색, 추론 서비스 VGPU 가상화, 엣지 컴퓨팅, 주석 플랫폼 자동화 주석, Deepseek 등 대규모 모델 SFT 미세 조정/보상 모델/강화 학습 훈련, vLLM/Ollama/MindSpore 등 대규모 모델 다중 머신 추론, 비공개 지식 베이스, AI 모델 마켓, 국산 CPU/GPU/NPU Ascend 생태계 지원, RDMA 지원, PyTorch/TF/MXNet/DeepSpeed/Paddle/ColossalAI/Horovod/Ray/Volcano 등 분산 지원
AI 플랫폼 팀을 위한 오픈 소스 에이전트 관측성과 평가. 회사의 모든 에이전트와 코딩 어시스턴트를 추적하고, 테스트하고, 라우팅하고, 거버넌스하세요.
🤖 𝗟𝗟𝗠𝗢𝗽𝘀 모범 사례를 사용하여 종단 간 프로덕션 준비 𝗟𝗟𝗠 및 𝗥𝗔𝗚 시스템을 구축하는 방법을 무료로 𝗔𝗽𝗽𝗿𝗲𝗻𝗲𝘇: ~ 𝘴𝘰𝘶𝘳𝘤𝘦 𝘤𝘰𝘥𝘦 + 12 व्यावहारिक 𝐥𝐞ç𝐨𝐧𝐬
🕹️ 프롬프트 디자인, 버전 관리, 즉시 배포, 협업, 문제 해결, 관찰 가능성 등을 간소화하도록 설계된 오픈 소스, 개발자 우선 LLMOps 플랫폼입니다.
AGiXT는 다양한 AI 공급자 간의 지침 관리 및 복잡한 작업 실행을 원활하게 조정하는 동적인 AI 에이전트 자동화 플랫폼입니다. 적응형 메모리, 스마트 기능 및 다목적 플러그인 시스템을 결합한 AGiXT는 효율적이고 포괄적인 AI 솔루션을 제공합니다.
LLM, 에이전트, RAG, 미세 조정, LLMOps 및 AI 시스템 기술을 사용하여 Second Brain AI 어시스턴트를 구축하는 방법을 알아보세요.
자주 묻는 질문
GitHub에서 가장 인기 있는 #llmops 저장소는 무엇인가요?
GitHub에서 가장 높은 순위의 오픈 소스 #llmops 프로젝트는 63,649개의 스타를 받은 BerriAI/litellm입니다. 가장 빠르고 가벼운 AI 게이트웨이. Rust 코어와 Python SDK. OpenAI(또는 네이티브) 형식으로 100개 이상의 LLM API를 호출하며 비용 추적, 가드레일, 로드 밸런싱 및 로깅 지원 [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]
#llmops 저장소에서 가장 많이 사용되는 프로그래밍 언어는 무엇인가요?
GitHub에서 순위가 가장 높은 #llmops 프로젝트 중 가장 일반적으로 사용되는 프로그래밍 언어는 Python, TypeScript, Jupyter Notebook, Rust입니다.
#llmops 저장소 순위는 어떻게 계산되나요?
#llmops 태그가 지정된 활성 오픈 소스 저장소(111개, 스타 500개 이상)를 추적하고 있습니다. 총 스타 수는 716,901개이며 저장소당 평균 6,458개입니다. 순위는 GitHub API를 통해 매일 업데이트됩니다.