#llmops 저장소
저장소 총 111개
Apache Hamilton은 데이터 과학자와 엔지니어가 계보/추적 및 메타데이터를 인코딩하는 테스트 가능한 모듈식 자체 문서화 데이터 흐름을 정의하도록 돕습니다. 파이썬이 실행되는 모든 곳에서 실행되고 확장됩니다.
CubeStudio는 오픈 소스 클라우드 네이티브 올인원 머신러닝/딥러닝/대규모 모델 AI 플랫폼/MaaS/MLOps/인공지능 플랫폼/훈련 및 추론 플랫폼으로, 알고리즘 전체 파이프라인, 멀티 테넌시, 컴퓨팅 파워 임대 플랫폼, 토큰 중계, 드래그 앤 드롭 작업 흐름 파이프라인 오케스트레이션, 다중 머신 다중 카드 분산 훈련, 하이퍼파라미터 검색, 추론 서비스, VGPU 가상화, 클라우드-엣지-디바이스 협업, 엣지 컴퓨팅, 자동 주석 플랫폼, DeepSeek 등 대규모 모델의 SFT 미세 조정/보상 모델/강화 학습 훈련, vLLM/Ollama/MindIE를 사용한 대규모 모델 다중 머신 추론, 개인 지식 베이스 LLMOps 에이전트, AI 모델 마켓, 국내 이기종 컴퓨팅 파워 스케줄링 지원(昇騰, 寒武紀, 海光, Moore Threads, 沐曦 등), IB/RoCE/RDMA 지원, 신창 지원을 포함합니다.
UpTrain은 생성형 AI 애플리케이션을 평가하고 개선하기 위한 오픈 소스 통합 플랫폼입니다. 저희는 20개 이상의 사전 구성된 검사(언어, 코드, 임베딩 사용 사례 포함)에 대한 등급을 제공하고, 실패 사례에 대한 근본 원인 분석을 수행하며, 문제 해결 방법에 대한 통찰력을 제공합니다.
오픈소스 엔드투엔드 플랫폼으로 LLM 및 AI 에이전트 애플리케이션을 평가, 관찰 및 개선합니다. Tracing · Evals · Simulations · Datasets · Gateway · Guardrails. 셀프 호스팅 가능. Apache 2.0.
Waku Agent는 여러분이 소유하는 오픈 소스 AI 에이전트 하네스입니다. 루프, 메모리, 평가, 그리고 항상 작동하는 레이어(이벤트 받은편지함, 타이머, 승인, 보낼편지함)를 제공하며, 코드는 읽기 쉬운 상태로 유지됩니다.
오픈소스 LLM/VLM 로드 밸런서 및 서빙 플랫폼. LLM(및 VLM)을 대규모로 셀프 호스팅하기 위한 🏓🦙 llm-d, Docker Model Runner 등의 프로젝트 대안이지만, 움직이는 부품이 적고 ggml 생태계 중심의 간단한 배포. CPU와 GPU에서 실행됩니다.
[GenAI 애플리케이션 개발 프레임워크] 🚀 GenAI 애플리케이션을 쉽고 빠르게 구축 💬 구조화된 데이터와 연결된 호출 구문을 사용하여 코드로 GenAI 에이전트와 쉽게 상호 작용 🧩 이벤트 기반 흐름 *TriggerFlow*를 사용하여 복잡한 GenAI 작업 로직 관리 🔀 애플리케이션 코드를 다시 작성하지 않고 모든 모델로 전환
SmythOS 런타임 환경(SRE)은 에이전트 AI를 위한 오픈 소스 클라우드 네이티브 런타임입니다. 안전하고 모듈식이며 프로덕션 준비가 되어 있어 개발자가 로컬, 클라우드 및 엣지 환경 전반에서 지능형 에이전트를 구축, 실행 및 관리할 수 있도록 합니다.
Langtrace 🔍는 LLM 애플리케이션을 위한 오픈 소스, Open Telemetry 기반 엔드투엔드 관찰 도구로, 인기 있는 LLM, LLM 프레임워크, 벡터DB 등을 위한 실시간 추적, 평가 및 메트릭을 제공합니다. Typescript, Python을 사용하여 통합하세요. 🚀💻📊
AuditPilot: 증거 기반 워크플로우, 관리 도구, 평가 하네스, 인간 검토 및 시정 조치 전달을 위한 감사 가능한 엔터프라이즈 AI 에이전트.
AI 에이전트를 위한 트레이스 네이티브 CI/CD — 프로덕션 장애를 PR을 차단하는 회귀 테스트로 전환합니다. 자동 감지·클러스터링 후 격리된 테스트 케이스로 고정하고 CI에서 무료로 재생합니다.
Rust로 만든 오픈 소스 LLM 게이트웨이. 하나의 엔드포인트로 OpenAI, Anthropic, Gemini 및 그 밖의 모든 공급자를 지원합니다. 모든 SDK, 모델, 도구를 사용할 수 있습니다.
직접 운영하는 오픈소스 AI 게이트웨이. 하나의 엔드포인트로 40개 이상의 제공업체를 이용하고, 가상 키와 예산 및 사용량을 관리할 수 있습니다.
Langchain, OpenAI, LlamaIndex, GPT, ChromaDB & Pinecone 활용 대규모 언어 모델(LLM) 튜토리얼 및 샘플 스크립트
AI 채팅 통합 인터랙티브 CV. React 19, TypeScript, Claude API로 제작. 내 경험에 대해 내 AI 아바타와 채팅하세요.
AI 에이전트를 위한 트레이스 네이티브 CI/CD: 프로덕션 트레이스를 평가하고, 실패를 클러스터링해 재생 가능한 회귀 테스트로 고정하며, 회귀를 유발하는 PR을 차단합니다. 자체 호스팅 가능.
AI 네이티브 기업을 위한 자체 호스팅 AI 에이전트 플랫폼. Claude Code, Codex, Gemini, OpenCode 에이전트 지원. Apache 2.0.
이 샘플은 Prompty 및 Azure AI Foundry를 사용하여 RAG 애플리케이션을 만드는 전체 End2End 프로세스를 제공합니다. GPT-4 LLM 애플리케이션 코드, 평가, AZD CLI를 사용한 배포 자동화, 평가 및 배포를 위한 GitHub 작업, 여러 LLM 작업 매핑을 위한 의도 매핑을 포함합니다.
코딩 에이전트가 수행한 작업과 비용을 확인하세요. 각 작업을 작업 단계(사용된 도구, 변경된 파일, 실행된 테스트, 소요된 시간 및 토큰)로 세분화합니다. Claude Code, Codex, OpenCode 등을 위한 로컬 우선 대시보드입니다. 로그인 불필요, 원격 측정 없음.
AI 엔지니어 / 포워드 디플로이드 엔지니어(FDE) 역량을 위한 프레임워크 없는 실습형 Colab 노트북 — 모델 API, 구조화된 출력, 툴 호출, RAG, 평가 중심 아키텍처(evals-as-the-spine), 에이전트(바닥부터 구축하는 루프, 툴 설계, 가드레일, MCP, Skills), 파인튜닝 vs LoRA, 프롬프트 인젝션/보안, LLMOps 및 고객 맞춤형 엔지니어링. 무료 Groq API에서 실행됩니다.
OpenAI Deep Research와 Dify가 하나의 플랫폼이라면? OpenAgent — 깊은 추론 루프, 시각적 워크플로우, RAG 및 A2A 위임을 갖춘 수직적 AI 에이전트를 신속하게 구축하기 위한 하네스 아키텍처.