#llmops Repositories
Entdecke 111 aktive Open-Source-GitHub-Repositories, die mit #llmops getaggt sind und insgesamt 716,901 Sterne gesammelt haben (durchschnittlich 6,458 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist BerriAI/litellm mit 63,649 Sternen.
Insgesamt 111 Repositories
Das schnellste, leichteste AI-Gateway. Rust-Kern mit Python-SDK. Rufen Sie über 100 LLM-APIs im OpenAI- (oder nativen) Format auf mit Kostenverfolgung, Schutzmaßnahmen, Lastausgleich und Protokollierung [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]
Lernen Sie, wie man produktionsreife ML-Anwendungen entwickelt, bereitstellt und iteriert.
🪢 Open-Source-Plattform für KI-Engineering: AI Gateway, Agenten-Observability, Evaluierungen sowie Prompt- und Skill-Management, basierend auf OpenTelemetry. Eine offene Plattform für jeden KI-Aufruf und jeden Agenten. Selbst hosten oder Langfuse Cloud nutzen.
Composio versorgt über 1000 Toolkits, Tool-Suche, Kontextmanagement, Authentifizierung und eine isolierte Arbeitsumgebung, um Ihnen dabei zu helfen, KI-Agenten zu entwickeln, die Absichten in Handlungen umsetzen.
Die Open-Source-KI-Ingenieurplattform für Agenten, LLMs und ML-Modelle. MLflow ermöglicht es Teams aller Größen, produktionsreife KI-Anwendungen zu debuggen, auszuwerten, zu überwachen und zu optimieren, während Kosten kontrolliert und der Zugriff auf Modelle und Daten verwaltet wird.
Testen Sie Ihre Prompts, Agenten und RAGs. Red Teaming/Pentesting/Schwachstellenanalyse für KI. Vergleichen Sie die Leistung von GPT, Claude, Gemini, DeepSeek und mehr. Einfache deklarative Konfigurationen mit Befehlszeilen- und CI/CD-Integration. Wird von OpenAI und Anthropic verwendet.
Dieses Projekt zielt darauf ab, die technischen Prinzipien und praktischen Erfahrungen im Zusammenhang mit großen Modellen zu teilen (Industrialisierung großer Modelle, praktische Anwendung großer Modelle).
Debuggen, bewerten und überwachen Sie Ihre LLM-Anwendungen, RAG-Systeme und agentenbasierten Workflows mit umfassendem Tracing, automatisierten Bewertungen und produktionsreifen Dashboards.
🚀 Eine kuratierte Sammlung von Ressourcen, Roadmaps, Tools und Projekten für KI-Engineering mit den Themen LLMs, RAG, KI-Agenten, MCP, Fine-Tuning, Evaluierungen und KI-Systeme im Produktivbetrieb.
RocketRide ist ein Open-Source-KI-Meta-Harness mit der einzigen auf C++ basierenden Laufzeitumgebung auf Enterprise-Niveau. Entwickeln, testen und veröffentlichen Sie langlebige Agenten, die in der Produktion skalieren.
<⚡️> SuperAGI - Ein entwicklerzentriertes Open-Source-Framework für autonome KI-Agenten. Ermöglicht Entwicklern, nützliche autonome Agenten schnell und zuverlässig zu erstellen, zu verwalten und auszuführen.
Python SDK für Agent AI Observability, Monitoring und Evaluation Framework. Enthält Funktionen wie Agenten-, LLM- und Tool-Tracing, Debugging von Multi-Agenten-Systemen, ein selbst gehostetes Dashboard und erweiterte Analysen mit Zeitachsen- und Ausführungsdiagrammansicht.
Ein ultraschnelles AI-Gateway mit integrierten Schutzschwellen. Routing zu über 1.600 LLMs, über 50 AI-Schutzschwellen mit 1 schnellem & freundlichem API.
Führen Sie beliebige Open-Source-LLMs wie DeepSeek und Llama als OpenAI-kompatiblen API-Endpunkt in der Cloud aus.
BISHENG ist eine Open-Source-Agent-Plattform für Unternehmen, mit der sich KI-Anwendungen erstellen, bereitstellen und verwalten lassen. Sie vereint KI-Agenten, Workflows, RAG und Wissensmanagement, die Integration von Desktop-Agenten sowie das Hosting von Vibecoding-Apps mit einheitlichem Modellmanagement, Evaluierung, Observability, Zugriffskontrolle und Unternehmensverwaltung.
TensorZero ist eine Open-Source-LLMOps-Plattform, die ein LLM-Gateway, Observability, Evaluierung, Optimierung und Experimentierung vereint.
Feinabstimmung von LLMs aus einem YAML. Layer-Streaming trainiert ein 8B-Modell auf einer 4-GB-Laptop-GPU.
Der einfachste Weg, AI-Apps und -Modelle zu hosten - Erstellen Sie Model Inference APIs, Job-Warteschlangen, LLM-Apps, Multi-Model-Pipelines und mehr!
Evidently ist ein Open-Source-Framework für ML- und LLM-Observability. Bewerten, testen und überwachen Sie jedes KI-gestützte System oder jede Datenpipeline. Von tabellarischen Daten bis zu Gen AI. Über 100 Metriken.
Open-Source-Observability für Ihre GenAI- oder LLM-Anwendung, basierend auf OpenTelemetry
Plano ist ein KI-nativer Proxy-Server und eine Datenebene für agentische Anwendungen. Intelligentes LLM-Routing, Beobachtbarkeit, Agentenorchestrierung und Schutzmechanismen, damit Sie sich auf die Kernlogik Ihrer Agenten konzentrieren können.
ClearML - Auto-magisches CI/CD zur Vereinfachung Ihrer AI-Workload. Experiment Management, Data Management, Pipeline, Orchestration, Scheduling & Serving in einer MLOps/LLMOps-Lösung
Stellen Sie KI-Agenten in Minuten, nicht in Monaten, in Google Cloud bereit. Produktionsreife Vorlagen mit integrierter CI/CD, Evaluierung und Beobachtbarkeit.
🧊 Open-Source LLM-Observability-Plattform. Eine Codezeile zum Überwachen, Bewerten und Experimentieren. YC W23 🍓
Eine fantastische & kuratierte Liste der besten LLMOps-Tools für Entwickler
Next-Generation KI-Agenten-Optimierungsplattform: Cozeloop adressiert Herausforderungen in der KI-Agentenentwicklung, indem es umfassende Managementfunktionen für den gesamten Lebenszyklus von der Entwicklung, dem Debugging und der Evaluierung bis zur Überwachung bietet.
Der praktische Leitfaden für LLMs: Von den Grundlagen bis zur Bereitstellung fortschrittlicher LLM- und RAG-Apps auf AWS unter Anwendung von LLMOps-Best Practices
Superduper: End-to-End-Framework zum Erstellen benutzerdefinierter KI-Anwendungen und -Agenten.
Dieses Tool wurde veraltet. Verwenden Sie stattdessen Agentic Document Extraction.
cube studio Open-Source Cloud-Native One-Stop Machine Learning/Deep Learning/Large Model AI Platform, MLOps Algorithmus-Link Ganzprozess, Rechenleistung-Leihplattform, Notebook Online-Entwicklung, Drag-and-Drop-Aufgabenfluss-Pipeline-Orchestrierung, Multi-Machine-Multi-GPU-verteiltes Training, Hyperparameter-Suche, Inferenzdienst VGPU-Virtualisierung, Edge Computing, Annotationsplattform-Automatisierte-Annotation, Large Model SFT Fine-Tuning/Reward Model/Reinforcement Learning Training von Deepseek usw., Multi-Machine-Inferenz von Large Models wie vLLM/Ollama/MindSpore, Private Knowledge Base, AI Model Marketplace, Unterstützung für heimische CPU/GPU/NPU Ascend-Ökosystem, Unterstützung für RDMA, Unterstützung für verteilte Frameworks wie PyTorch/TF/MXNet/DeepSpeed/Paddle/ColossalAI/Horovod/Ray/Volcano
Open-Source-Agentenobservability und -Evaluierung für KI-Plattformteams. Verfolgen, testen, routen und verwalten Sie jeden Agenten und Programmierassistenten im Unternehmen.
🤖 𝗟𝗲𝗮𝗿𝗻 Sie kostenlos, wie Sie mit den Best Practices von 𝗟𝗟𝗠𝗢𝗽𝘀 ein End-to-End-System für 𝗟𝗟𝗠 & 𝗥𝗔𝗚 in Produktionsqualität erstellen: ~ 𝘴𝘰𝘶𝘳𝘤𝘦 𝘤𝘰𝘥𝘦 + 12 praktisc h e L e k t i o n e n
RAG (Retrieval Augmented Generation) Framework zum Erstellen modularer Open-Source-Anwendungen für die Produktion von TrueFoundry
Multi-LoRA-Inferenzserver, der bis zu Tausende von feinabgestimmten LLMs skaliert
Laminar – Open-Source-Observability-Plattform, die speziell für KI-Agenten entwickelt wurde. YC S24.
🕹️ Open-Source, Entwickler-zentrierte LLMOps-Plattform, die für die Optimierung von Prompt-Design, Versionsverwaltung, sofortiger Bereitstellung, Zusammenarbeit, Fehlerbehebung, Beobachtbarkeit und mehr entwickelt wurde.
AGiXT ist eine dynamische KI-Agenten-Automatisierungsplattform, die die Instruktionsverwaltung und die Ausführung komplexer Aufgaben über verschiedene KI-Anbieter hinweg nahtlos orchestriert. Durch die Kombination von adaptivem Gedächtnis, intelligenten Funktionen und einem vielseitigen Plugin-System liefert AGiXT effiziente und umfassende KI-Lösungen.
Lernen Sie, Ihren Second Brain KI-Assistenten mit LLMs, Agenten, RAG, Fine-Tuning, LLMOps und KI-Systemtechniken zu erstellen.
Derselbe Agent, eine kleinere Rechnung. Die Tools und die Infrastruktur, mit denen deine KI mehr leisten kann. Weniger Tokens. Weniger Rechenaufwand. Geringere Kosten.
Häufig gestellte Fragen
Welches ist das beliebteste #llmops-Repository auf GitHub?
Das am höchsten eingestufte Open-Source-#llmops-Projekt auf GitHub ist BerriAI/litellm mit 63,649 Sternen. Das schnellste, leichteste AI-Gateway. Rust-Kern mit Python-SDK. Rufen Sie über 100 LLM-APIs im OpenAI- (oder nativen) Format auf mit Kostenverfolgung, Schutzmaßnahmen, Lastausgleich und Protokollierung [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]
Welche Programmiersprachen werden in #llmops-Repositories am häufigsten verwendet?
Unter den am höchsten eingestuften #llmops-Projekten auf GitHub sind Python, TypeScript, Jupyter Notebook, Rust die am häufigsten verwendeten Programmiersprachen.
Wie wird das Ranking der #llmops-Repositories berechnet?
Wir verfolgen 111 aktive Open-Source-Repositories, die mit #llmops getaggt sind (500+ Sterne), mit insgesamt 716,901 Sternen und durchschnittlich 6,458 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.