Git Stars Git Stars

#llmops Repositories

Entdecke 111 aktive Open-Source-GitHub-Repositories, die mit #llmops getaggt sind und insgesamt 716,901 Sterne gesammelt haben (durchschnittlich 6,458 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist BerriAI/litellm mit 63,649 Sternen.

111
Gesamtzahl der Repositories
716,901
Gesamtanzahl der Sterne
6,458
Durchschnittliche Sterne/Repo

Insgesamt 111 Repositories

1
BerriAI/litellm

Das schnellste, leichteste AI-Gateway. Rust-Kern mit Python-SDK. Rufen Sie über 100 LLM-APIs im OpenAI- (oder nativen) Format auf mit Kostenverfolgung, Schutzmaßnahmen, Lastausgleich und Protokollierung [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]

BerriAI
⭐ 63,649 Python 👤 BerriAI Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2023-07-27
2
GokuMohandas/Made-With-ML

Lernen Sie, wie man produktionsreife ML-Anwendungen entwickelt, bereitstellt und iteriert.

GokuMohandas
⭐ 50,112 Jupyter Notebook 👤 GokuMohandas User 🕐 Aktualisiert 2026-03-04 📅 Erstellt 2018-11-05
3
langfuse/langfuse

🪢 Open-Source-Plattform für KI-Engineering: AI Gateway, Agenten-Observability, Evaluierungen sowie Prompt- und Skill-Management, basierend auf OpenTelemetry. Eine offene Plattform für jeden KI-Aufruf und jeden Agenten. Selbst hosten oder Langfuse Cloud nutzen.

langfuse
⭐ 37,696 TypeScript 👤 langfuse Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2023-05-18
4
ComposioHQ/composio

Composio versorgt über 1000 Toolkits, Tool-Suche, Kontextmanagement, Authentifizierung und eine isolierte Arbeitsumgebung, um Ihnen dabei zu helfen, KI-Agenten zu entwickeln, die Absichten in Handlungen umsetzen.

ComposioHQ
⭐ 31,218 TypeScript 👤 ComposioHQ Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2024-02-23
5
mlflow/mlflow

Die Open-Source-KI-Ingenieurplattform für Agenten, LLMs und ML-Modelle. MLflow ermöglicht es Teams aller Größen, produktionsreife KI-Anwendungen zu debuggen, auszuwerten, zu überwachen und zu optimieren, während Kosten kontrolliert und der Zugriff auf Modelle und Daten verwaltet wird.

mlflow
⭐ 28,920 Python 👤 mlflow Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2018-06-05
6
promptfoo/promptfoo

Testen Sie Ihre Prompts, Agenten und RAGs. Red Teaming/Pentesting/Schwachstellenanalyse für KI. Vergleichen Sie die Leistung von GPT, Claude, Gemini, DeepSeek und mehr. Einfache deklarative Konfigurationen mit Befehlszeilen- und CI/CD-Integration. Wird von OpenAI und Anthropic verwendet.

promptfoo
⭐ 27,516 TypeScript 👤 promptfoo Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2023-04-28
7
liguodongiot/llm-action

Dieses Projekt zielt darauf ab, die technischen Prinzipien und praktischen Erfahrungen im Zusammenhang mit großen Modellen zu teilen (Industrialisierung großer Modelle, praktische Anwendung großer Modelle).

liguodongiot
⭐ 25,297 HTML 👤 liguodongiot User 🕐 Aktualisiert 2026-10-14 📅 Erstellt 2023-05-23
8
comet-ml/opik

Debuggen, bewerten und überwachen Sie Ihre LLM-Anwendungen, RAG-Systeme und agentenbasierten Workflows mit umfassendem Tracing, automatisierten Bewertungen und produktionsreifen Dashboards.

comet-ml
⭐ 23,479 Java 👤 comet-ml Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2023-05-10
9
dipakkr/awesome-ai-engineering

🚀 Eine kuratierte Sammlung von Ressourcen, Roadmaps, Tools und Projekten für KI-Engineering mit den Themen LLMs, RAG, KI-Agenten, MCP, Fine-Tuning, Evaluierungen und KI-Systeme im Produktivbetrieb.

dipakkr
⭐ 22,611 👤 dipakkr User 🕐 Aktualisiert 2026-10-21 📅 Erstellt 2018-09-17
10
jina-ai/serve

☁️ Erstellen Sie multimodale KI-Anwendungen mit einem Cloud-Native-Stack

jina-ai
⭐ 21,864 Python 👤 jina-ai Organization 🕐 Aktualisiert 2025-03-24 📅 Erstellt 2020-02-13
11
rocketride-org/rocketride-server

RocketRide ist ein Open-Source-KI-Meta-Harness mit der einzigen auf C++ basierenden Laufzeitumgebung auf Enterprise-Niveau. Entwickeln, testen und veröffentlichen Sie langlebige Agenten, die in der Produktion skalieren.

rocketride-org
⭐ 20,003 Python 👤 rocketride-org Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2026-02-11
12
TransformerOptimus/SuperAGI

<⚡️> SuperAGI - Ein entwicklerzentriertes Open-Source-Framework für autonome KI-Agenten. Ermöglicht Entwicklern, nützliche autonome Agenten schnell und zuverlässig zu erstellen, zu verwalten und auszuführen.

TransformerOptimus
⭐ 17,556 Python 👤 TransformerOptimus Organization 🕐 Aktualisiert 2025-01-22 📅 Erstellt 2023-05-13
13
vibrantlabsai/ragas

Beschleunigen Sie Ihre LLM-Anwendungsbewertungen 🚀

vibrantlabsai
⭐ 16,395 Python 👤 vibrantlabsai Organization 🕐 Aktualisiert 2026-11-14 📅 Erstellt 2023-05-08
14
raga-ai-hub/RagaAI-Catalyst

Python SDK für Agent AI Observability, Monitoring und Evaluation Framework. Enthält Funktionen wie Agenten-, LLM- und Tool-Tracing, Debugging von Multi-Agenten-Systemen, ein selbst gehostetes Dashboard und erweiterte Analysen mit Zeitachsen- und Ausführungsdiagrammansicht.

raga-ai-hub
⭐ 16,193 Python 👤 raga-ai-hub Organization 🕐 Aktualisiert 2026-02-11 📅 Erstellt 2024-08-26
15
Portkey-AI/gateway

Ein ultraschnelles AI-Gateway mit integrierten Schutzschwellen. Routing zu über 1.600 LLMs, über 50 AI-Schutzschwellen mit 1 schnellem & freundlichem API.

Portkey-AI
⭐ 13,424 TypeScript 👤 Portkey-AI Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2023-08-23
16
bentoml/OpenLLM

Führen Sie beliebige Open-Source-LLMs wie DeepSeek und Llama als OpenAI-kompatiblen API-Endpunkt in der Cloud aus.

bentoml
⭐ 12,610 Python 👤 bentoml Organization 🕐 Aktualisiert 2026-11-16 📅 Erstellt 2023-04-19
17
dataelement/bisheng

BISHENG ist eine Open-Source-Agent-Plattform für Unternehmen, mit der sich KI-Anwendungen erstellen, bereitstellen und verwalten lassen. Sie vereint KI-Agenten, Workflows, RAG und Wissensmanagement, die Integration von Desktop-Agenten sowie das Hosting von Vibecoding-Apps mit einheitlichem Modellmanagement, Evaluierung, Observability, Zugriffskontrolle und Unternehmensverwaltung.

dataelement
⭐ 12,391 Python 👤 dataelement Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2023-08-28
18
Arize-ai/phoenix

KI-Beobachtbarkeit & Bewertung

Arize-ai
⭐ 12,368 Python 👤 Arize-ai Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2022-11-09
19
tensorzero/tensorzero

TensorZero ist eine Open-Source-LLMOps-Plattform, die ein LLM-Gateway, Observability, Evaluierung, Optimierung und Experimentierung vereint.

tensorzero
⭐ 11,456 Rust 👤 tensorzero Organization 🕐 Aktualisiert 2026-06-11 📅 Erstellt 2024-07-16
20
MakazhanAlpamys/Soup

Feinabstimmung von LLMs aus einem YAML. Layer-Streaming trainiert ein 8B-Modell auf einer 4-GB-Laptop-GPU.

MakazhanAlpamys
⭐ 10,703 Python 👤 MakazhanAlpamys User 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2026-02-20
21
Netflix/metaflow

AI/ML-Systeme erstellen, verwalten und bereitstellen

Netflix
⭐ 10,355 Python 👤 Netflix Organization 🕐 Aktualisiert 2026-11-19 📅 Erstellt 2019-09-17
22
0xPlaygrounds/rig

⚙️🦀 Modulare und skalierbare LLM-Anwendungen in Rust erstellen

0xPlaygrounds
⭐ 9,209 Rust 👤 0xPlaygrounds Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2024-06-05
23
bentoml/BentoML

Der einfachste Weg, AI-Apps und -Modelle zu hosten - Erstellen Sie Model Inference APIs, Job-Warteschlangen, LLM-Apps, Multi-Model-Pipelines und mehr!

bentoml
⭐ 8,944 Python 👤 bentoml Organization 🕐 Aktualisiert 2026-11-17 📅 Erstellt 2019-04-02
24
evidentlyai/evidently

Evidently ist ein Open-Source-Framework für ML- und LLM-Observability. Bewerten, testen und überwachen Sie jedes KI-gestützte System oder jede Datenpipeline. Von tabellarischen Daten bis zu Gen AI. Über 100 Metriken.

evidentlyai
⭐ 8,073 Jupyter Notebook 👤 evidentlyai Organization 🕐 Aktualisiert 2026-09-29 📅 Erstellt 2020-11-25
25
traceloop/openllmetry

Open-Source-Observability für Ihre GenAI- oder LLM-Anwendung, basierend auf OpenTelemetry

traceloop
⭐ 7,546 Python 👤 traceloop Organization 🕐 Aktualisiert 2026-11-19 📅 Erstellt 2023-09-02
26
katanemo/plano

Plano ist ein KI-nativer Proxy-Server und eine Datenebene für agentische Anwendungen. Intelligentes LLM-Routing, Beobachtbarkeit, Agentenorchestrierung und Schutzmechanismen, damit Sie sich auf die Kernlogik Ihrer Agenten konzentrieren können.

katanemo
⭐ 7,118 Rust 👤 katanemo Organization 🕐 Aktualisiert 2026-10-24 📅 Erstellt 2024-07-09
27
clearml/clearml

ClearML - Auto-magisches CI/CD zur Vereinfachung Ihrer AI-Workload. Experiment Management, Data Management, Pipeline, Orchestration, Scheduling & Serving in einer MLOps/LLMOps-Lösung

clearml
⭐ 6,943 Python 👤 clearml Organization 🕐 Aktualisiert 2026-11-03 📅 Erstellt 2019-06-10
28
GoogleCloudPlatform/agent-starter-pack

Stellen Sie KI-Agenten in Minuten, nicht in Monaten, in Google Cloud bereit. Produktionsreife Vorlagen mit integrierter CI/CD, Evaluierung und Beobachtbarkeit.

GoogleCloudPlatform
⭐ 6,575 Python 👤 GoogleCloudPlatform Organization 🕐 Aktualisiert 2026-07-21 📅 Erstellt 2025-01-31
29
Helicone/helicone

🧊 Open-Source LLM-Observability-Plattform. Eine Codezeile zum Überwachen, Bewerten und Experimentieren. YC W23 🍓

Helicone
⭐ 6,292 TypeScript 👤 Helicone Organization 🕐 Aktualisiert 2026-11-17 📅 Erstellt 2023-01-31
30
tensorchord/Awesome-LLMOps

Eine fantastische & kuratierte Liste der besten LLMOps-Tools für Entwickler

tensorchord
⭐ 5,979 Shell 👤 tensorchord Organization 🕐 Aktualisiert 2026-11-16 📅 Erstellt 2022-04-15
31
Giskard-AI/giskard-oss

🐢 Open-Source-Evaluierungs- und Testbibliothek für LLM-Agenten

Giskard-AI
⭐ 5,965 Python 👤 Giskard-AI Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2022-03-06
32
coze-dev/coze-loop

Next-Generation KI-Agenten-Optimierungsplattform: Cozeloop adressiert Herausforderungen in der KI-Agentenentwicklung, indem es umfassende Managementfunktionen für den gesamten Lebenszyklus von der Entwicklung, dem Debugging und der Evaluierung bis zur Überwachung bietet.

coze-dev
⭐ 5,799 Go 👤 coze-dev Organization 🕐 Aktualisiert 2026-11-17 📅 Erstellt 2025-06-24
33
zenml-io/zenml

ZenML 🙏: Eine KI-Plattform, von Pipelines bis zu Agenten. https://zenml.io.

zenml-io
⭐ 5,636 Python 👤 zenml-io Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2020-11-19
34
PacktPublishing/LLM-Engineers-Handbook

Der praktische Leitfaden für LLMs: Von den Grundlagen bis zur Bereitstellung fortschrittlicher LLM- und RAG-Apps auf AWS unter Anwendung von LLMOps-Best Practices

PacktPublishing
⭐ 5,438 Python 👤 PacktPublishing Organization 🕐 Aktualisiert 2026-04-22 📅 Erstellt 2024-04-09
35
superduper-io/superduper

Superduper: End-to-End-Framework zum Erstellen benutzerdefinierter KI-Anwendungen und -Agenten.

superduper-io
⭐ 5,317 Python 👤 superduper-io Organization 🕐 Aktualisiert 2025-09-01 📅 Erstellt 2022-08-30
36
landing-ai/vision-agent

Dieses Tool wurde veraltet. Verwenden Sie stattdessen Agentic Document Extraction.

landing-ai
⭐ 5,297 Python 👤 landing-ai Organization 🕐 Aktualisiert 2026-01-29 📅 Erstellt 2024-02-13
37
tencentmusic/cube-studio

cube studio Open-Source Cloud-Native One-Stop Machine Learning/Deep Learning/Large Model AI Platform, MLOps Algorithmus-Link Ganzprozess, Rechenleistung-Leihplattform, Notebook Online-Entwicklung, Drag-and-Drop-Aufgabenfluss-Pipeline-Orchestrierung, Multi-Machine-Multi-GPU-verteiltes Training, Hyperparameter-Suche, Inferenzdienst VGPU-Virtualisierung, Edge Computing, Annotationsplattform-Automatisierte-Annotation, Large Model SFT Fine-Tuning/Reward Model/Reinforcement Learning Training von Deepseek usw., Multi-Machine-Inferenz von Large Models wie vLLM/Ollama/MindSpore, Private Knowledge Base, AI Model Marketplace, Unterstützung für heimische CPU/GPU/NPU Ascend-Ökosystem, Unterstützung für RDMA, Unterstützung für verteilte Frameworks wie PyTorch/TF/MXNet/DeepSpeed/Paddle/ColossalAI/Horovod/Ray/Volcano

tencentmusic
⭐ 5,085 👤 tencentmusic Organization 🕐 Aktualisiert 2026-10-09 📅 Erstellt 2021-08-17
38
langwatch/langwatch

Open-Source-Agentenobservability und -Evaluierung für KI-Plattformteams. Verfolgen, testen, routen und verwalten Sie jeden Agenten und Programmierassistenten im Unternehmen.

langwatch
⭐ 5,050 TypeScript 👤 langwatch Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2023-09-09
39
itsdecodingai/llm-twin-course

🤖 𝗟𝗲𝗮𝗿𝗻 Sie kostenlos, wie Sie mit den Best Practices von 𝗟𝗟𝗠𝗢𝗽𝘀 ein End-to-End-System für 𝗟𝗟𝗠 & 𝗥𝗔𝗚 in Produktionsqualität erstellen: ~ 𝘴𝘰𝘶𝘳𝘤𝘦 𝘤𝘰𝘥𝘦 + 12 praktisc h e L e k t i o n e n

itsdecodingai
⭐ 4,413 Python 👤 itsdecodingai Organization 🕐 Aktualisiert 2026-04-20 📅 Erstellt 2024-03-08
40
truefoundry/cognita

RAG (Retrieval Augmented Generation) Framework zum Erstellen modularer Open-Source-Anwendungen für die Produktion von TrueFoundry

truefoundry
⭐ 4,329 Python 👤 truefoundry Organization 🕐 Aktualisiert 2026-02-23 📅 Erstellt 2023-07-26
41
predibase/lorax

Multi-LoRA-Inferenzserver, der bis zu Tausende von feinabgestimmten LLMs skaliert

predibase
⭐ 3,836 Python 👤 predibase Organization 🕐 Aktualisiert 2026-05-28 📅 Erstellt 2023-10-20
42
memodb-io/Acontext

Agentenfähigkeiten als Speicherschicht

memodb-io
⭐ 3,697 JavaScript 👤 memodb-io Organization 🕐 Aktualisiert 2026-07-14 📅 Erstellt 2025-07-16
43
truera/trulens

Bewertung und Verfolgung von LLM-Experimenten und KI-Agenten

truera
⭐ 3,665 Python 👤 truera Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2020-11-02
44
lmnr-ai/lmnr

Laminar – Open-Source-Observability-Plattform, die speziell für KI-Agenten entwickelt wurde. YC S24.

lmnr-ai
⭐ 3,516 TypeScript 👤 lmnr-ai Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2024-08-29
45
pezzolabs/pezzo

🕹️ Open-Source, Entwickler-zentrierte LLMOps-Plattform, die für die Optimierung von Prompt-Design, Versionsverwaltung, sofortiger Bereitstellung, Zusammenarbeit, Fehlerbehebung, Beobachtbarkeit und mehr entwickelt wurde.

pezzolabs
⭐ 3,287 TypeScript 👤 pezzolabs Organization 🕐 Aktualisiert 2026-11-08 📅 Erstellt 2023-04-22
46
Josh-XT/AGiXT

AGiXT ist eine dynamische KI-Agenten-Automatisierungsplattform, die die Instruktionsverwaltung und die Ausführung komplexer Aufgaben über verschiedene KI-Anbieter hinweg nahtlos orchestriert. Durch die Kombination von adaptivem Gedächtnis, intelligenten Funktionen und einem vielseitigen Plugin-System liefert AGiXT effiziente und umfassende KI-Lösungen.

Josh-XT
⭐ 3,214 Python 👤 Josh-XT User 🕐 Aktualisiert 2026-07-28 📅 Erstellt 2023-04-17
47
protectai/llm-guard

Das Sicherheitswerkzeug für LLM-Interaktionen

protectai
⭐ 3,156 Python 👤 protectai Organization 🕐 Aktualisiert 2025-12-15 📅 Erstellt 2023-07-27
48
itsdecodingai/second-brain-ai-assistant-course

Lernen Sie, Ihren Second Brain KI-Assistenten mit LLMs, Agenten, RAG, Fine-Tuning, LLMOps und KI-Systemtechniken zu erstellen.

itsdecodingai
⭐ 3,138 Jupyter Notebook 👤 itsdecodingai Organization 🕐 Aktualisiert 2026-04-06 📅 Erstellt 2024-12-30
49
vllm-project/vllm-ascend

Von der Community gepflegtes Hardware-Plugin für vLLM auf Huawei Ascend

vllm-project
⭐ 3,128 Python 👤 vllm-project Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2025-01-29
50
openlit/openlit

Derselbe Agent, eine kleinere Rechnung. Die Tools und die Infrastruktur, mit denen deine KI mehr leisten kann. Weniger Tokens. Weniger Rechenaufwand. Geringere Kosten.

openlit
⭐ 3,094 TypeScript 👤 openlit Organization 🕐 Aktualisiert 2026-11-19 📅 Erstellt 2024-01-23

Häufig gestellte Fragen

1

Welches ist das beliebteste #llmops-Repository auf GitHub?

Das am höchsten eingestufte Open-Source-#llmops-Projekt auf GitHub ist BerriAI/litellm mit 63,649 Sternen. Das schnellste, leichteste AI-Gateway. Rust-Kern mit Python-SDK. Rufen Sie über 100 LLM-APIs im OpenAI- (oder nativen) Format auf mit Kostenverfolgung, Schutzmaßnahmen, Lastausgleich und Protokollierung [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]

2

Welche Programmiersprachen werden in #llmops-Repositories am häufigsten verwendet?

Unter den am höchsten eingestuften #llmops-Projekten auf GitHub sind Python, TypeScript, Jupyter Notebook, Rust die am häufigsten verwendeten Programmiersprachen.

3

Wie wird das Ranking der #llmops-Repositories berechnet?

Wir verfolgen 111 aktive Open-Source-Repositories, die mit #llmops getaggt sind (500+ Sterne), mit insgesamt 716,901 Sternen und durchschnittlich 6,458 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.