Git Stars Git Stars

#llmops Repository

Scopri 111 repository GitHub open source attivi contrassegnati con #llmops, che raccolgono un totale di 716,901 stelle (con una media di 6,458 stelle per progetto). Il progetto leader di questo argomento è BerriAI/litellm, con 63,649 stelle.

111
Totale Repository
716,901
Totale stelle
6,458
Media Stelle/Repo

111 repository in totale

1
BerriAI/litellm

Il gateway AI più veloce e leggero. Nucleo Rust con SDK Python. Chiama oltre 100 API LLM in formato OpenAI (o nativo) con monitoraggio dei costi, protezioni, bilanciamento del carico e registrazione [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]

BerriAI
⭐ 63,649 Python 👤 BerriAI Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2023-07-27
2
GokuMohandas/Made-With-ML

Impara a sviluppare, distribuire e iterare applicazioni ML di livello produttivo.

GokuMohandas
⭐ 50,112 Jupyter Notebook 👤 GokuMohandas User 🕐 Aggiornato 2026-03-04 📅 Creato 2018-11-05
3
langfuse/langfuse

🪢 Piattaforma open source per l’ingegneria dell’IA: AI Gateway, osservabilità degli agenti, valutazioni e gestione di prompt e competenze, basata su OpenTelemetry. Un’unica piattaforma aperta per ogni chiamata IA e ogni agente. Puoi ospitarla autonomamente o usare Langfuse Cloud.

langfuse
⭐ 37,696 TypeScript 👤 langfuse Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2023-05-18
4
ComposioHQ/composio

Composio alimenta più di 1000 kit di strumenti, ricerca di strumenti, gestione del contesto, autenticazione e una postazione di lavoro sandbox per aiutarti a creare agenti IA che trasformano l'intenzione in azione.

ComposioHQ
⭐ 31,218 TypeScript 👤 ComposioHQ Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2024-02-23
5
mlflow/mlflow

La piattaforma di ingegneria IA open source per agenti, LLM e modelli ML. MLflow consente a team di tutte le dimensioni di debuggare, valutare, monitorare e ottimizzare applicazioni IA di qualità produttiva controllando i costi e gestendo l'accesso a modelli e dati.

mlflow
⭐ 28,920 Python 👤 mlflow Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2018-06-05
6
promptfoo/promptfoo

Testa i tuoi prompt, agenti e RAG. Red teaming/pentesting/scansione delle vulnerabilità per l'IA. Confronta le prestazioni di GPT, Claude, Gemini, DeepSeek e altri. Configurazioni dichiarative semplici con integrazione da riga di comando e CI/CD. Utilizzato da OpenAI e Anthropic.

promptfoo
⭐ 27,516 TypeScript 👤 promptfoo Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2023-04-28
7
liguodongiot/llm-action

Questo progetto mira a condividere i principi tecnici e le esperienze pratiche relative ai modelli di grandi dimensioni (ingegnerizzazione di grandi modelli, applicazione pratica di grandi modelli).

liguodongiot
⭐ 25,297 HTML 👤 liguodongiot User 🕐 Aggiornato 2026-10-14 📅 Creato 2023-05-23
8
comet-ml/opik

Esegui il debug, valuta e monitora le tue applicazioni LLM, i sistemi RAG e i flussi di lavoro agentic con tracing completo, valutazioni automatizzate e dashboard pronti per la produzione.

comet-ml
⭐ 23,479 Java 👤 comet-ml Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2023-05-10
9
dipakkr/awesome-ai-engineering

🚀 Una raccolta selezionata di risorse, roadmap, strumenti e progetti di ingegneria dell’IA che comprende LLM, RAG, agenti IA, MCP, fine-tuning, valutazioni e sistemi di IA in produzione.

dipakkr
⭐ 22,611 👤 dipakkr User 🕐 Aggiornato 2026-10-21 📅 Creato 2018-09-17
10
jina-ai/serve

☁️ Crea applicazioni AI multimodali con uno stack cloud-native

jina-ai
⭐ 21,864 Python 👤 jina-ai Organization 🕐 Aggiornato 2025-03-24 📅 Creato 2020-02-13
11
rocketride-org/rocketride-server

RocketRide è un meta-harness di IA open source con l’unico runtime di livello enterprise basato su C++. Crea, testa e pubblica agenti duraturi in grado di scalare in produzione.

rocketride-org
⭐ 20,003 Python 👤 rocketride-org Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2026-02-11
12
TransformerOptimus/SuperAGI

<⚡️> SuperAGI - Un framework open source per agenti AI autonomi, orientato agli sviluppatori. Consente agli sviluppatori di creare, gestire ed eseguire agenti autonomi utili in modo rapido e affidabile.

TransformerOptimus
⭐ 17,556 Python 👤 TransformerOptimus Organization 🕐 Aggiornato 2025-01-22 📅 Creato 2023-05-13
13
vibrantlabsai/ragas

Potenzia le tue valutazioni di applicazioni LLM 🚀

vibrantlabsai
⭐ 16,395 Python 👤 vibrantlabsai Organization 🕐 Aggiornato 2026-11-14 📅 Creato 2023-05-08
14
raga-ai-hub/RagaAI-Catalyst

SDK Python per il Framework di Osservabilità, Monitoraggio e Valutazione dell'AI per Agenti. Include funzionalità come il tracciamento di agenti, LLM e strumenti, il debug di sistemi multi-agente, dashboard self-hosted e analisi avanzate con visualizzazione della timeline e del grafico di esecuzione.

raga-ai-hub
⭐ 16,193 Python 👤 raga-ai-hub Organization 🕐 Aggiornato 2026-02-11 📅 Creato 2024-08-26
15
Portkey-AI/gateway

Un gateway AI velocissimo con guardrail integrati. Routing verso oltre 1.600 LLM, oltre 50 guardrail AI con 1 API veloce e friendly.

Portkey-AI
⭐ 13,424 TypeScript 👤 Portkey-AI Organization 🕐 Aggiornato 2026-11-20 📅 Creato 2023-08-23
16
bentoml/OpenLLM

Esegui qualsiasi LLM open-source, come DeepSeek e Llama, come endpoint API compatibile con OpenAI nel cloud.

bentoml
⭐ 12,610 Python 👤 bentoml Organization 🕐 Aggiornato 2026-11-16 📅 Creato 2023-04-19
17
dataelement/bisheng

BISHENG è una piattaforma open source di agenti per le aziende, pensata per creare, distribuire e gestire applicazioni di IA. Riunisce agenti IA, flussi di lavoro, RAG e gestione della conoscenza, integrazione di agenti desktop e hosting di app vibecoding, con gestione unificata dei modelli, valutazione, osservabilità, controllo degli accessi e amministrazione aziendale.

dataelement
⭐ 12,391 Python 👤 dataelement Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2023-08-28
18
Arize-ai/phoenix

Osservabilità e Valutazione dell'IA

Arize-ai
⭐ 12,368 Python 👤 Arize-ai Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2022-11-09
19
tensorzero/tensorzero

TensorZero è una piattaforma open-source LLMOps che unifica un gateway LLM, osservabilità, valutazione, ottimizzazione e sperimentazione.

tensorzero
⭐ 11,456 Rust 👤 tensorzero Organization 🕐 Aggiornato 2026-06-11 📅 Creato 2024-07-16
20
MakazhanAlpamys/Soup

Affina i LLM da un singolo YAML. Lo streaming a livelli addestra un modello da 8B su una GPU per laptop da 4 GB.

MakazhanAlpamys
⭐ 10,703 Python 👤 MakazhanAlpamys User 🕐 Aggiornato 2026-11-21 📅 Creato 2026-02-20
21
Netflix/metaflow

Costruire, Gestire e Distribuire Sistemi AI/ML

Netflix
⭐ 10,355 Python 👤 Netflix Organization 🕐 Aggiornato 2026-11-19 📅 Creato 2019-09-17
22
0xPlaygrounds/rig

⚙️🦀 Crea applicazioni LLM modulari e scalabili in Rust

0xPlaygrounds
⭐ 9,209 Rust 👤 0xPlaygrounds Organization 🕐 Aggiornato 2026-11-20 📅 Creato 2024-06-05
23
bentoml/BentoML

Il modo più semplice per servire app e modelli AI - Costruisci API di inferenza del modello, code di lavoro, app LLM, pipeline multi-modello e altro!

bentoml
⭐ 8,944 Python 👤 bentoml Organization 🕐 Aggiornato 2026-11-17 📅 Creato 2019-04-02
24
evidentlyai/evidently

Evidently è un framework open-source per l'osservabilità di ML e LLM. Valuta, testa e monitora qualsiasi sistema basato sull'IA o pipeline dati. Dai dati tabellari a Gen AI. Oltre 100 metriche.

evidentlyai
⭐ 8,073 Jupyter Notebook 👤 evidentlyai Organization 🕐 Aggiornato 2026-09-29 📅 Creato 2020-11-25
25
traceloop/openllmetry

Osservabilità open-source per la tua applicazione GenAI o LLM, basata su OpenTelemetry

traceloop
⭐ 7,546 Python 👤 traceloop Organization 🕐 Aggiornato 2026-11-19 📅 Creato 2023-09-02
26
katanemo/plano

Plano è un server proxy nativo AI e un piano dati per applicazioni agentiche. Routing intelligente LLM, osservabilità, orchestrazione degli agenti e protezioni per permetterti di concentrarti sulla logica principale dei tuoi agenti.

katanemo
⭐ 7,118 Rust 👤 katanemo Organization 🕐 Aggiornato 2026-10-24 📅 Creato 2024-07-09
27
clearml/clearml

ClearML - CI/CD Auto-Magico per ottimizzare il tuo carico di lavoro AI. Gestione Esperimenti, Gestione Dati, Pipeline, Orchestrazione, Programmazione e Servizio in una soluzione MLOps/LLMOps

clearml
⭐ 6,943 Python 👤 clearml Organization 🕐 Aggiornato 2026-11-03 📅 Creato 2019-06-10
28
GoogleCloudPlatform/agent-starter-pack

Distribuisci Agenti IA su Google Cloud in minuti, non in mesi. Modelli pronti per la produzione con CI/CD, valutazione e osservabilità integrati.

GoogleCloudPlatform
⭐ 6,575 Python 👤 GoogleCloudPlatform Organization 🕐 Aggiornato 2026-07-21 📅 Creato 2025-01-31
29
Helicone/helicone

🧊 Piattaforma open source per l'osservabilità di LLM. Una riga di codice per monitorare, valutare e sperimentare. YC W23 🍓

Helicone
⭐ 6,292 TypeScript 👤 Helicone Organization 🕐 Aggiornato 2026-11-17 📅 Creato 2023-01-31
30
tensorchord/Awesome-LLMOps

Un elenco fantastico e curato dei migliori strumenti LLMOps per sviluppatori

tensorchord
⭐ 5,979 Shell 👤 tensorchord Organization 🕐 Aggiornato 2026-11-16 📅 Creato 2022-04-15
31
Giskard-AI/giskard-oss

🐢 Libreria open-source per la valutazione e il test di agenti LLM

Giskard-AI
⭐ 5,965 Python 👤 Giskard-AI Organization 🕐 Aggiornato 2026-11-20 📅 Creato 2022-03-06
32
coze-dev/coze-loop

Piattaforma di ottimizzazione per agenti AI di nuova generazione: Cozeloop affronta le sfide nello sviluppo di agenti AI fornendo capacità di gestione dell'intero ciclo di vita, dallo sviluppo, al debug, alla valutazione fino al monitoraggio.

coze-dev
⭐ 5,799 Go 👤 coze-dev Organization 🕐 Aggiornato 2026-11-17 📅 Creato 2025-06-24
33
zenml-io/zenml

ZenML 🙏: Una piattaforma AI, dalle pipeline agli agenti. https://zenml.io.

zenml-io
⭐ 5,636 Python 👤 zenml-io Organization 🕐 Aggiornato 2026-11-20 📅 Creato 2020-11-19
34
PacktPublishing/LLM-Engineers-Handbook

La guida pratica ai LLM: Dalle basi all'implementazione di app LLM e RAG avanzate su AWS utilizzando le best practice di LLMOps

PacktPublishing
⭐ 5,438 Python 👤 PacktPublishing Organization 🕐 Aggiornato 2026-04-22 📅 Creato 2024-04-09
35
superduper-io/superduper

Superduper: Framework end-to-end per la creazione di applicazioni e agenti AI personalizzati.

superduper-io
⭐ 5,317 Python 👤 superduper-io Organization 🕐 Aggiornato 2025-09-01 📅 Creato 2022-08-30
36
landing-ai/vision-agent

Questo strumento è stato deprecato. Usa invece Agentic Document Extraction.

landing-ai
⭐ 5,297 Python 👤 landing-ai Organization 🕐 Aggiornato 2026-01-29 📅 Creato 2024-02-13
37
tencentmusic/cube-studio

cube studio Piattaforma AI Open-Source Cloud-Native One-Stop per Machine Learning/Deep Learning/Grandi Modelli, MLOps Flusso completo del link algoritmico, Piattaforma di noleggio di capacità computazionale, Sviluppo online Notebook, Orchestrazione di pipeline di flusso di task drag-and-drop, Addestramento distribuito multi-macchina multi-GPU, Ricerca di iperparametri, Virtualizzazione VGPU del servizio di inferenza, Edge Computing, Annotazione automatizzata della piattaforma di annotazione, Fine-tuning SFT di grandi modelli/Modello di ricompensa/Addestramento di apprendimento per rinforzo di Deepseek, Inferenza multi-macchina di grandi modelli come vLLM/Ollama/MindSpore, Knowledge Base privata, Mercato di modelli AI, Supporto per CPU/GPU/NPU domestici ecosistema Ascend, Supporto per RDMA, Supporto per framework distribuiti come PyTorch/TF/MXNet/DeepSpeed/Paddle/ColossalAI/Horovod/Ray/Volcano

tencentmusic
⭐ 5,085 👤 tencentmusic Organization 🕐 Aggiornato 2026-10-09 📅 Creato 2021-08-17
38
langwatch/langwatch

Osservabilità e valutazione open source degli agenti per i team di piattaforma AI. Traccia, testa, indirizza e governa ogni agente e assistente di programmazione dell’azienda.

langwatch
⭐ 5,050 TypeScript 👤 langwatch Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2023-09-09
39
itsdecodingai/llm-twin-course

🤖 𝗟𝗲𝗮𝗿𝗻 gratuitamente come costruire un sistema 𝗟𝗟𝗠 & 𝗥𝗔𝗚 end-to-end pronto per la produzione utilizzando le best practice di 𝗟𝗟𝗠𝗢𝗽𝘀: ~ 𝘴𝘰𝘶𝘳𝘤𝘦 𝘤𝘰𝘥𝘦 + 12 𝘭𝘦𝘻𝘪𝘰𝘯𝘪 pratiche

itsdecodingai
⭐ 4,413 Python 👤 itsdecodingai Organization 🕐 Aggiornato 2026-04-20 📅 Creato 2024-03-08
40
truefoundry/cognita

Framework RAG (Retrieval Augmented Generation) per la creazione di applicazioni open source modulari per la produzione di TrueFoundry

truefoundry
⭐ 4,329 Python 👤 truefoundry Organization 🕐 Aggiornato 2026-02-23 📅 Creato 2023-07-26
41
predibase/lorax

Server di inferenza Multi-LoRA che scala a migliaia di LLM ottimizzati

predibase
⭐ 3,836 Python 👤 predibase Organization 🕐 Aggiornato 2026-05-28 📅 Creato 2023-10-20
42
memodb-io/Acontext

Competenze dell'Agente come Strato di Memoria

memodb-io
⭐ 3,697 JavaScript 👤 memodb-io Organization 🕐 Aggiornato 2026-07-14 📅 Creato 2025-07-16
43
truera/trulens

Valutazione e monitoraggio per esperimenti LLM e agenti AI

truera
⭐ 3,665 Python 👤 truera Organization 🕐 Aggiornato 2026-11-20 📅 Creato 2020-11-02
44
lmnr-ai/lmnr

Laminar - piattaforma di osservabilità open source realizzata appositamente per gli agenti IA. YC S24.

lmnr-ai
⭐ 3,516 TypeScript 👤 lmnr-ai Organization 🕐 Aggiornato 2026-11-20 📅 Creato 2024-08-29
45
pezzolabs/pezzo

🕹️ Piattaforma LLMOps open-source, incentrata sugli sviluppatori, progettata per semplificare la progettazione dei prompt, la gestione delle versioni, la distribuzione istantanea, la collaborazione, la risoluzione dei problemi, l'osservabilità e altro ancora.

pezzolabs
⭐ 3,287 TypeScript 👤 pezzolabs Organization 🕐 Aggiornato 2026-11-08 📅 Creato 2023-04-22
46
Josh-XT/AGiXT

AGiXT è una piattaforma dinamica di automazione di agenti AI che orchestra senza soluzione di continuità la gestione delle istruzioni e l'esecuzione di compiti complessi su diversi provider AI. Combinando memoria adattiva, funzionalità intelligenti e un versatile sistema di plugin, AGiXT offre soluzioni AI efficienti e complete.

Josh-XT
⭐ 3,214 Python 👤 Josh-XT User 🕐 Aggiornato 2026-07-28 📅 Creato 2023-04-17
47
protectai/llm-guard

Il toolkit di sicurezza per le interazioni LLM

protectai
⭐ 3,156 Python 👤 protectai Organization 🕐 Aggiornato 2025-12-15 📅 Creato 2023-07-27
48
itsdecodingai/second-brain-ai-assistant-course

Impara a costruire il tuo assistente AI Second Brain con LLM, agenti, RAG, fine-tuning, LLMOps e tecniche per sistemi AI.

itsdecodingai
⭐ 3,138 Jupyter Notebook 👤 itsdecodingai Organization 🕐 Aggiornato 2026-04-06 📅 Creato 2024-12-30
49
vllm-project/vllm-ascend

Plugin hardware per vLLM su Huawei Ascend mantenuto dalla comunità

vllm-project
⭐ 3,128 Python 👤 vllm-project Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2025-01-29
50
openlit/openlit

Lo stesso agente, una spesa più bassa. Gli strumenti e l’infrastruttura per far fare di più alla tua IA. Meno token. Meno calcolo. Costi più bassi.

openlit
⭐ 3,094 TypeScript 👤 openlit Organization 🕐 Aggiornato 2026-11-19 📅 Creato 2024-01-23

Domande frequenti

1

Qual è il repository #llmops più popolare su GitHub?

Il progetto open source #llmops più alto in classifica su GitHub è BerriAI/litellm, con 63,649 stelle. Il gateway AI più veloce e leggero. Nucleo Rust con SDK Python. Chiama oltre 100 API LLM in formato OpenAI (o nativo) con monitoraggio dei costi, protezioni, bilanciamento del carico e registrazione [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]

2

Quali linguaggi di programmazione sono più utilizzati nei repository #llmops?

Tra i progetti #llmops più alti in classifica su GitHub, i linguaggi di programmazione più comuni sono Python, TypeScript, Jupyter Notebook, Rust.

3

Come viene calcolata la classifica dei repository #llmops?

Monitoriamo 111 repository open source attivi contrassegnati con #llmops (500+ stelle), per un totale di 716,901 stelle e una media di 6,458 stelle per repository. Le classifiche vengono aggiornate quotidianamente tramite l’API di GitHub.