#llmops Repository
111 repository in totale
Un ambiente di programmazione visuale open-source per collaudare i prompt per gli LLM.
Apache Hamilton aiuta data scientist e ingegneri a definire dataflow testabili, modulari e auto-documentanti, che codificano lineage/tracing e metadati. Funziona e scala ovunque lo faccia python.
CubeStudio รจ una piattaforma open source cloud-native all-in-one per machine learning/deep learning/grandi modelli AI/MaaS/MLOps/piattaforma di intelligenza artificiale/piattaforma di training e inferenza, che copre l'intero pipeline dell'algoritmo, multi-tenancy, piattaforma di noleggio di potenza di calcolo, relay di token, orchestrazione di pipeline di flussi di lavoro tramite trascinamento, training distribuito multi-macchina multi-scheda, ricerca di iperparametri, servizi di inferenza, virtualizzazione VGPU, collaborazione cloud-edge-dispositivo, edge computing, piattaforma di annotazione automatizzata, fine-tuning SFT/modello di ricompensa/training di apprendimento per rinforzo per grandi modelli come DeepSeek, inferenza multi-macchina per grandi modelli con vLLM/Ollama/MindIE, agenti intelligenti LLMOps con knowledge base privata, mercato di modelli AI, supporto per la pianificazione di potenza di calcolo eterogenea nazionale (Ascend, Cambricon, Hygon, Moore Threads, Muxi, ecc.), supporto per IB/RoCE/RDMA e supporto Xinchuang.
Crea applicazioni che prendono decisioni (chatbot, agenti, simulazioni, ecc.). Monitora, traccia, persiste ed esegui sulla tua infrastruttura.
Bionic รจ unโIA agentica sovrana per le aziende: funziona on-premise e puรฒ operare in modo sicuro con i vostri dati e sistemi sensibili.
UpTrain รจ una piattaforma unificata open-source per valutare e migliorare le applicazioni generative di AI. Forniamo valutazioni per oltre 20 controlli preconfigurati (che coprono casi d'uso di linguaggio, codice, embedding), eseguiamo analisi delle cause principali sui casi di fallimento e forniamo approfondimenti su come risolverli.
Piattaforma open-source end-to-end per valutare, osservare e migliorare applicazioni LLM e agenti AI. Tracing ยท Evals ยท Simulations ยท Datasets ยท Gateway ยท Guardrails. Auto-ospitabile. Apache 2.0.
Framework multi-agente senza codice per creare agenti LLM, flussi di lavoro e applicazioni con i tuoi dati
Waku Agent รจ un framework open source per agenti IA che possiedi e controlli: ciclo, memoria, valutazioni e un livello sempre attivo (posta in arrivo degli eventi, timer, approvazioni e posta in uscita), con codice che rimane leggibile.
Ricerca vettoriale scalabile, veloce e rispettosa del disco in Postgres, il successore di pgvecto.rs.
Bilanciatore di carico e piattaforma di serving open-source per LLM/VLM per l'auto-ospitalitร di LLM (e VLM) su larga scala ๐๐ฆ Alternativa a progetti come llm-d, Docker Model Runner, ecc., ma con meno parti mobili e deployment semplici costruiti intorno all'ecosistema ggml. Funziona su CPU e GPU.
[Framework di sviluppo applicazioni GenAI] ๐ Crea applicazioni GenAI in modo rapido e semplice ๐ฌ Facile interazione con agenti GenAI nel codice utilizzando dati strutturati e sintassi di chiamate a catena ๐งฉ Utilizza TriggerFlow* basato su eventi per gestire complesse logiche di lavoro GenAI ๐ Passa a qualsiasi modello senza riscrivere il codice dell'applicazione
RTP-LLM: Il motore di inferenza LLM ad alte prestazioni di Alibaba per diverse applicazioni.
Orchestrator di piattaforma dichiarativa guidato dalle intenzioni per piattaforme di sviluppatori interne (IDP).
L'ambiente di runtime SmythOS (SRE) รจ un runtime open source e cloud-native per l'IA agentica. Sicuro, modulare e pronto per la produzione, consente agli sviluppatori di costruire, eseguire e gestire agenti intelligenti su ambienti locali, cloud ed edge.
Un framework per la diagnosi completa e l'ottimizzazione di agenti utilizzando interazioni sintetiche simulate e realistiche
Un database di SDK, framework, librerie e strumenti per creare, monitorare, eseguire il debug e distribuire agenti AI autonomi
Langtrace ๐ รจ uno strumento di osservabilitร end-to-end open-source basato su Open Telemetry per applicazioni LLM, che fornisce tracing in tempo reale, valutazioni e metriche per LLM, framework LLM, vectorDB e altro ancora. Integrazione tramite Typescript, Python. ๐๐ป๐
AuditPilot: agenti AI aziendali verificabili per flussi di lavoro basati su prove, strumenti governati, imbracature di valutazione, revisione umana e consegna di rimedi.
CI/CD nativo delle tracce per agenti di IA: gli errori in produzione diventano test di regressione che bloccano la PR. Rilevamento e raggruppamento automatici, congelamento in casi ermetici e riproduzione in CI a costo zero.
DataDreamer: Prompt. Genera dati sintetici. Addestra e allinea modelli. โ ๐ค๐ค
Dynamiq รจ un framework di orchestrazione per applicazioni agentive di IA e LLM
Gateway LLM open source in Rust. Un unico endpoint per OpenAI, Anthropic, Gemini e qualsiasi altro fornitore. Qualsiasi SDK, modello o strumento.
Gateway AI open source da gestire autonomamente. Un unico endpoint per oltre 40 provider, con chiavi virtuali, budget e monitoraggio dellโutilizzo.
โ๏ธ Distribuzione automatica di app e agenti LLM LangChain con FastApi. LLMops
Tutorial e script di esempio per modelli linguistici di grandi dimensioni (LLM), con Langchain, OpenAI, LlamaIndex, GPT, ChromaDB e Pinecone
Dai il via alla tua iniziativa LLMOps con un pacchetto Python flessibile, robusto e produttivo.
CV interattivo con integrazione di chat AI. Realizzato con React 19, TypeScript, Claude API. Chatta con il mio avatar AI sulla mia esperienza.
Neum AI รจ un framework di prim'ordine per gestire la creazione e la sincronizzazione di embedding vettoriali su larga scala.
CI/CD nativo delle tracce per agenti IA: valuta le tracce di produzione, raggruppa gli errori, trasformali in test di regressione riproducibili e blocca le PR che introducono regressioni. Ospitabile autonomamente.
Piattaforma self-hosted di agenti IA per aziende native dellโIA. Agenti Claude Code, Codex, Gemini e OpenCode. Apache 2.0.
Questo esempio presenta l'intero processo End2End di creazione di un'applicazione RAG con Prompty e Azure AI Foundry. Include il codice dell'applicazione LLM GPT-4, le valutazioni, l'automazione della distribuzione con AZD CLI, le azioni di GitHub per la valutazione e la distribuzione e il mapping degli intenti per il mapping di piรน attivitร LLM.
Vedi cosa hanno fatto i tuoi agenti di codifica e quanto รจ costato. Suddivide ogni attivitร in passaggi di lavoro โ strumenti utilizzati, file modificati, test eseguiti, tempo e token spesi. Dashboard locale per Claude Code, Codex, OpenCode e altro. Nessun login, nessuna telemetria.
Notebook Colab pratici e senza framework per il set di competenze dell'AI Engineer / Forward Deployed Engineer (FDE): API dei modelli, output strutturato, chiamata di strumenti, RAG, valutazioni come pilastro portante, agenti (ciclo da zero, progettazione di strumenti, guardrail, MCP, competenze), fine-tuning vs LoRA, prompt injection/sicurezza, LLMOps e gestione del cliente. Funziona sull'API gratuita di Groq.
E se OpenAI Deep Research e Dify fossero un'unica piattaforma? OpenAgent โ architettura per costruire rapidamente agenti AI verticali, con cicli di ragionamento profondi, flussi di lavoro visivi, RAG e delega A2A.