#llmops Dépôts
111 dépôts au total
Un environnement de programmation visuelle open-source pour tester les invites des LLM.
Apache Hamilton aide les scientifiques des données et les ingénieurs à définir des dataflows testables, modulaires et auto-documentants, qui encodent la lignée/le traçage et les métadonnées. S'exécute et s'adapte partout où python le fait.
CubeStudio est une plateforme open source cloud-native tout-en-un pour l'apprentissage automatique/l'apprentissage profond/les grands modèles d'IA/MaaS/MLOps/plateforme d'intelligence artificielle/plateforme d'entraînement et d'inférence, couvrant le pipeline complet des algorithmes, la multi-location, la plateforme de location de puissance de calcul, le relais de tokens, l'orchestration de pipelines de flux de travail par glisser-déposer, l'entraînement distribué multi-machine multi-carte, la recherche d'hyperparamètres, les services d'inférence, la virtualisation VGPU, la collaboration cloud-edge-device, le calcul en périphérie, la plateforme d'annotation automatisée, le fine-tuning SFT/le modèle de récompense/l'entraînement par apprentissage par renforcement pour les grands modèles comme DeepSeek, l'inférence multi-machine pour les grands modèles avec vLLM/Ollama/MindIE, les agents intelligents LLMOps avec base de connaissances privée, le marché de modèles d'IA, le support pour l'ordonnancement de puissance de calcul hétérogène nationale (Ascend, Cambricon, Hygon, Moore Threads, Muxi, etc.), le support pour IB/RoCE/RDMA et le support Xinchuang.
Créez des applications qui prennent des décisions (chatbots, agents, simulations, etc.). Surveillez, tracez, conservez et exécutez sur votre propre infrastructure.
Bionic est une IA agentique souveraine pour les entreprises — elle s’exécute sur site et peut travailler en toute sécurité avec vos données et systèmes sensibles.
UpTrain est une plateforme unifiée open-source pour évaluer et améliorer les applications d'IA générative. Nous fournissons des notes pour plus de 20 contrôles préconfigurés (couvrant les cas d'utilisation du langage, du code et des embeddings), effectuons une analyse des causes profondes des cas d'échec et donnons des aperçus sur la façon de les résoudre.
Plateforme open source de bout en bout pour évaluer, observer et améliorer les applications LLM et agents IA. Tracing · Evals · Simulations · Datasets · Gateway · Guardrails. Auto-hébergeable. Apache 2.0.
Framework multi-agent sans code pour créer des agents LLM, des flux de travail et des applications avec vos données
Waku Agent est un framework open source pour agents IA que vous contrôlez : boucle, mémoire, évaluations et couche toujours active (boîte de réception des événements, minuteurs, approbations et boîte d’envoi), le tout dans un code qui reste lisible.
Recherche vectorielle évolutive, rapide et respectueuse du disque dans Postgres, le successeur de pgvecto.rs.
Équilibreur de charge et plateforme de serving open-source pour LLM/VLM pour l'auto-hébergement de LLMs (et VLMs) à grande échelle 🏓🦙 Alternative à des projets comme llm-d, Docker Model Runner, etc., mais avec moins de pièces mobiles et des déploiements simples construits autour de l'écosystème ggml. Fonctionne sur CPU et GPU.
[Framework de développement d'applications GenAI] 🚀 Créez des applications GenAI rapidement et facilement 💬 Interagissez facilement avec des agents GenAI dans le code à l'aide de données structurées et d'une syntaxe d'appels chaînés 🧩 Utilisez le flux piloté par événement *TriggerFlow* pour gérer une logique de travail GenAI complexe 🔀 Basculez vers n'importe quel modèle sans réécrire le code de l'application
RTP-LLM : Le moteur d'inférence LLM haute performance d'Alibaba pour diverses applications.
Orchestrateur de plateforme déclaratif piloté par l'intention pour les plateformes de développeurs internes (IDP).
L'environnement d'exécution SmythOS (SRE) est un environnement d'exécution open source, natif du cloud, destiné à l'IA agencée. Sécurisé, modulaire et prêt pour la production, il permet aux développeurs de créer, d'exécuter et de gérer des agents intelligents dans des environnements locaux, cloud et edge.
Un cadre pour le diagnostic complet et l'optimisation d'agents utilisant des interactions synthétiques réalistes et simulées
Une base de données de SDK, frameworks, bibliothèques et outils pour créer, surveiller, déboguer et déployer des agents IA autonomes
Langtrace 🔍 est un outil d'observabilité de bout en bout open-source basé sur Open Telemetry pour les applications LLM, fournissant un traçage en temps réel, des évaluations et des métriques pour les LLM populaires, les frameworks LLM, les bases de données vectorielles et plus encore. Intégration via Typescript, Python. 🚀💻📊
AuditPilot : agents d'IA d'entreprise auditable pour des flux de travail fondés sur des preuves, des outils gouvernés, des harnais d'évaluation, une révision humaine et une livraison de remédiation.
CI/CD natif des traces pour les agents d’IA — les incidents en production deviennent des tests de régression qui bloquent la PR. Détection et regroupement automatiques, figés en cas hermétiques, puis rejoués dans la CI pour 0 $.
DataDreamer: Prompt. Générer des données synthétiques. Entraîner et aligner des modèles. 🤖💤
Dynamiq est un framework d'orchestration pour les applications d'IA agentives et LLM
Passerelle LLM open source en Rust. Un seul endpoint pour OpenAI, Anthropic, Gemini et tous les autres fournisseurs. N’importe quel SDK, modèle ou outil.
Passerelle d’IA open source que vous hébergez vous-même. Un seul endpoint pour plus de 40 fournisseurs, avec des clés virtuelles, des budgets et un suivi de l’utilisation.
⛓️ Déploiement automatique d'applications et d'agents LLM LangChain avec FastApi. LLMops
Tutoriels et scripts d'exemple de grands modèles linguistiques (LLM), avec Langchain, OpenAI, LlamaIndex, GPT, ChromaDB et Pinecone
🧠 Motorhead est un serveur de récupération de mémoire et d'informations pour les LLM.
Démarrez votre initiative LLMOps avec un package Python flexible, robuste et productif.
CV interactif avec intégration de chat IA. Construit avec React 19, TypeScript, API Claude. Discutez avec mon avatar IA de mon expérience.
Neum AI est un framework de premier ordre pour gérer la création et la synchronisation d'incorporations vectorielles à grande échelle.
CI/CD natif des traces pour les agents d’IA : évaluez les traces de production, regroupez les échecs, transformez-les en tests de régression rejouables et bloquez les PR qui introduisent des régressions. Peut être hébergé sur vos propres serveurs.
Indexation, requêtes et applications LLM agentiques rapides en streaming en Rust
Plateforme d’agents IA auto-hébergée pour les entreprises natives de l’IA. Agents Claude Code, Codex, Gemini et OpenCode. Apache 2.0.
Cet exemple présente le processus complet de bout en bout de création d'une application RAG avec Prompty et Azure AI Foundry. Il comprend le code de l'application LLM GPT-4, les évaluations, l'automatisation du déploiement avec AZD CLI, les actions GitHub pour l'évaluation et le déploiement, ainsi que la cartographie des intentions pour le mappage de plusieurs tâches LLM.
Voyez ce que vos agents de codage ont fait et combien cela a coûté. Décompose chaque tâche en étapes de travail — outils utilisés, fichiers modifiés, tests exécutés, temps et jetons dépensés. Tableau de bord local pour Claude Code, Codex, OpenCode, et plus. Pas de connexion, pas de télémétrie.
Notebooks Colab pratiques et sans framework pour développer les compétences d'AI Engineer / Forward Deployed Engineer (FDE) : API de modèles, sorties structurées, appels d'outils, RAG, évaluations comme pilier central, agents (boucle créée de zéro, conception d'outils, garde-fous, MCP, compétences), fine-tuning vs LoRA, injection de prompts/sécurité, LLMOps et relation client. Fonctionne sur l'API gratuite de Groq.
Et si OpenAI Deep Research et Dify ne formaient qu'une seule plateforme ? OpenAgent — une architecture de harnais pour construire rapidement des agents d'IA verticaux, avec des boucles de raisonnement profond, des flux de travail visuels, RAG et délégation A2A.