#llmops Dépôts
Découvrez 111 dépôts GitHub open source actifs associés à #llmops, cumulant 716,901 étoiles au total (soit une moyenne de 6,458 étoiles par projet). Le projet en tête de ce thème est BerriAI/litellm, avec 63,649 étoiles.
111 dépôts au total
La passerelle IA la plus rapide et la plus légère. Noyau Rust avec SDK Python. Appelez plus de 100 API LLM au format OpenAI (ou natif) avec suivi des coûts, garde-fous, équilibrage de charge et journalisation [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]
Apprenez à développer, déployer et itérer sur des applications ML de qualité production.
🪢 Plateforme d’ingénierie IA open source : passerelle IA, observabilité des agents, évaluations et gestion des prompts et des compétences, basée sur OpenTelemetry. Une plateforme ouverte pour chaque appel IA et chaque agent. Hébergez-la vous-même ou utilisez Langfuse Cloud.
Composio propulse plus de 1000 kits d'outils, la recherche d'outils, la gestion du contexte, l'authentification, et un banc d'essai sandboxé pour vous aider à créer des agents IA qui transforment l'intention en action.
La plateforme d'ingénierie IA open source pour les agents, les LLM et les modèles ML. MLflow permet aux équipes de toutes tailles de déboguer, évaluer, surveiller et optimiser des applications IA de qualité production tout en contrôlant les coûts et en gérant l'accès aux modèles et aux données.
Testez vos prompts, agents et RAG. Red teaming/pentesting/analyse de vulnérabilités pour l'IA. Comparez les performances de GPT, Claude, Gemini, DeepSeek et plus encore. Configurations déclaratives simples avec intégration en ligne de commande et CI/CD. Utilisé par OpenAI et Anthropic.
Ce projet vise à partager les principes techniques et l'expérience pratique liés aux grands modèles (ingénierisation des grands modèles, mise en œuvre pratique des grands modèles).
Déboguez, évaluez et surveillez vos applications LLM, vos systèmes RAG et vos flux de travail d'agents avec un traçage complet, des évaluations automatisées et des tableaux de bord prêts pour la production.
🚀 Une sélection de ressources, de feuilles de route, d’outils et de projets en ingénierie de l’IA couvrant les LLM, le RAG, les agents d’IA, le MCP, le fine-tuning, les évaluations et les systèmes d’IA en production.
RocketRide est un méta-harness d’IA open source doté du seul environnement d’exécution de niveau entreprise conçu en C++. Créez, testez et publiez des agents durables capables de passer à l’échelle en production.
<⚡️> SuperAGI - Un framework open source d'agents IA autonomes axé sur les développeurs. Permet aux développeurs de créer, gérer et exécuter rapidement et de manière fiable des agents autonomes utiles.
SDK Python pour le cadre d'Observabilité, de Surveillance et d'Évaluation de l'IA des Agents. Comprend des fonctionnalités telles que le traçage des agents, des LLM et des outils, le débogage de systèmes multi-agents, un tableau de bord auto-hébergé et des analyses avancées avec vue chronologique et graphique d'exécution.
Un gateway IA ultra-rapide avec garde-corps intégrés. Routage vers plus de 1 600 LLMs, plus de 50 garde-corps IA avec 1 API rapide et conviviale.
Exécutez n'importe quel LLM open-source, tel que DeepSeek et Llama, en tant qu'endpoint API compatible avec OpenAI dans le cloud.
BISHENG est une plateforme d’agents d’entreprise open source permettant de créer, déployer et gérer des applications d’IA. Elle associe des agents d’IA, des flux de travail, le RAG et la gestion des connaissances, l’intégration d’agents de bureau et l’hébergement d’applications vibecoding à une gestion unifiée des modèles, à l’évaluation, à l’observabilité, au contrôle des accès et à l’administration d’entreprise.
TensorZero est une plateforme open-source LLMOps qui unifie un gateway LLM, l'observabilité, l'évaluation, l'optimisation et l'expérimentation.
Affinez les LLM à partir d'un YAML. Le streaming par couches entraîne un modèle 8B sur un GPU de laptop de 4 Go.
La manière la plus simple de servir des applications et modèles IA - Créez des API d'inférence de modèles, des files d'attente de tâches, des applications LLM, des pipelines multi-modèles et plus encore !
Evidently est un framework open-source d'observabilité ML et LLM. Évaluez, testez et surveillez tout système alimenté par l'IA ou pipeline de données. Des données tabulaires à Gen AI. Plus de 100 métriques.
Observabilité open-source pour votre application GenAI ou LLM, basée sur OpenTelemetry
Plano est un serveur proxy natif IA et un plan de données pour les applications agentiques. Routage intelligent des LLM, observabilité, orchestration des agents et garde-fous pour que vous restiez concentré sur la logique principale de vos agents.
ClearML - CI/CD Auto-Magique pour rationaliser votre charge de travail IA. Gestion d'Expériences, Gestion de Données, Pipeline, Orchestration, Planification et Service dans une solution MLOps/LLMOps
Déployez des Agents d'IA sur Google Cloud en quelques minutes, et non en quelques mois. Des modèles prêts pour la production avec CI/CD, évaluation et observabilité intégrés.
🧊 Plateforme d'observabilité LLM open source. Une ligne de code pour surveiller, évaluer et expérimenter. YC W23 🍓
Une liste impressionnante et organisée des meilleurs outils LLMOps pour les développeurs
Plateforme d'optimisation d'agents IA de nouvelle génération : Cozeloop aborde les défis du développement d'agents IA en fournissant des capacités de gestion tout au long du cycle de vie, du développement, du débogage et de l'évaluation à la surveillance.
Le guide pratique des LLM : Des bases au déploiement d'applications LLM et RAG avancées sur AWS en utilisant les meilleures pratiques LLMOps
Superduper : Framework de bout en bout pour la création d'applications et d'agents IA personnalisés.
cube studio Plateforme IA Open-Source Cloud Native Tout-en-un pour Machine Learning/Deep Learning/Grands Modèles, Flux complet du pipeline d'algorithmes MLOps, Plateforme de location de puissance de calcul, Développement en ligne Notebook, Orchestration de pipeline de flux de tâches par glisser-déposer, Entraînement distribué multi-machines multi-GPU, Recherche d'hyperparamètres, Virtualisation VGPU du service d'inférence, Edge Computing, Annotation automatisée de la plateforme d'annotation, Ajustement fin SFT de grands modèles/Modèle de récompense/Entraînement par apprentissage par renforcement de Deepseek, Inférence multi-machines de grands modèles tels que vLLM/Ollama/MindSpore, Base de connaissances privée, Marché de modèles IA, Support pour l'écosystème CPU/GPU/NPU Ascend domestiques, Support RDMA, Support pour les frameworks distribués tels que PyTorch/TF/MXNet/DeepSpeed/Paddle/ColossalAI/Horovod/Ray/Volcano
Observabilité et évaluation open source des agents pour les équipes de plateformes d’IA. Tracez, testez, acheminez et gouvernez chaque agent et assistant de programmation de l’entreprise.
🤖 𝗔𝗽𝗽𝗿𝗲𝗻𝗲𝘇 gratuitement comment créer un système 𝗟𝗟𝗠 & 𝗥𝗔𝗚 de qualité production de bout en bout en utilisant les meilleures pratiques 𝗟𝗟𝗠𝗢𝗽𝘀 : ~ 𝘴𝘰𝘶𝘳𝘤𝘦 𝘤𝘰𝘥𝘦 + 12 𝘭𝘦ç𝘰𝘯𝘴 pratiques
Framework RAG (Retrieval Augmented Generation) pour la construction d'applications open source modulaires pour la production par TrueFoundry
Laminar – plateforme d'observabilité open source conçue spécifiquement pour les agents IA. YC S24.
🕹️ Plateforme LLMOps open-source, axée sur les développeurs, conçue pour rationaliser la conception des invites, la gestion des versions, la livraison instantanée, la collaboration, le dépannage, l'observabilité et plus encore.
AGiXT est une plateforme dynamique d'automatisation d'agents IA qui orchestre de manière transparente la gestion des instructions et l'exécution de tâches complexes sur divers fournisseurs d'IA. En combinant une mémoire adaptative, des fonctionnalités intelligentes et un système de plugins polyvalent, AGiXT offre des solutions d'IA efficaces et complètes.
Apprenez à créer votre assistant IA Second Brain avec des LLM, des agents, RAG, le fine-tuning, LLMOps et des techniques de systèmes d'IA.
Le même agent, une facture allégée. Les outils et l’infrastructure pour tirer davantage parti de votre IA. Moins de tokens. Moins de calcul. Un coût réduit.
Foire aux questions
Quel est le dépôt #llmops le plus populaire sur GitHub ?
Le projet #llmops open source le mieux classé sur GitHub est BerriAI/litellm, avec 63,649 étoiles. La passerelle IA la plus rapide et la plus légère. Noyau Rust avec SDK Python. Appelez plus de 100 API LLM au format OpenAI (ou natif) avec suivi des coûts, garde-fous, équilibrage de charge et journalisation [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]
Quels langages de programmation sont les plus utilisés dans les dépôts #llmops ?
Parmi les projets #llmops les mieux classés sur GitHub, les langages de programmation les plus courants sont Python, TypeScript, Jupyter Notebook, Rust.
Comment le classement des dépôts #llmops est-il calculé ?
Nous suivons 111 dépôts open source actifs associés à #llmops (500+ étoiles), totalisant 716,901 étoiles, avec une moyenne de 6,458 étoiles par dépôt. Les classements sont mis à jour quotidiennement à partir de l’API GitHub.