#serving Dépôts
Découvrez 17 dépôts GitHub open source actifs associés à #serving, cumulant 90,023 étoiles au total (soit une moyenne de 5,295 étoiles par projet). Le projet en tête de ce thème est ray-project/ray, avec 44,352 étoiles.
17 dépôts au total
Ray est un moteur de calcul IA. Ray est composé d'un runtime distribué central et d'un ensemble de bibliothèques IA pour accélérer les charges de travail ML.
Un système de serving flexible et haute performance pour les modèles d'apprentissage automatique
Découvrez les systèmes d’inférence des LLM sur Apple Silicon pour les ingénieurs systèmes : construisez un petit vLLM + Qwen
Un framework MLOps pour emballer, déployer, surveiller et gérer des milliers de modèles d'apprentissage automatique en production
Dans ce dépôt, je partagerai des notes et références utiles sur le déploiement de modèles basés sur l'apprentissage profond en production.
Un framework Python minimal pour la construction de serveurs d'inférence IA personnalisés avec un contrôle total sur la logique, le traitement par lots et la mise à l'échelle.
Kit d'outils d'inférence et de déploiement haute performance pour LLM et VLM basé sur PaddlePaddle
Un guide complet pour la création d'applications LLM basées sur RAG pour la production.
Une base de données vectorielle multi-modale qui prend en charge les insertions et les requêtes vectorielles à l'aide d'un SQL unifié (compatible MySQL) sur des données structurées et non structurées, tout en répondant aux exigences de haute concurrence et de latence ultra-faible.
Les agents backend sont construits avec : une base de données multimodale, une orchestration et un service dans un seul fichier
DELTA est une plateforme de traitement du langage naturel et de la parole basée sur l'apprentissage profond. LF AI & DATA Projects: https://lfaidata.foundation/projects/delta/
Un serveur d'inférence scalable pour les modèles optimisés avec OpenVINO™
Un vecteur flexible et haute performance pour les modèles d'apprentissage automatique(『飞桨』 Cadre de déploiement de services)
Service de serving générique et facile à utiliser pour les modèles d'apprentissage automatique
Un système d'inférence haute performance pour les grands modèles de langage, conçu pour les environnements de production.
Foire aux questions
Quel est le dépôt #serving le plus populaire sur GitHub ?
Le projet #serving open source le mieux classé sur GitHub est ray-project/ray, avec 44,352 étoiles. Ray est un moteur de calcul IA. Ray est composé d'un runtime distribué central et d'un ensemble de bibliothèques IA pour accélérer les charges de travail ML.
Quels langages de programmation sont les plus utilisés dans les dépôts #serving ?
Parmi les projets #serving les mieux classés sur GitHub, les langages de programmation les plus courants sont Python, C++, Go, Jupyter Notebook.
Comment le classement des dépôts #serving est-il calculé ?
Nous suivons 17 dépôts open source actifs associés à #serving (500+ étoiles), totalisant 90,023 étoiles, avec une moyenne de 5,295 étoiles par dépôt. Les classements sont mis à jour quotidiennement à partir de l’API GitHub.