#deepspeed Dépôts
Découvrez 25 dépôts GitHub open source actifs associés à #deepspeed, cumulant 68,253 étoiles au total (soit une moyenne de 2,730 étoiles par projet). Le projet en tête de ce thème est deepseek-ai/DeepSeek-Coder, avec 24,365 étoiles.
25 dépôts au total
FlagAI (Fast LArge-scale General AI models) est une boîte à outils rapide, facile à utiliser et extensible pour les modèles à grande échelle.
Un script d'entraînement parallèle par pipeline pour les modèles de diffusion.
DeepSeekMoE : Vers une spécialisation ultime des experts dans les modèles de langage Mixture-of-Experts
Une implémentation GRPO très simple pour reproduire la pensée LLM de type r1.
RLHF Sûr : Alignement des Valeurs Contraints par l'Apprentissage par Renforcement Sûr à partir des Retours Humains
La recherche en cours forme des modèles linguistiques Transformer à grande échelle, notamment : BERT et GPT-2
ChatLLaMA 📢 Implémentation open source pour ChatGPT basé sur LLaMA exécutable sur un seul GPU. Processus d'entraînement 15 fois plus rapide que ChatGPT
Framework léger de post-entraînement pour LLM, prend en charge SFT, RLVR, On-Policy KD, Guide KD et entraînement mixte ; implémente distillation Guide mono/multi-tour, distillation multi-enseignant, entraînement mixte Reward et partitionnement de données automatisé👩🎓👨🎓
Implémentation à partir de zéro d'un modèle linguistique chinois de grande taille avec un petit nombre de paramètres.
Optimisation de la mémoire et recettes d'entraînement pour extrapoler la longueur du contexte des modèles linguistiques à 1 million de jetons, avec un matériel minimal.
Projet Personnel : MPP-Qwen14B & MPP-Qwen-Next (Pipeline Parallèle Multimodal basé sur Qwen-LM). Supporte [vidéo/image/multi-image] {sft/conversations}. Ne laissez pas la pauvreté limiter votre imagination ! Entraînez votre propre MLLM de type LLaVA-training 8B/14B sur RTX3090/4090 24 Go.
Bonnes pratiques et guides sur la manière d'écrire du code d'entraînement PyTorch distribué
Foire aux questions
Quel est le dépôt #deepspeed le plus populaire sur GitHub ?
Le projet #deepspeed open source le mieux classé sur GitHub est deepseek-ai/DeepSeek-Coder, avec 24,365 étoiles. DeepSeek Coder : Laissez le code s'écrire lui-même
Quels langages de programmation sont les plus utilisés dans les dépôts #deepspeed ?
Parmi les projets #deepspeed les mieux classés sur GitHub, les langages de programmation les plus courants sont Python, Jupyter Notebook, Ruby.
Comment le classement des dépôts #deepspeed est-il calculé ?
Nous suivons 25 dépôts open source actifs associés à #deepspeed (500+ étoiles), totalisant 68,253 étoiles, avec une moyenne de 2,730 étoiles par dépôt. Les classements sont mis à jour quotidiennement à partir de l’API GitHub.