#llm-training Dépôts
Découvrez 58 dépôts GitHub open source actifs associés à #llm-training, cumulant 316,620 étoiles au total (soit une moyenne de 5,458 étoiles par projet). Le projet en tête de ce thème est karpathy/nanochat, avec 60,746 étoiles.
59 dépôts au total
Ce projet vise à partager les principes techniques et l'expérience pratique liés aux grands modèles (ingénierisation des grands modèles, mise en œuvre pratique des grands modèles).
Framework low-code pour construire des LLMs personnalisés, des réseaux neuronaux et d'autres modèles d'IA
La plateforme de calcul IA pour les équipes de pointe. SkyPilot transforme le calcul IA fragmenté en un superordinateur IA, permettant aux équipes de pointe de construire plus rapidement une intelligence personnalisée.
Code minimal et propre pour l'algorithme Byte Pair Encoding (BPE) couramment utilisé dans la tokenisation LLM.
slime est un framework d’entraînement de LLM conçu pour la mise à l’échelle de l’apprentissage par renforcement.
《Comprendre en profondeur l’infrastructure de l’IA : analyse quantitative et conception de systèmes》 (de Li Bojie), un manuscrit de livre open source : à partir des contraintes matérielles et de l’architecture des modèles, il déduit quantitativement la conception des systèmes d’inférence et d’entraînement des LLM. Comprend le texte intégral, le PDF, des outils de calcul associés et des expériences.
H2O LLM Studio - un framework et une interface graphique sans code pour le fine-tuning des LLM. Documentation : https://docs.h2o.ai/h2o-llmstudio/
Meta Lingua : une base de code légère, efficace et facile à cracker pour la recherche sur les LLM.
Miles est un framework d'apprentissage par renforcement orienté entreprise pour le post-entraînement de LLM et VLM, dérivé de et co-évoluant avec slime.
OpenLake est un moteur de stockage haute performance pour une inférence LLM et un entraînement GPU efficaces
Une bibliothèque d'interface pour l'entraînement post-RL avec des environnements.
Construire des grands modèles à zéro : une pratique complète du pré-entraînement à la RLHF
Exemples de code et ressources pour DBRX, un grand modèle de langage développé par Databricks
verl-agent est une extension de veRL, conçue pour entraîner des agents LLM/VLM via RL. verl-agent est également le code officiel du papier "Group-in-Group Policy Optimization for LLM Agent Training"
DLRover : Un système distribué automatique d'apprentissage profond
Le dépôt officiel de Pai-Megatron-Patch pour la formation à grande échelle de LLM et VLM développé par Alibaba Cloud.
Exportateur de GPU NVIDIA pour Prometheus utilisant le binaire nvidia-smi OU NVML
La recherche en cours forme des modèles linguistiques Transformer à grande échelle, notamment : BERT et GPT-2
Atropos est un framework d'environnements d'apprentissage par renforcement pour modèles linguistiques destiné à la collecte et à l'évaluation de trajectoires de LLM dans divers environnements
GraphGen : Améliorer le réglage fin supervisé pour les LLM avec la génération de données synthétiques pilotée par la connaissance
GigaTrain : Un cadre d'entraînement efficace et évolutif pour les modèles d'IA
"AI-Compass" guidera la communauté pour naviguer dans l'océan des technologies IA. Que vous soyez débutant ou développeur confirmé, vous trouverez ici les voies vers toutes les grandes orientations de l'IA. Ce projet vise à aider les développeurs à comprendre de façon systématique les concepts clés de l'IA, les technologies majeures, les tendances de pointe, et, par la pratique, à maîtriser l’ensemble du processus, de la théorie à la mise en œuvre.
[ICLR 2026] Sur la généralisation de SFT : une perspective d'apprentissage par renforcement avec rectification des récompenses.
Une collection organisée d'articles, de rapports techniques, de cadres et d'outils pour la distillation en politique (OPD) des grands modèles de langage
Le Deep Learning pour les nuls. Tous les détails pratiques et les utilitaires utiles pour travailler avec de vrais modèles.
Ceci est un projet pour entraîner des modèles linguistiques de grande taille à partir de zéro, y compris le pré-entraînement, le fine-tuning et l'optimisation directe des préférences, le modèle ayant 1 milliard de paramètres et prenant en charge le chinois et l'anglais.
Adan : Algorithme adaptatif de momentum de Nesterov pour l'optimisation plus rapide des modèles profonds
Algorithmes et systèmes de LLM en pratique avec PyTorch, Triton et CUDA. « Tutoriel sur les algorithmes et systèmes de LLM » : architectures et entraînement des modèles, post-entraînement, accélération de l’inférence, optimisation des performances et des opérateurs, avec des exercices Notebook, des explications des réponses, des tests et des expériences.
LLM-PowerHouse : Libérez le potentiel des LLM grâce à des tutoriels organisés, des meilleures pratiques et du code prêt à l'emploi pour l'entraînement personnalisé et l'inférence.
R1-chercheur : Incitation de la capacité de recherche dans les LLM via l'apprentissage par renforcement
Foire aux questions
Quel est le dépôt #llm-training le plus populaire sur GitHub ?
Le projet #llm-training open source le mieux classé sur GitHub est karpathy/nanochat, avec 60,746 étoiles. Le meilleur ChatGPT que 100 $ peuvent acheter.
Quels langages de programmation sont les plus utilisés dans les dépôts #llm-training ?
Parmi les projets #llm-training les mieux classés sur GitHub, les langages de programmation les plus courants sont Python, Jupyter Notebook, Go, Cuda.
Comment le classement des dépôts #llm-training est-il calculé ?
Nous suivons 58 dépôts open source actifs associés à #llm-training (500+ étoiles), totalisant 316,620 étoiles, avec une moyenne de 5,458 étoiles par dépôt. Les classements sont mis à jour quotidiennement à partir de l’API GitHub.