#deepspeed Repository
Scopri 25 repository GitHub open source attivi contrassegnati con #deepspeed, che raccolgono un totale di 68,253 stelle (con una media di 2,730 stelle per progetto). Il progetto leader di questo argomento è deepseek-ai/DeepSeek-Coder, con 24,365 stelle.
25 repository in totale
FlagAI (Fast LArge-scale General AI models) è un toolkit veloce, facile da usare ed estensibile per modelli su larga scala.
DeepSeekMoE: Verso la specializzazione definitiva degli esperti nei modelli linguistici Mixture-of-Experts
Un'implementazione GRPO molto semplice per riprodurre il pensiero LLM di tipo r1.
RLHF Sicuro: Allineamento dei Valori con Vincoli tramite Apprendimento per Rinforzo Sicuro dal Feedback Umano
La ricerca in corso addestra modelli linguistici Transformer su larga scala, tra cui: BERT e GPT-2
Un framework open-source di modelli linguistici di grandi dimensioni basati sulla conoscenza.
ChatLLaMA 📢 Implementazione open source per ChatGPT su base LLaMA eseguibile su una singola GPU. Processo di addestramento 15 volte più veloce di ChatGPT
Framework leggero per il post-addestramento di LLM, supporta SFT, RLVR, On-Policy KD, Guide KD e addestramento misto; implementa distillazione Guide a una/more round, distillazione multi-insegnante, addestramento misto Reward e sharding dati automatizzato👩🎓👨🎓
Implementazione da zero di un modello linguistico cinese di grandi dimensioni con pochi parametri.
Ottimizzazione della memoria e ricette di addestramento per estrapolare la lunghezza del contesto dei modelli linguistici a 1 milione di token, con hardware minimo.
Progetto Personale: MPP-Qwen14B & MPP-Qwen-Next (Multimodal Pipeline Parallelism basato su Qwen-LM). Supporta [video/image/multi-image] {sft/conversations}. Non lasciare che la povertà limiti la tua immaginazione! Addestra il tuo MLLM in stile LLaVA-training da 8B/14B su RTX3090/4090 24GB.
Pratiche consigliate e guide su come scrivere codice di addestramento PyTorch distribuito
Domande frequenti
Qual è il repository #deepspeed più popolare su GitHub?
Il progetto open source #deepspeed più alto in classifica su GitHub è deepseek-ai/DeepSeek-Coder, con 24,365 stelle. DeepSeek Coder: Lascia che il codice si scriva da sé
Quali linguaggi di programmazione sono più utilizzati nei repository #deepspeed?
Tra i progetti #deepspeed più alti in classifica su GitHub, i linguaggi di programmazione più comuni sono Python, Jupyter Notebook, Ruby.
Come viene calcolata la classifica dei repository #deepspeed?
Monitoriamo 25 repository open source attivi contrassegnati con #deepspeed (500+ stelle), per un totale di 68,253 stelle e una media di 2,730 stelle per repository. Le classifiche vengono aggiornate quotidianamente tramite l’API di GitHub.