#deepspeed Repositories
Entdecke 25 aktive Open-Source-GitHub-Repositories, die mit #deepspeed getaggt sind und insgesamt 68,253 Sterne gesammelt haben (durchschnittlich 2,730 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist deepseek-ai/DeepSeek-Coder mit 24,365 Sternen.
Insgesamt 25 Repositories
FlagAI (Fast LArge-scale General AI models) ist ein schnelles, einfach zu bedienendes und erweiterbares Toolkit für große KI-Modelle.
DeepSeekMoE: Auf dem Weg zur ultimativen Experten spezialisierung in Mixture-of-Experts Sprachmodellen
Eine sehr einfache GRPO-Implementierung zur Reproduktion von r1-ähnlichem LLM-Denken.
Sichere RLHF: Konzernierte Wertausrichtung durch sicheres Reinforcement Learning aus menschlichem Feedback
Laufende Forschung trainiert Transformer-Sprachmodelle in großem Maßstab, einschließlich: BERT & GPT-2
ChatLLaMA 📢 Open-Source-Implementierung für LLaMA-basiertes ChatGPT, das auf einer einzelnen GPU ausgeführt werden kann. 15x schnellerer Trainingsprozess als ChatGPT
Leichtgewichtiges LLM-Nach-Trainings-Framework, unterstützt SFT, RLVR, On-Policy KD, Guide KD und gemischtes Training; implementiert ein-/mehrstufige Guide-Destillation, Multi-Lehrer-Destillation, Reward-gemischtes Training und automatisierte Datenaufteilung👩🎓👨🎓
Implementierung eines chinesischen großen Sprachmodells mit geringer Parameteranzahl von Grund auf.
Speicheroptimierung und Trainingsrezepte zur Extrapolation der Kontextlänge von Sprachmodellen auf 1 Million Token mit minimaler Hardware.
Persönliches Projekt: MPP-Qwen14B & MPP-Qwen-Next (Multimodale Pipeline-Parallelität basierend auf Qwen-LM). Unterstützt [video/image/multi-image] {sft/conversations}. Lassen Sie nicht zu, dass Armut Ihre Vorstellungskraft einschränkt! Trainieren Sie Ihr eigenes 8B/14B LLaVA-training-ähnliches MLLM auf RTX3090/4090 24GB.
Best Practices und Anleitungen zum Schreiben von verteiltem PyTorch-Trainingscode
Häufig gestellte Fragen
Welches ist das beliebteste #deepspeed-Repository auf GitHub?
Das am höchsten eingestufte Open-Source-#deepspeed-Projekt auf GitHub ist deepseek-ai/DeepSeek-Coder mit 24,365 Sternen. DeepSeek Coder: Lass den Code sich selbst schreiben
Welche Programmiersprachen werden in #deepspeed-Repositories am häufigsten verwendet?
Unter den am höchsten eingestuften #deepspeed-Projekten auf GitHub sind Python, Jupyter Notebook, Ruby die am häufigsten verwendeten Programmiersprachen.
Wie wird das Ranking der #deepspeed-Repositories berechnet?
Wir verfolgen 25 aktive Open-Source-Repositories, die mit #deepspeed getaggt sind (500+ Sterne), mit insgesamt 68,253 Sternen und durchschnittlich 2,730 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.