#distributed-training Repositories
Insgesamt 147 Repositories
📹 Ein flexibleres Framework, das Videos in jeder Auflösung generieren und Videos aus Bildern erstellen kann.
VeOmni: Skalierung des Trainings beliebiger Modalitätsmodelle mit einem modellzentrierten verteilten Rezept-Zoo
Code, Labs und Ressourcen für O'Reilly AI Systems Performance Engineering: GPU-Optimierung, verteiltes Training, Inferenz-Skalierung und Full-Stack-Tuning.
【LLMs Neun-Schichten-Dämonenturm】Teilen von Praxiserfahrungen und Kenntnissen zu LLMs in Bereichen wie natürliche Sprachverarbeitung (ChatGLM, Chinese-LLaMA-Alpaca, Xiaoyangtuo Vicuna, LLaMA, GPT4ALL usw.), Informationsabruf (langchain), Sprachsynthese, Spracherkennung, Multimodalität (Stable Diffusion, MiniGPT-4, VisualGLM-6B, Ziya-Visual usw.).
Meditron ist eine Reihe von Open-Source-Large-Language-Modellen (LLMs) für medizinische Zwecke.
Fragen und Antworten zu Large-Model-Algorithmus-Stelleninterviews: Häufige Fragen und Konzepterklärungen „Large-Model-Interviewfragen“, „Algorithmus-Stelleninterview“, „Häufige Interviewfragen“, „Large-Model-Algorithmus-Interview“, „Grundlagen der Large-Model-Anwendung“
Automatische Entdeckung von schnellen Parallelisierungsstrategien für das verteilte Training tiefer neuronaler Netze
Trainierung großer Sprachmodelle für die Argumentation in einem kontinuierlichen latenten Raum
Ein vollständig quelloffenes Framework zum Erstellen von RL-Trainingsschnupfen über das Internet.
Das offizielle Repository von Pai-Megatron-Patch für das groß angelegte Training von LLM & VLM, entwickelt von Alibaba Cloud.
Ein Fork zum Hinzufügen des multimodalen Modelltrainings zu open-r1
Eine vertrauenswürdige Gesichtsanalysierungsforschungsplattform, die vom Tencent Youtu Lab entwickelt wurde
fitlog ist ein Tool, das Benutzer bei der Protokollierung von Logs und der Verwaltung von Code während des Deep-Learning-Trainings unterstützt.
PyTorch-Compiler, der Training und Inferenz beschleunigt. Erhalten Sie integrierte Optimierungen für Leistung, Speicher und Parallelität und schreiben Sie mühelos Ihre eigenen.
Kollektive Kommunikationsbibliothek mit verschiedenen Primitiven für das Multi-Maschinen-Training.
Eine Sammlung von FANTASTISCHEN Dingen über Mixture-of-Experts
DeepRec ist ein leistungsstarkes Deep-Learning-Framework für Empfehlungen, das auf TensorFlow basiert. Es wird in der Inkubation der LF AI & Data Foundation gehostet.
GigaTrain: Ein effizientes und skalierbares Trainings-Framework für KI-Modelle
Eine offene Infrastruktur zur Demokratisierung und Dezentralisierung der Entwicklung von Superintelligenz für die Menschheit.
Verteilte Aufmerksamkeit für lineare Skalierbarkeit beim Training mit ultra-langem Kontext und heterogenen Daten