#tensor-parallelism Repositories
Entdecke 14 aktive Open-Source-GitHub-Repositories, die mit #tensor-parallelism getaggt sind und insgesamt 45,528 Sterne gesammelt haben (durchschnittlich 3,252 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist bigscience-workshop/petals mit 9,864 Sternen.
Insgesamt 14 Repositories
LLMs zu Hause ausführen, im BitTorrent-Stil. Fine-Tuning und Inferenz bis zu 10x schneller als beim Offloading.
Einfache und effiziente PyTorch-native Transformer-Textgenerierung in <1000 LOC Python.
Eine kompakte Implementierung von SGLang, entwickelt, um die Komplexität moderner LLM-Serving-Systeme zu entmystifizieren.
Eine optimierte Quantisierungs- und Inferenzbibliothek für die lokale Ausführung von LLMs auf modernen Consumer-GPUs
Laufende Forschung trainiert Transformer-Sprachmodelle in großem Maßstab, einschließlich: BERT & GPT-2
Ein skalierbares, agentenorientiertes und HuggingFace-natives RL-Framework für die Forschung (9.000 Zeilen).
Minimale und kommentierte Implementierungen von Schlüsselideen aus der modernen Deep-Learning-Forschung.
Beschleunigen Sie Ihre Hugging Face Transformers um das 7,6- bis 9-fache. Nativ für Hugging Face und PyTorch.
Häufig gestellte Fragen
Welches ist das beliebteste #tensor-parallelism-Repository auf GitHub?
Das am höchsten eingestufte Open-Source-#tensor-parallelism-Projekt auf GitHub ist bigscience-workshop/petals mit 9,864 Sternen. LLMs zu Hause ausführen, im BitTorrent-Stil. Fine-Tuning und Inferenz bis zu 10x schneller als beim Offloading.
Welche Programmiersprachen werden in #tensor-parallelism-Repositories am häufigsten verwendet?
Unter den am höchsten eingestuften #tensor-parallelism-Projekten auf GitHub sind Python, C++ die am häufigsten verwendeten Programmiersprachen.
Wie wird das Ranking der #tensor-parallelism-Repositories berechnet?
Wir verfolgen 14 aktive Open-Source-Repositories, die mit #tensor-parallelism getaggt sind (500+ Sterne), mit insgesamt 45,528 Sternen und durchschnittlich 3,252 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.