#llm-optimization Repositories
Entdecke 18 aktive Open-Source-GitHub-Repositories, die mit #llm-optimization getaggt sind und insgesamt 56,346 Sterne gesammelt haben (durchschnittlich 3,130 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist OpenBMB/MiniCPM mit 11,898 Sternen.
Insgesamt 18 Repositories
Eine einheitliche Bibliothek für SOTA-Modelloptimierungstechniken wie Quantisierung, Destillation, Pruning, neuronale Architektursuche, spekulative Dekodierung usw. Sie komprimiert Deep-Learning-Modelle für nachgelagerte Bereitstellungs-Frameworks wie TensorRT-LLM, TensorRT, vLLM usw., um die Inferenzgeschwindigkeit zu optimieren.
VIP-Spickzettel für Stanfords CME 295 Transformatoren und große Sprachmodelle
Eine Sammlung von über 500 realen ML- und LLM-Systemdesign-Fallstudien von über 100 Unternehmen. Erfahren Sie, wie Top-Tech-Unternehmen GenAI in der Produktion implementieren.
🐳 Effiziente Triton-Implementierungen für "Native Sparse Attention: Hardware-Aligned and Natively Trainable Sparse Attention"
Code für die ICML 2023-Arbeit „SparseGPT: Massive Sprachmodelle können in One-Shot präzise trainiert werden“.
Ein Cache für KI-Agenten, um komplexe Verhaltensweisen zu lernen und wiederzugeben.
Häufig gestellte Fragen
Welches ist das beliebteste #llm-optimization-Repository auf GitHub?
Das am höchsten eingestufte Open-Source-#llm-optimization-Projekt auf GitHub ist OpenBMB/MiniCPM mit 11,898 Sternen. MiniCPM5: SOTA On-Device-LLMs, klein aber leistungsstark.
Welche Programmiersprachen werden in #llm-optimization-Repositories am häufigsten verwendet?
Unter den am höchsten eingestuften #llm-optimization-Projekten auf GitHub sind Python, Jupyter Notebook, TypeScript, Swift die am häufigsten verwendeten Programmiersprachen.
Wie wird das Ranking der #llm-optimization-Repositories berechnet?
Wir verfolgen 18 aktive Open-Source-Repositories, die mit #llm-optimization getaggt sind (500+ Sterne), mit insgesamt 56,346 Sternen und durchschnittlich 3,130 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.