#llm-optimization Dépôts
Découvrez 18 dépôts GitHub open source actifs associés à #llm-optimization, cumulant 56,346 étoiles au total (soit une moyenne de 3,130 étoiles par projet). Le projet en tête de ce thème est OpenBMB/MiniCPM, avec 11,898 étoiles.
18 dépôts au total
Une bibliothèque unifiée de techniques d'optimisation de modèles SOTA telles que la quantification, la distillation, l'élagage, la recherche d'architecture neuronale, le décodage spéculatif, etc. Elle compresse les modèles d'apprentissage profond pour les frameworks de déploiement en aval tels que TensorRT-LLM, TensorRT, vLLM, etc., afin d'optimiser la vitesse d'inférence.
Anti-sèche VIP pour les Transformers et grands modèles linguistiques CME 295 de Stanford
Framework d'optimisation des invites piloté par agent et conscient des tâches
Une collection de plus de 500 études de cas de conception de systèmes ML et LLM du monde réel provenant de plus de 100 entreprises. Apprenez comment les meilleures entreprises technologiques mettent en œuvre GenAI en production.
🐳 Implémentations Triton efficaces pour "Native Sparse Attention: Hardware-Aligned and Natively Trainable Sparse Attention"
Code pour l'article ICML 2023 "SparseGPT: Massive Language Models Can Be Accurately Pruned in One-Shot".
Un cache pour les agents d'IA pour apprendre et rejouer des comportements complexes.
Foire aux questions
Quel est le dépôt #llm-optimization le plus populaire sur GitHub ?
Le projet #llm-optimization open source le mieux classé sur GitHub est OpenBMB/MiniCPM, avec 11,898 étoiles. MiniCPM5 : des LLMs de pointe sur l'appareil, petits mais puissants.
Quels langages de programmation sont les plus utilisés dans les dépôts #llm-optimization ?
Parmi les projets #llm-optimization les mieux classés sur GitHub, les langages de programmation les plus courants sont Python, Jupyter Notebook, TypeScript, Swift.
Comment le classement des dépôts #llm-optimization est-il calculé ?
Nous suivons 18 dépôts open source actifs associés à #llm-optimization (500+ étoiles), totalisant 56,346 étoiles, avec une moyenne de 3,130 étoiles par dépôt. Les classements sont mis à jour quotidiennement à partir de l’API GitHub.