#llm-inference-optimization Dépôts
Découvrez 18 dépôts GitHub open source actifs associés à #llm-inference-optimization, cumulant 44,885 étoiles au total (soit une moyenne de 2,493 étoiles par projet). Le projet en tête de ce thème est guidance-ai/guidance, avec 21,828 étoiles.
18 dépôts au total
Une liste organisée de plus de 100 bibliothèques et frameworks pour les ingénieurs IA construisant avec des LLM
Cet entrepôt enregistre principalement les questions d'entretien relatives aux ingénieurs d'algorithmes de grands modèles (LLM).
Une bibliothèque pour le raisonnement avancé des grands modèles linguistiques
Le dépôt GitHub officiel pour l'article de synthèse « A Survey on Diffusion Language Models ».
Apprentissage des grands modèles linguistiques (LLM) (Apprentissage des grands modèles linguistiques)
Inférence rapide à partir de grands modèles de langage via le décodage spéculatif
Tencent Hunyuan A13B (abrégé Hunyuan-A13B), un LLM innovant et open-source construit sur une architecture MoE à grain fin.
RankLLM est une boîte à outils Python pour la recherche reproductible en récupération d'informations utilisant des rerankers, axée sur le reranking par liste.
Dépôt officiel pour « Glyph : Mise à l'échelle des fenêtres de contexte via la compression visuelle et textuelle »
Analyser l'inférence des grands modèles de langage (LLM). Analyser des aspects tels que le calcul, le stockage, la transmission et le modèle roofline du matériel dans une interface conviviale.
Foire aux questions
Quel est le dépôt #llm-inference-optimization le plus populaire sur GitHub ?
Le projet #llm-inference-optimization open source le mieux classé sur GitHub est guidance-ai/guidance, avec 21,828 étoiles. Un langage de guidage pour contrôler les grands modèles de langage.
Quels langages de programmation sont les plus utilisés dans les dépôts #llm-inference-optimization ?
Parmi les projets #llm-inference-optimization les mieux classés sur GitHub, les langages de programmation les plus courants sont Python, Jupyter Notebook, TypeScript.
Comment le classement des dépôts #llm-inference-optimization est-il calculé ?
Nous suivons 18 dépôts open source actifs associés à #llm-inference-optimization (500+ étoiles), totalisant 44,885 étoiles, avec une moyenne de 2,493 étoiles par dépôt. Les classements sont mis à jour quotidiennement à partir de l’API GitHub.