Git Stars Git Stars

#llm-inference-optimization Dépôts

Découvrez 18 dépôts GitHub open source actifs associés à #llm-inference-optimization, cumulant 44,885 étoiles au total (soit une moyenne de 2,493 étoiles par projet). Le projet en tête de ce thème est guidance-ai/guidance, avec 21,828 étoiles.

18
Total des Dépôts
44,885
Nombre total d'étoiles
2,493
Moyenne d'Étoiles/Dépôt
1
guidance-ai/guidance

Un langage de guidage pour contrôler les grands modèles de langage.

guidance-ai
⭐ 21,828 Jupyter Notebook 👤 guidance-ai Organization 🕐 Mis à jour 2026-05-21 📅 Créé 2022-11-10
2
Sumanth077/ai-engineering-toolkit

Une liste organisée de plus de 100 bibliothèques et frameworks pour les ingénieurs IA construisant avec des LLM

Sumanth077
⭐ 3,402 👤 Sumanth077 User 🕐 Mis à jour 2026-05-11 📅 Créé 2025-08-06
3
km1994/LLMs_interview_notes

Cet entrepôt enregistre principalement les questions d'entretien relatives aux ingénieurs d'algorithmes de grands modèles (LLM).

km1994
⭐ 2,670 👤 km1994 User 🕐 Mis à jour 2026-10-11 📅 Créé 2023-09-16
4
maitrix-org/llm-reasoners

Une bibliothèque pour le raisonnement avancé des grands modèles linguistiques

maitrix-org
⭐ 2,344 Python 👤 maitrix-org Organization 🕐 Mis à jour 2025-06-10 📅 Créé 2023-06-01
5
IPADS-SAI/MobiAgent

L'agent GUI intelligent pour téléphones mobiles

IPADS-SAI
⭐ 1,936 Python 👤 IPADS-SAI Organization 🕐 Mis à jour 2026-07-17 📅 Créé 2025-08-29
7
HazyResearch/minions

Grands et petits LLM travaillant ensemble

HazyResearch
⭐ 1,394 Python 👤 HazyResearch Organization 🕐 Mis à jour 2026-03-12 📅 Créé 2025-02-03
9
VILA-Lab/Awesome-DLMs

Le dépôt GitHub officiel pour l'article de synthèse « A Survey on Diffusion Language Models ».

VILA-Lab
⭐ 1,252 👤 VILA-Lab Organization 🕐 Mis à jour 2026-10-02 📅 Créé 2025-07-14
10
kebijuelun/Awesome-LLM-Learning

Apprentissage des grands modèles linguistiques (LLM) (Apprentissage des grands modèles linguistiques)

kebijuelun
⭐ 984 TypeScript 👤 kebijuelun User 🕐 Mis à jour 2026-01-05 📅 Créé 2023-08-06
11
sgl-project/sgl-learning-materials

Matériaux pour apprendre SGLang

sgl-project
⭐ 906 👤 sgl-project Organization 🕐 Mis à jour 2026-01-05 📅 Créé 2024-09-10
12
feifeibear/LLMSpeculativeSampling

Inférence rapide à partir de grands modèles de langage via le décodage spéculatif

feifeibear
⭐ 875 Python 👤 feifeibear User 🕐 Mis à jour 2024-08-22 📅 Créé 2023-08-16
13
Nebius-Academy/LLM-Engineering-Essentials

Matériaux pour le cours "LLM Engineering Essentials"

Nebius-Academy
⭐ 844 Jupyter Notebook 👤 Nebius-Academy Organization 🕐 Mis à jour 2026-03-30 📅 Créé 2025-02-17
14
LLMServe/DistServe

Système de service désagrégé pour les grands modèles de langage (LLM).

LLMServe
⭐ 817 Jupyter Notebook 👤 LLMServe Organization 🕐 Mis à jour 2025-04-06 📅 Créé 2024-01-16
15
Tencent-Hunyuan/Hunyuan-A13B

Tencent Hunyuan A13B (abrégé Hunyuan-A13B), un LLM innovant et open-source construit sur une architecture MoE à grain fin.

Tencent-Hunyuan
⭐ 815 Python 👤 Tencent-Hunyuan Organization 🕐 Mis à jour 2025-07-08 📅 Créé 2025-06-27
16
castorini/rank_llm

RankLLM est une boîte à outils Python pour la recherche reproductible en récupération d'informations utilisant des rerankers, axée sur le reranking par liste.

castorini
⭐ 715 Python 👤 castorini Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2023-08-07
17
thu-coai/Glyph

Dépôt officiel pour « Glyph : Mise à l'échelle des fenêtres de contexte via la compression visuelle et textuelle »

thu-coai
⭐ 612 Python 👤 thu-coai Organization 🕐 Mis à jour 2025-11-04 📅 Créé 2025-10-20
18
hahnyuan/LLM-Viewer

Analyser l'inférence des grands modèles de langage (LLM). Analyser des aspects tels que le calcul, le stockage, la transmission et le modèle roofline du matériel dans une interface conviviale.

hahnyuan
⭐ 600 Python 👤 hahnyuan User 🕐 Mis à jour 2024-09-11 📅 Créé 2024-01-07

Foire aux questions

1

Quel est le dépôt #llm-inference-optimization le plus populaire sur GitHub ?

Le projet #llm-inference-optimization open source le mieux classé sur GitHub est guidance-ai/guidance, avec 21,828 étoiles. Un langage de guidage pour contrôler les grands modèles de langage.

2

Quels langages de programmation sont les plus utilisés dans les dépôts #llm-inference-optimization ?

Parmi les projets #llm-inference-optimization les mieux classés sur GitHub, les langages de programmation les plus courants sont Python, Jupyter Notebook, TypeScript.

3

Comment le classement des dépôts #llm-inference-optimization est-il calculé ?

Nous suivons 18 dépôts open source actifs associés à #llm-inference-optimization (500+ étoiles), totalisant 44,885 étoiles, avec une moyenne de 2,493 étoiles par dépôt. Les classements sont mis à jour quotidiennement à partir de l’API GitHub.