Git Stars Git Stars

#tensorrt-llm Dépôts

Découvrez 24 dépôts GitHub open source actifs associés à #tensorrt-llm, cumulant 65,708 étoiles au total (soit une moyenne de 2,737 étoiles par projet). Le projet en tête de ce thème est SWivid/F5-TTS, avec 15,634 étoiles.

24
Total des Dépôts
65,708
Nombre total d'étoiles
2,737
Moyenne d'Étoiles/Dépôt
1
SWivid/F5-TTS

Code officiel pour "F5-TTS : un conteur qui simule un discours fluide et fidèle avec Flow Matching"

SWivid
⭐ 15,634 Python 👤 SWivid User 🕐 Mis à jour 2026-11-03 📅 Créé 2024-10-08
2
ai-dynamo/dynamo

Un cadre de service d'inférence distribué à l'échelle du centre de données

ai-dynamo
⭐ 8,542 Rust 👤 ai-dynamo Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2025-03-03
3
NVIDIA/Model-Optimizer

Une bibliothèque unifiée de techniques d'optimisation de modèles SOTA telles que la quantification, la distillation, l'élagage, la recherche d'architecture neuronale, le décodage spéculatif, etc. Elle compresse les modèles d'apprentissage profond pour les frameworks de déploiement en aval tels que TensorRT-LLM, TensorRT, vLLM, etc., afin d'optimiser la vitesse d'inférence.

NVIDIA
⭐ 5,646 Python 👤 NVIDIA Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2024-04-23
4
xlite-dev/Awesome-LLM-Inference

📚Une liste organisée d'articles impressionnants sur l'inférence LLM/VLM avec codes : Flash-Attention, Paged-Attention, WINT8/4, Parallélisme, etc.🎉

xlite-dev
⭐ 5,565 Python 👤 xlite-dev Organization 🕐 Mis à jour 2026-10-20 📅 Créé 2023-08-27
5
collabora/WhisperLive

Une implémentation quasi en direct de Whisper d'OpenAI.

collabora
⭐ 4,363 Python 👤 collabora Organization 🕐 Mis à jour 2026-11-20 📅 Créé 2023-05-04
6
mit-han-lab/llm-awq

[MLSys 2024 Best Paper Award] AWQ : Quantification des poids sensible à l'activation pour la compression et l'accélération des LLM

mit-han-lab
⭐ 3,590 Python 👤 mit-han-lab Organization 🕐 Mis à jour 2025-07-17 📅 Créé 2023-06-01
7
NVIDIA/ChatRTX

Un projet de référence pour développeurs pour la création de chatbots Retrieval Augmented Generation (RAG) sur Windows à l'aide de TensorRT-LLM

NVIDIA
⭐ 3,101 Python 👤 NVIDIA Organization 🕐 Mis à jour 2026-01-21 📅 Créé 2023-10-18
8
cfregly/ai-performance-engineering

Code, laboratoires et ressources pour O'Reilly AI Systems Performance Engineering : optimisation GPU, entraînement distribué, mise à l'échelle de l'inférence et réglage full-stack.

cfregly
⭐ 2,233 Python 👤 cfregly User 🕐 Mis à jour 2026-11-19 📅 Créé 2025-04-21
9
SemiAnalysisAI/InferenceX

Plateforme de recherche en inférence open source

SemiAnalysisAI
⭐ 2,074 Python 👤 SemiAnalysisAI Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2025-07-12
10
brevdev/launchables

Collection de guides de notebook créés par l'équipe Brev.dev !

brevdev
⭐ 1,819 Jupyter Notebook 👤 brevdev Organization 🕐 Mis à jour 2026-07-21 📅 Créé 2023-08-14
11
NVIDIA/RULER

Ce dépôt contient le code source de RULER : Quelle est la taille réelle du contexte de vos modèles de langage à long contexte ?

NVIDIA
⭐ 1,641 Python 👤 NVIDIA Organization 🕐 Mis à jour 2026-11-03 📅 Créé 2024-04-09
13
mit-han-lab/smoothquant

[ICML 2023] SmoothQuant : Quantification post-entraînement précise et efficace pour les grands modèles linguistiques

mit-han-lab
⭐ 1,576 Python 👤 mit-han-lab Organization 🕐 Mis à jour 2024-07-12 📅 Créé 2022-11-17
14
NVIDIA-NeMo/Skills

Un projet visant à améliorer les compétences des grands modèles linguistiques

NVIDIA-NeMo
⭐ 1,065 Python 👤 NVIDIA-NeMo Organization 🕐 Mis à jour 2026-11-18 📅 Créé 2024-02-11
⭐ 1,041 Python 👤 huggingface Organization 🕐 Mis à jour 2026-09-24 📅 Créé 2023-10-06
16
triton-inference-server/tensorrtllm_backend

Le backend Triton TensorRT-LLM

triton-inference-server
⭐ 944 👤 triton-inference-server Organization 🕐 Mis à jour 2026-11-02 📅 Créé 2023-09-12
17
triton-inference-server/tutorials

Ce dépôt contient des tutoriels et des exemples pour Triton Inference Server

triton-inference-server
⭐ 869 Python 👤 triton-inference-server Organization 🕐 Mis à jour 2026-11-17 📅 Créé 2022-12-16
18
Tencent-Hunyuan/Hunyuan-A13B

Tencent Hunyuan A13B (abrégé Hunyuan-A13B), un LLM innovant et open-source construit sur une architecture MoE à grain fin.

Tencent-Hunyuan
⭐ 815 Python 👤 Tencent-Hunyuan Organization 🕐 Mis à jour 2025-07-08 📅 Créé 2025-06-27
20
IEIT-Yuan/Yuan-2.0

Yuan 2.0 Large Language Model

IEIT-Yuan
⭐ 689 Python 👤 IEIT-Yuan Organization 🕐 Mis à jour 2024-07-11 📅 Créé 2023-11-26
23
shashikg/WhisperS2T

Un pipeline optimisé de synthèse vocale vers texte pour le modèle Whisper prenant en charge plusieurs moteurs d'inférence

shashikg
⭐ 534 Jupyter Notebook 👤 shashikg User 🕐 Mis à jour 2024-08-27 📅 Créé 2023-12-16
24
coderonion/awesome-cuda-and-hpc

🚀🚀🚀 Ce dépôt répertorie quelques projets publics impressionnants liés à CUDA, cuda-python, cuBLAS, cuDNN, CUTLASS, TensorRT, TensorRT-LLM, Triton, TVM, MLIR, PTX et au calcul haute performance (HPC).

coderonion
⭐ 502 👤 coderonion User 🕐 Mis à jour 2025-08-02 📅 Créé 2023-02-23

Foire aux questions

1

Quel est le dépôt #tensorrt-llm le plus populaire sur GitHub ?

Le projet #tensorrt-llm open source le mieux classé sur GitHub est SWivid/F5-TTS, avec 15,634 étoiles. Code officiel pour "F5-TTS : un conteur qui simule un discours fluide et fidèle avec Flow Matching"

2

Quels langages de programmation sont les plus utilisés dans les dépôts #tensorrt-llm ?

Parmi les projets #tensorrt-llm les mieux classés sur GitHub, les langages de programmation les plus courants sont Python, Jupyter Notebook, Rust, C++.

3

Comment le classement des dépôts #tensorrt-llm est-il calculé ?

Nous suivons 24 dépôts open source actifs associés à #tensorrt-llm (500+ étoiles), totalisant 65,708 étoiles, avec une moyenne de 2,737 étoiles par dépôt. Les classements sont mis à jour quotidiennement à partir de l’API GitHub.