Git Stars Git Stars

#tensorrt-llm Repository

Scopri 24 repository GitHub open source attivi contrassegnati con #tensorrt-llm, che raccolgono un totale di 65,708 stelle (con una media di 2,737 stelle per progetto). Il progetto leader di questo argomento è SWivid/F5-TTS, con 15,634 stelle.

24
Totale Repository
65,708
Totale stelle
2,737
Media Stelle/Repo
Linguaggi di programmazione: Python Jupyter Notebook Rust C++

24 repository in totale

1
SWivid/F5-TTS

Codice ufficiale per "F5-TTS: una fiaba che falsifica discorsi fluenti e fedeli con Flow Matching"

SWivid
⭐ 15,634 Python 👤 SWivid User 🕐 Aggiornato 2026-11-03 📅 Creato 2024-10-08
2
ai-dynamo/dynamo

Un framework di inferenza distribuita su larga scala per data center

ai-dynamo
⭐ 8,542 Rust 👤 ai-dynamo Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2025-03-03
3
NVIDIA/Model-Optimizer

Una libreria unificata di tecniche di ottimizzazione dei modelli SOTA come quantizzazione, distillazione, pruning, ricerca di architetture neurali, decodifica speculativa, ecc. Comprime i modelli di deep learning per framework di distribuzione a valle come TensorRT-LLM, TensorRT, vLLM, ecc., per ottimizzare la velocità di inferenza.

NVIDIA
⭐ 5,646 Python 👤 NVIDIA Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2024-04-23
4
xlite-dev/Awesome-LLM-Inference

📚Un elenco curato di Awesome LLM/VLM Inference Papers con codici: Flash-Attention, Paged-Attention, WINT8/4, Parallelism, ecc.🎉

xlite-dev
⭐ 5,565 Python 👤 xlite-dev Organization 🕐 Aggiornato 2026-10-20 📅 Creato 2023-08-27
5
collabora/WhisperLive

Un'implementazione quasi in tempo reale di Whisper di OpenAI.

collabora
⭐ 4,363 Python 👤 collabora Organization 🕐 Aggiornato 2026-11-20 📅 Creato 2023-05-04
6
mit-han-lab/llm-awq

[MLSys 2024 Best Paper Award] AWQ: Quantizzazione dei pesi consapevole dell'attivazione per la compressione e l'accelerazione di LLM

mit-han-lab
⭐ 3,590 Python 👤 mit-han-lab Organization 🕐 Aggiornato 2025-07-17 📅 Creato 2023-06-01
7
NVIDIA/ChatRTX

Un progetto di riferimento per sviluppatori per la creazione di chatbot Retrieval Augmented Generation (RAG) su Windows utilizzando TensorRT-LLM

NVIDIA
⭐ 3,101 Python 👤 NVIDIA Organization 🕐 Aggiornato 2026-01-21 📅 Creato 2023-10-18
8
cfregly/ai-performance-engineering

Codice, laboratori e risorse per O'Reilly AI Systems Performance Engineering: ottimizzazione GPU, addestramento distribuito, scalabilità dell'inferenza e ottimizzazione full-stack.

cfregly
⭐ 2,233 Python 👤 cfregly User 🕐 Aggiornato 2026-11-19 📅 Creato 2025-04-21
9
SemiAnalysisAI/InferenceX

Piattaforma di ricerca sull’inferenza open source

SemiAnalysisAI
⭐ 2,074 Python 👤 SemiAnalysisAI Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2025-07-12
10
brevdev/launchables

Raccolta di guide per notebook create dal team di Brev.dev!

brevdev
⭐ 1,819 Jupyter Notebook 👤 brevdev Organization 🕐 Aggiornato 2026-07-21 📅 Creato 2023-08-14
11
NVIDIA/RULER

Questo repository contiene il codice sorgente per RULER: Qual è la dimensione reale del contesto dei tuoi modelli linguistici a lungo contesto?

NVIDIA
⭐ 1,641 Python 👤 NVIDIA Organization 🕐 Aggiornato 2026-11-03 📅 Creato 2024-04-09
13
mit-han-lab/smoothquant

[ICML 2023] SmoothQuant: Quantizzazione Post-Training Accurata ed Efficiente per Grandi Modelli Linguistici

mit-han-lab
⭐ 1,576 Python 👤 mit-han-lab Organization 🕐 Aggiornato 2024-07-12 📅 Creato 2022-11-17
14
NVIDIA-NeMo/Skills

Un progetto per migliorare le capacità dei modelli linguistici di grandi dimensioni

NVIDIA-NeMo
⭐ 1,065 Python 👤 NVIDIA-NeMo Organization 🕐 Aggiornato 2026-11-18 📅 Creato 2024-02-11
16
triton-inference-server/tensorrtllm_backend

Il backend Triton TensorRT-LLM

triton-inference-server
⭐ 944 👤 triton-inference-server Organization 🕐 Aggiornato 2026-11-02 📅 Creato 2023-09-12
17
triton-inference-server/tutorials

Questo repository contiene tutorial ed esempi per Triton Inference Server

triton-inference-server
⭐ 869 Python 👤 triton-inference-server Organization 🕐 Aggiornato 2026-11-17 📅 Creato 2022-12-16
18
Tencent-Hunyuan/Hunyuan-A13B

Tencent Hunyuan A13B (in breve Hunyuan-A13B), un LLM innovativo e open-source costruito su un'architettura MoE a grana fine.

Tencent-Hunyuan
⭐ 815 Python 👤 Tencent-Hunyuan Organization 🕐 Aggiornato 2025-07-08 📅 Creato 2025-06-27
20
IEIT-Yuan/Yuan-2.0

Yuan 2.0 Large Language Model

IEIT-Yuan
⭐ 689 Python 👤 IEIT-Yuan Organization 🕐 Aggiornato 2024-07-11 📅 Creato 2023-11-26
23
shashikg/WhisperS2T

Una pipeline ottimizzata da parlato a testo per il modello Whisper che supporta più motori di inferenza

shashikg
⭐ 534 Jupyter Notebook 👤 shashikg User 🕐 Aggiornato 2024-08-27 📅 Creato 2023-12-16
24
coderonion/awesome-cuda-and-hpc

🚀🚀🚀 Questo repository elenca alcuni fantastici progetti pubblici su CUDA, cuda-python, cuBLAS, cuDNN, CUTLASS, TensorRT, TensorRT-LLM, Triton, TVM, MLIR, PTX e High Performance Computing (HPC).

coderonion
⭐ 502 👤 coderonion User 🕐 Aggiornato 2025-08-02 📅 Creato 2023-02-23

Domande frequenti

1

Qual è il repository #tensorrt-llm più popolare su GitHub?

Il progetto open source #tensorrt-llm più alto in classifica su GitHub è SWivid/F5-TTS, con 15,634 stelle. Codice ufficiale per "F5-TTS: una fiaba che falsifica discorsi fluenti e fedeli con Flow Matching"

2

Quali linguaggi di programmazione sono più utilizzati nei repository #tensorrt-llm?

Tra i progetti #tensorrt-llm più alti in classifica su GitHub, i linguaggi di programmazione più comuni sono Python, Jupyter Notebook, Rust, C++.

3

Come viene calcolata la classifica dei repository #tensorrt-llm?

Monitoriamo 24 repository open source attivi contrassegnati con #tensorrt-llm (500+ stelle), per un totale di 65,708 stelle e una media di 2,737 stelle per repository. Le classifiche vengono aggiornate quotidianamente tramite l’API di GitHub.