Git Stars Git Stars

#tensorrt-llm Repositorios

Descubre 24 repositorios activos de código abierto de GitHub etiquetados con #tensorrt-llm, que acumulan 65,708 estrellas en total (una media de 2,737 estrellas por proyecto). El líder de este tema es SWivid/F5-TTS, con 15,634 estrellas.

24
Total de Repositorios
65,708
Total de estrellas
2,737
Promedio de Estrellas/Repo
Lenguajes de programación: Python Jupyter Notebook Rust C++

24 repositorios en total

1
SWivid/F5-TTS

Código oficial para "F5-TTS: un narrador de cuentos que falsifica el habla fluida y fiel con Flow Matching"

SWivid
⭐ 15,634 Python 👤 SWivid User 🕐 Actualizado 2026-11-03 📅 Creado 2024-10-08
2
ai-dynamo/dynamo

Un marco de servicio de inferencia distribuido a escala de centro de datos

ai-dynamo
⭐ 8,542 Rust 👤 ai-dynamo Organization 🕐 Actualizado 2026-11-21 📅 Creado 2025-03-03
3
NVIDIA/Model-Optimizer

Una biblioteca unificada de técnicas de optimización de modelos SOTA como cuantización, destilación, poda, búsqueda de arquitectura neuronal, decodificación especulativa, etc. Comprime modelos de aprendizaje profundo para marcos de despliegue posteriores como TensorRT-LLM, TensorRT, vLLM, etc., para optimizar la velocidad de inferencia.

NVIDIA
⭐ 5,646 Python 👤 NVIDIA Organization 🕐 Actualizado 2026-11-21 📅 Creado 2024-04-23
4
xlite-dev/Awesome-LLM-Inference

📚Una lista seleccionada de increíbles artículos sobre inferencia LLM/VLM con códigos: Flash-Attention, Paged-Attention, WINT8/4, Paralelismo, etc.🎉

xlite-dev
⭐ 5,565 Python 👤 xlite-dev Organization 🕐 Actualizado 2026-10-20 📅 Creado 2023-08-27
5
collabora/WhisperLive

Una implementación casi en vivo de Whisper de OpenAI.

collabora
⭐ 4,363 Python 👤 collabora Organization 🕐 Actualizado 2026-11-20 📅 Creado 2023-05-04
6
mit-han-lab/llm-awq

[MLSys 2024 Best Paper Award] AWQ: Cuantización de pesos sensible a la activación para la compresión y aceleración de LLM

mit-han-lab
⭐ 3,590 Python 👤 mit-han-lab Organization 🕐 Actualizado 2025-07-17 📅 Creado 2023-06-01
7
NVIDIA/ChatRTX

Un proyecto de referencia para desarrolladores para crear chatbots de Generación Aumentada por Recuperación (RAG) en Windows utilizando TensorRT-LLM

NVIDIA
⭐ 3,101 Python 👤 NVIDIA Organization 🕐 Actualizado 2026-01-21 📅 Creado 2023-10-18
8
cfregly/ai-performance-engineering

Código, laboratorios y recursos para O'Reilly AI Systems Performance Engineering: optimización de GPU, entrenamiento distribuido, escalado de inferencia y ajuste de pila completa.

cfregly
⭐ 2,233 Python 👤 cfregly User 🕐 Actualizado 2026-11-19 📅 Creado 2025-04-21
9
SemiAnalysisAI/InferenceX

Plataforma de investigación de inferencia de código abierto

SemiAnalysisAI
⭐ 2,074 Python 👤 SemiAnalysisAI Organization 🕐 Actualizado 2026-11-21 📅 Creado 2025-07-12
10
brevdev/launchables

¡Colección de guías de notebook creadas por el equipo de Brev.dev!

brevdev
⭐ 1,819 Jupyter Notebook 👤 brevdev Organization 🕐 Actualizado 2026-07-21 📅 Creado 2023-08-14
11
NVIDIA/RULER

Este repositorio contiene el código fuente de RULER: ¿Cuál es el tamaño real del contexto de sus modelos de lenguaje de contexto largo?

NVIDIA
⭐ 1,641 Python 👤 NVIDIA Organization 🕐 Actualizado 2026-11-03 📅 Creado 2024-04-09
13
mit-han-lab/smoothquant

[ICML 2023] SmoothQuant: Cuantización post-entrenamiento precisa y eficiente para modelos de lenguaje grandes

mit-han-lab
⭐ 1,576 Python 👤 mit-han-lab Organization 🕐 Actualizado 2024-07-12 📅 Creado 2022-11-17
14
NVIDIA-NeMo/Skills

Un proyecto para mejorar las habilidades de los modelos de lenguaje grandes

NVIDIA-NeMo
⭐ 1,065 Python 👤 NVIDIA-NeMo Organization 🕐 Actualizado 2026-11-18 📅 Creado 2024-02-11
⭐ 1,041 Python 👤 huggingface Organization 🕐 Actualizado 2026-09-24 📅 Creado 2023-10-06
16
triton-inference-server/tensorrtllm_backend

El backend Triton TensorRT-LLM

triton-inference-server
⭐ 944 👤 triton-inference-server Organization 🕐 Actualizado 2026-11-02 📅 Creado 2023-09-12
17
triton-inference-server/tutorials

Este repositorio contiene tutoriales y ejemplos para Triton Inference Server

triton-inference-server
⭐ 869 Python 👤 triton-inference-server Organization 🕐 Actualizado 2026-11-17 📅 Creado 2022-12-16
18
Tencent-Hunyuan/Hunyuan-A13B

Tencent Hunyuan A13B (en adelante Hunyuan-A13B), un LLM innovador y de código abierto construido sobre una arquitectura MoE de grano fino.

Tencent-Hunyuan
⭐ 815 Python 👤 Tencent-Hunyuan Organization 🕐 Actualizado 2025-07-08 📅 Creado 2025-06-27
20
IEIT-Yuan/Yuan-2.0

Yuan 2.0 Large Language Model

IEIT-Yuan
⭐ 689 Python 👤 IEIT-Yuan Organization 🕐 Actualizado 2024-07-11 📅 Creado 2023-11-26
23
shashikg/WhisperS2T

Una canalización optimizada de voz a texto para el modelo Whisper compatible con múltiples motores de inferencia

shashikg
⭐ 534 Jupyter Notebook 👤 shashikg User 🕐 Actualizado 2024-08-27 📅 Creado 2023-12-16
24
coderonion/awesome-cuda-and-hpc

🚀🚀🚀 Este repositorio enumera algunos proyectos públicos increíbles de CUDA, cuda-python, cuBLAS, cuDNN, CUTLASS, TensorRT, TensorRT-LLM, Triton, TVM, MLIR, PTX y Computación de Alto Rendimiento (HPC).

coderonion
⭐ 502 👤 coderonion User 🕐 Actualizado 2025-08-02 📅 Creado 2023-02-23

Preguntas frecuentes

1

¿Cuál es el repositorio de #tensorrt-llm más popular en GitHub?

El proyecto de código abierto de #tensorrt-llm mejor posicionado en GitHub es SWivid/F5-TTS, con 15,634 estrellas. Código oficial para "F5-TTS: un narrador de cuentos que falsifica el habla fluida y fiel con Flow Matching"

2

¿Qué lenguajes de programación se utilizan más en los repositorios de #tensorrt-llm?

Entre los proyectos de #tensorrt-llm mejor posicionados en GitHub, los lenguajes de programación más comunes son Python, Jupyter Notebook, Rust, C++.

3

¿Cómo se calcula la clasificación de los repositorios de #tensorrt-llm?

Seguimos 24 repositorios activos de código abierto etiquetados con #tensorrt-llm (500+ estrellas), que suman un total de 65,708 estrellas, con una media de 2,737 estrellas por repositorio. Las clasificaciones se actualizan diariamente a partir de la API de GitHub.