Git Stars Git Stars

#tensorrt-llm Repositórios

Descubra 24 repositórios ativos de código aberto no GitHub marcados com #tensorrt-llm, acumulando um total de 65,708 estrelas (uma média de 2,737 por projeto). O líder deste tópico é SWivid/F5-TTS, com 15,634 estrelas.

24
Total de Repositórios
65,708
Total de estrelas
2,737
Média de Estrelas/Repositório
Linguagens de programação: Python Jupyter Notebook Rust C++

24 repositórios no total

1
SWivid/F5-TTS

Código oficial para "F5-TTS: Um contador de histórias que simula fala fluente e fiel com Flow Matching"

SWivid
⭐ 15,634 Python 👤 SWivid User 🕐 Atualizado 2026-11-03 📅 Criado 2024-10-08
2
ai-dynamo/dynamo

Um Framework de Serviço de Inferência Distribuída em Escala de Data Center

ai-dynamo
⭐ 8,542 Rust 👤 ai-dynamo Organization 🕐 Atualizado 2026-11-21 📅 Criado 2025-03-03
3
NVIDIA/Model-Optimizer

Uma biblioteca unificada de técnicas de otimização de modelos SOTA, como quantização, destilação, poda (pruning), busca de arquitetura neural, decodificação especulativa, etc. Ela comprime modelos de aprendizado profundo para frameworks de implantação downstream como TensorRT-LLM, TensorRT, vLLM, etc., para otimizar a velocidade de inferência.

NVIDIA
⭐ 5,646 Python 👤 NVIDIA Organization 🕐 Atualizado 2026-11-21 📅 Criado 2024-04-23
4
xlite-dev/Awesome-LLM-Inference

📚Uma lista selecionada de artigos incríveis sobre Inferência de LLM/VLM com Códigos: Flash-Attention, Paged-Attention, WINT8/4, Parallelism, etc.🎉

xlite-dev
⭐ 5,565 Python 👤 xlite-dev Organization 🕐 Atualizado 2026-10-20 📅 Criado 2023-08-27
5
collabora/WhisperLive

Uma implementação quase em tempo real do Whisper da OpenAI.

collabora
⭐ 4,363 Python 👤 collabora Organization 🕐 Atualizado 2026-11-20 📅 Criado 2023-05-04
6
mit-han-lab/llm-awq

[Prêmio de Melhor Artigo MLSys 2024] AWQ: Quantização de Pesos Ciente de Ativação para Compressão e Aceleração de LLM

mit-han-lab
⭐ 3,590 Python 👤 mit-han-lab Organization 🕐 Atualizado 2025-07-17 📅 Criado 2023-06-01
7
NVIDIA/ChatRTX

Um projeto de referência para desenvolvedores para criar chatbots de Geração Aumentada por Recuperação (RAG) no Windows usando TensorRT-LLM

NVIDIA
⭐ 3,101 Python 👤 NVIDIA Organization 🕐 Atualizado 2026-01-21 📅 Criado 2023-10-18
8
cfregly/ai-performance-engineering

Código, laboratórios e recursos para O'Reilly AI Systems Performance Engineering: otimização de GPU, treinamento distribuído, escalonamento de inferência e ajuste full-stack.

cfregly
⭐ 2,233 Python 👤 cfregly User 🕐 Atualizado 2026-11-19 📅 Criado 2025-04-21
9
SemiAnalysisAI/InferenceX

Plataforma de pesquisa em inferência de código aberto

SemiAnalysisAI
⭐ 2,074 Python 👤 SemiAnalysisAI Organization 🕐 Atualizado 2026-11-21 📅 Criado 2025-07-12
10
brevdev/launchables

Coleção de guias de notebook criados pela equipe Brev.dev!

brevdev
⭐ 1,819 Jupyter Notebook 👤 brevdev Organization 🕐 Atualizado 2026-07-21 📅 Criado 2023-08-14
11
NVIDIA/RULER

Este repositório contém o código-fonte para RULER: Qual é o Tamanho Real do Contexto dos Seus Modelos de Linguagem de Contexto Longo?

NVIDIA
⭐ 1,641 Python 👤 NVIDIA Organization 🕐 Atualizado 2026-11-03 📅 Criado 2024-04-09
13
mit-han-lab/smoothquant

[ICML 2023] SmoothQuant: Quantização Pós-Treinamento Precisa e Eficiente para Grandes Modelos de Linguagem

mit-han-lab
⭐ 1,576 Python 👤 mit-han-lab Organization 🕐 Atualizado 2024-07-12 📅 Criado 2022-11-17
14
NVIDIA-NeMo/Skills

Um projeto para melhorar as habilidades de grandes modelos de linguagem

NVIDIA-NeMo
⭐ 1,065 Python 👤 NVIDIA-NeMo Organization 🕐 Atualizado 2026-11-18 📅 Criado 2024-02-11
⭐ 1,041 Python 👤 huggingface Organization 🕐 Atualizado 2026-09-24 📅 Criado 2023-10-06
16
triton-inference-server/tensorrtllm_backend

O Backend Triton TensorRT-LLM

triton-inference-server
⭐ 944 👤 triton-inference-server Organization 🕐 Atualizado 2026-11-02 📅 Criado 2023-09-12
17
triton-inference-server/tutorials

Este repositório contém tutoriais e exemplos para o Triton Inference Server

triton-inference-server
⭐ 869 Python 👤 triton-inference-server Organization 🕐 Atualizado 2026-11-17 📅 Criado 2022-12-16
18
Tencent-Hunyuan/Hunyuan-A13B

Tencent Hunyuan A13B (resumido como Hunyuan-A13B), um LLM inovador e de código aberto construído sobre uma arquitetura MoE de grão fino.

Tencent-Hunyuan
⭐ 815 Python 👤 Tencent-Hunyuan Organization 🕐 Atualizado 2025-07-08 📅 Criado 2025-06-27
20
IEIT-Yuan/Yuan-2.0

Modelo de Linguagem Grande Yuan 2.0

IEIT-Yuan
⭐ 689 Python 👤 IEIT-Yuan Organization 🕐 Atualizado 2024-07-11 📅 Criado 2023-11-26
23
shashikg/WhisperS2T

Um pipeline otimizado de fala para texto para o modelo Whisper que suporta vários mecanismos de inferência

shashikg
⭐ 534 Jupyter Notebook 👤 shashikg User 🕐 Atualizado 2024-08-27 📅 Criado 2023-12-16
24
coderonion/awesome-cuda-and-hpc

🚀🚀🚀 Este repositório lista alguns projetos públicos incríveis de CUDA, cuda-python, cuBLAS, cuDNN, CUTLASS, TensorRT, TensorRT-LLM, Triton, TVM, MLIR, PTX e Computação de Alto Desempenho (HPC).

coderonion
⭐ 502 👤 coderonion User 🕐 Atualizado 2025-08-02 📅 Criado 2023-02-23

Perguntas Frequentes

1

Qual é o repositório de #tensorrt-llm mais popular no GitHub?

O projeto de código aberto de #tensorrt-llm mais bem classificado no GitHub é SWivid/F5-TTS, com 15,634 estrelas. Código oficial para "F5-TTS: Um contador de histórias que simula fala fluente e fiel com Flow Matching"

2

Quais linguagens de programação são mais usadas nos repositórios de #tensorrt-llm?

Entre os projetos de #tensorrt-llm mais bem classificados no GitHub, as linguagens de programação mais comuns são Python, Jupyter Notebook, Rust, C++.

3

Como é calculada a classificação dos repositórios de #tensorrt-llm?

Acompanhamos 24 repositórios ativos de código aberto marcados com #tensorrt-llm (com mais de 500 estrelas), totalizando 65,708 estrelas e uma média de 2,737 estrelas por repositório. As classificações são atualizadas diariamente a partir da API do GitHub.