Git Stars Git Stars

#tensorrt-llm Репозитории

Откройте для себя 24 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #tensorrt-llm, с общим числом 65,708 звёзд (в среднем 2,737 на проект). Лидером этой темы является SWivid/F5-TTS, набравший 15,634 звёзд.

24
Всего репозиториев
65,708
Всего звезд
2,737
Среднее количество звезд на репозиторий
Языки программирования: Python Jupyter Notebook Rust C++

Всего репозиториев: 24

1
SWivid/F5-TTS

Официальный код для «F5-TTS: Сказочник, который имитирует беглую и точную речь с помощью Flow Matching»

SWivid
⭐ 15,634 Python 👤 SWivid User 🕐 Обновлено 2026-11-03 📅 Создано 2024-10-08
2
ai-dynamo/dynamo

Фреймворк для распределенного обслуживания выводов в масштабе дата-центра

ai-dynamo
⭐ 8,542 Rust 👤 ai-dynamo Organization 🕐 Обновлено 2026-11-21 📅 Создано 2025-03-03
3
NVIDIA/Model-Optimizer

Единая библиотека методов оптимизации моделей SOTA, таких как квантование, дистилляция, прунинг, поиск нейронных архитектур, спекулятивное декодирование и т. д. Она сжимает модели глубокого обучения для последующих фреймворков развертывания, таких как TensorRT-LLM, TensorRT, vLLM и других, для оптимизации скорости вывода.

NVIDIA
⭐ 5,646 Python 👤 NVIDIA Organization 🕐 Обновлено 2026-11-21 📅 Создано 2024-04-23
4
xlite-dev/Awesome-LLM-Inference

📚Подборка отличных статей об инференсе LLM/VLM с кодами: Flash-Attention, Paged-Attention, WINT8/4, Parallelism и т.д.🎉

xlite-dev
⭐ 5,565 Python 👤 xlite-dev Organization 🕐 Обновлено 2026-10-20 📅 Создано 2023-08-27
5
collabora/WhisperLive

Почти живая реализация Whisper от OpenAI.

collabora
⭐ 4,363 Python 👤 collabora Organization 🕐 Обновлено 2026-11-20 📅 Создано 2023-05-04
6
mit-han-lab/llm-awq

[MLSys 2024 Best Paper Award] AWQ: Активное квантование весов, осознанное активацией, для сжатия и ускорения LLM

mit-han-lab
⭐ 3,590 Python 👤 mit-han-lab Organization 🕐 Обновлено 2025-07-17 📅 Создано 2023-06-01
7
NVIDIA/ChatRTX

Справочный проект для разработчиков по созданию чат-ботов с использованием генерации с дополнением извлекаемых данных (RAG) в Windows с помощью TensorRT-LLM

NVIDIA
⭐ 3,101 Python 👤 NVIDIA Organization 🕐 Обновлено 2026-01-21 📅 Создано 2023-10-18
8
cfregly/ai-performance-engineering

Код, лабораторные работы и ресурсы для O'Reilly AI Systems Performance Engineering: оптимизация GPU, распределенное обучение, масштабирование вывода и полностековая настройка.

cfregly
⭐ 2,233 Python 👤 cfregly User 🕐 Обновлено 2026-11-19 📅 Создано 2025-04-21
9
SemiAnalysisAI/InferenceX

Исследовательская платформа с открытым исходным кодом для инференса

SemiAnalysisAI
⭐ 2,074 Python 👤 SemiAnalysisAI Organization 🕐 Обновлено 2026-11-21 📅 Создано 2025-07-12
10
brevdev/launchables

Коллекция руководств по ноутбукам, созданных командой Brev.dev!

brevdev
⭐ 1,819 Jupyter Notebook 👤 brevdev Organization 🕐 Обновлено 2026-07-21 📅 Создано 2023-08-14
11
NVIDIA/RULER

Этот репозиторий содержит исходный код для RULER: Каков реальный размер контекста ваших языковых моделей с длинным контекстом?

NVIDIA
⭐ 1,641 Python 👤 NVIDIA Organization 🕐 Обновлено 2026-11-03 📅 Создано 2024-04-09
13
mit-han-lab/smoothquant

[ICML 2023] SmoothQuant: Точная и эффективная послетренировочная квантизация для больших языковых моделей

mit-han-lab
⭐ 1,576 Python 👤 mit-han-lab Organization 🕐 Обновлено 2024-07-12 📅 Создано 2022-11-17
14
NVIDIA-NeMo/Skills

Проект по улучшению навыков больших языковых моделей

NVIDIA-NeMo
⭐ 1,065 Python 👤 NVIDIA-NeMo Organization 🕐 Обновлено 2026-11-18 📅 Создано 2024-02-11
⭐ 1,041 Python 👤 huggingface Organization 🕐 Обновлено 2026-09-24 📅 Создано 2023-10-06
⭐ 944 👤 triton-inference-server Organization 🕐 Обновлено 2026-11-02 📅 Создано 2023-09-12
17
triton-inference-server/tutorials

Этот репозиторий содержит учебные пособия и примеры для Triton Inference Server

triton-inference-server
⭐ 869 Python 👤 triton-inference-server Organization 🕐 Обновлено 2026-11-17 📅 Создано 2022-12-16
18
Tencent-Hunyuan/Hunyuan-A13B

Tencent Hunyuan A13B (сокращенно Hunyuan-A13B) — инновационная и открытая LLM, построенная на основе детальной архитектуры MoE.

Tencent-Hunyuan
⭐ 815 Python 👤 Tencent-Hunyuan Organization 🕐 Обновлено 2025-07-08 📅 Создано 2025-06-27
20
IEIT-Yuan/Yuan-2.0

Yuan 2.0 Большая языковая модель

IEIT-Yuan
⭐ 689 Python 👤 IEIT-Yuan Organization 🕐 Обновлено 2024-07-11 📅 Создано 2023-11-26
23
shashikg/WhisperS2T

Оптимизированный конвейер преобразования речи в текст для модели Whisper с поддержкой нескольких движков вывода

shashikg
⭐ 534 Jupyter Notebook 👤 shashikg User 🕐 Обновлено 2024-08-27 📅 Создано 2023-12-16
24
coderonion/awesome-cuda-and-hpc

🚀🚀🚀 В этом репозитории представлен список отличных публичных проектов, связанных с CUDA, cuda-python, cuBLAS, cuDNN, CUTLASS, TensorRT, TensorRT-LLM, Triton, TVM, MLIR, PTX и высокопроизводительными вычислениями (HPC).

coderonion
⭐ 502 👤 coderonion User 🕐 Обновлено 2025-08-02 📅 Создано 2023-02-23

Часто задаваемые вопросы

1

Какой репозиторий по теме #tensorrt-llm наиболее популярен на GitHub?

Самый высоко оценённый проект с открытым исходным кодом по теме #tensorrt-llm на GitHub — SWivid/F5-TTS, набравший 15,634 звёзд. Официальный код для «F5-TTS: Сказочник, который имитирует беглую и точную речь с помощью Flow Matching»

2

Какие языки программирования чаще всего используются в репозиториях по теме #tensorrt-llm?

Среди наиболее высоко оценённых проектов по теме #tensorrt-llm на GitHub чаще всего используются языки программирования Python, Jupyter Notebook, Rust, C++.

3

Как рассчитывается рейтинг репозиториев по теме #tensorrt-llm?

Мы отслеживаем 24 активных репозиториев с открытым исходным кодом, отмеченных тегом #tensorrt-llm (500 и более звёзд), с общим числом 65,708 звёзд и в среднем 2,737 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.