Git Stars Git Stars

#tensorrt-llm 저장소

#tensorrt-llm 태그가 지정된 GitHub의 활성 오픈 소스 저장소 24개를 확인해 보세요. 총 65,708개의 스타를 획득했으며 프로젝트당 평균 2,737개입니다. 이 주제를 이끄는 저장소는 15,634개의 스타를 받은 SWivid/F5-TTS입니다.

24
총 리포지토리
65,708
총 별점
2,737
리포지토리당 평균 스타 수

저장소 총 24개

1
SWivid/F5-TTS

"F5-TTS: Flow Matching으로 유창하고 충실한 음성을 흉내내는 이야기꾼"의 공식 코드

SWivid
⭐ 15,634 Python 👤 SWivid User 🕐 업데이트됨 2026-11-03 📅 생성됨 2024-10-08
2
ai-dynamo/dynamo

데이터센터 규모 분산 추론 서빙 프레임워크

ai-dynamo
⭐ 8,542 Rust 👤 ai-dynamo Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2025-03-03
3
NVIDIA/Model-Optimizer

양자화, 증류, 가지치기(pruning), 신경 아키텍처 검색, 추론적 디코딩 등 SOTA 모델 최적화 기술을 통합한 라이브러리입니다. TensorRT-LLM, TensorRT, vLLM과 같은 다운스트림 배포 프레임워크를 위해 딥러닝 모델을 압축하여 추론 속도를 최적화합니다.

NVIDIA
⭐ 5,646 Python 👤 NVIDIA Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2024-04-23
4
xlite-dev/Awesome-LLM-Inference

📚Flash-Attention, Paged-Attention, WINT8/4, Parallelism 등 Awesome LLM/VLM 추론 논문 및 코드 모음집🎉

xlite-dev
⭐ 5,565 Python 👤 xlite-dev Organization 🕐 업데이트됨 2026-10-20 📅 생성됨 2023-08-27
5
collabora/WhisperLive

OpenAI의 Whisper에 대한 거의 실시간 구현입니다.

collabora
⭐ 4,363 Python 👤 collabora Organization 🕐 업데이트됨 2026-11-20 📅 생성됨 2023-05-04
6
mit-han-lab/llm-awq

[MLSys 2024 최우수 논문상] AWQ: LLM 압축 및 가속을 위한 활성화 인식 가중치 양자화

mit-han-lab
⭐ 3,590 Python 👤 mit-han-lab Organization 🕐 업데이트됨 2025-07-17 📅 생성됨 2023-06-01
7
NVIDIA/ChatRTX

TensorRT-LLM을 사용하여 Windows에서 검색 증강 생성(RAG) 챗봇을 만들기 위한 개발자 참조 프로젝트

NVIDIA
⭐ 3,101 Python 👤 NVIDIA Organization 🕐 업데이트됨 2026-01-21 📅 생성됨 2023-10-18
8
cfregly/ai-performance-engineering

O'Reilly AI 시스템 성능 엔지니어링을 위한 코드, 실습 및 리소스: GPU 최적화, 분산 학습, 추론 확장 및 풀스택 튜닝.

cfregly
⭐ 2,233 Python 👤 cfregly User 🕐 업데이트됨 2026-11-19 📅 생성됨 2025-04-21
9
SemiAnalysisAI/InferenceX

오픈 소스 추론 연구 플랫폼

SemiAnalysisAI
⭐ 2,074 Python 👤 SemiAnalysisAI Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2025-07-12
10
brevdev/launchables

Brev.dev 팀에서 만든 노트북 가이드 모음!

brevdev
⭐ 1,819 Jupyter Notebook 👤 brevdev Organization 🕐 업데이트됨 2026-07-21 📅 생성됨 2023-08-14
11
NVIDIA/RULER

이 리포지토리에는 RULER: 여러분의 장기 컨텍스트 언어 모델의 실제 컨텍스트 크기는 얼마입니까? 의 소스 코드가 포함되어 있습니다.

NVIDIA
⭐ 1,641 Python 👤 NVIDIA Organization 🕐 업데이트됨 2026-11-03 📅 생성됨 2024-04-09
13
mit-han-lab/smoothquant

[ICML 2023] SmoothQuant: 거대 언어 모델을 위한 정확하고 효율적인 학습 후 양자화

mit-han-lab
⭐ 1,576 Python 👤 mit-han-lab Organization 🕐 업데이트됨 2024-07-12 📅 생성됨 2022-11-17
14
NVIDIA-NeMo/Skills

대규모 언어 모델의 기술 향상 프로젝트

NVIDIA-NeMo
⭐ 1,065 Python 👤 NVIDIA-NeMo Organization 🕐 업데이트됨 2026-11-18 📅 생성됨 2024-02-11
⭐ 1,041 Python 👤 huggingface Organization 🕐 업데이트됨 2026-09-24 📅 생성됨 2023-10-06
16
triton-inference-server/tensorrtllm_backend

Triton TensorRT-LLM 백엔드

triton-inference-server
⭐ 944 👤 triton-inference-server Organization 🕐 업데이트됨 2026-11-02 📅 생성됨 2023-09-12
17
triton-inference-server/tutorials

이 리포지토리에는 Triton Inference Server에 대한 튜토리얼 및 예제가 포함되어 있습니다.

triton-inference-server
⭐ 869 Python 👤 triton-inference-server Organization 🕐 업데이트됨 2026-11-17 📅 생성됨 2022-12-16
18
Tencent-Hunyuan/Hunyuan-A13B

미세한 MoE 아키텍처를 기반으로 구축된 혁신적이고 오픈 소스인 LLM인 Tencent Hunyuan A13B(Hunyuan-A13B 약칭).

Tencent-Hunyuan
⭐ 815 Python 👤 Tencent-Hunyuan Organization 🕐 업데이트됨 2025-07-08 📅 생성됨 2025-06-27
20
IEIT-Yuan/Yuan-2.0

Yuan 2.0 대규모 언어 모델

IEIT-Yuan
⭐ 689 Python 👤 IEIT-Yuan Organization 🕐 업데이트됨 2024-07-11 📅 생성됨 2023-11-26
23
shashikg/WhisperS2T

다중 추론 엔진을 지원하는 Whisper 모델을 위한 최적화된 음성-텍스트 파이프라인

shashikg
⭐ 534 Jupyter Notebook 👤 shashikg User 🕐 업데이트됨 2024-08-27 📅 생성됨 2023-12-16
24
coderonion/awesome-cuda-and-hpc

🚀🚀🚀 이 저장소는 CUDA, cuda-python, cuBLAS, cuDNN, CUTLASS, TensorRT, TensorRT-LLM, Triton, TVM, MLIR, PTX 및 고성능 컴퓨팅(HPC)과 관련된 멋진 공개 프로젝트들을 나열합니다.

coderonion
⭐ 502 👤 coderonion User 🕐 업데이트됨 2025-08-02 📅 생성됨 2023-02-23

자주 묻는 질문

1

GitHub에서 가장 인기 있는 #tensorrt-llm 저장소는 무엇인가요?

GitHub에서 가장 높은 순위의 오픈 소스 #tensorrt-llm 프로젝트는 15,634개의 스타를 받은 SWivid/F5-TTS입니다. "F5-TTS: Flow Matching으로 유창하고 충실한 음성을 흉내내는 이야기꾼"의 공식 코드

2

#tensorrt-llm 저장소에서 가장 많이 사용되는 프로그래밍 언어는 무엇인가요?

GitHub에서 순위가 가장 높은 #tensorrt-llm 프로젝트 중 가장 일반적으로 사용되는 프로그래밍 언어는 Python, Jupyter Notebook, Rust, C++입니다.

3

#tensorrt-llm 저장소 순위는 어떻게 계산되나요?

#tensorrt-llm 태그가 지정된 활성 오픈 소스 저장소(24개, 스타 500개 이상)를 추적하고 있습니다. 총 스타 수는 65,708개이며 저장소당 평균 2,737개입니다. 순위는 GitHub API를 통해 매일 업데이트됩니다.