Git Stars Git Stars

#ai-inference-acceleration 저장소

#ai-inference-acceleration 태그가 지정된 GitHub의 활성 오픈 소스 저장소 3개를 확인해 보세요. 총 8,097개의 스타를 획득했으며 프로젝트당 평균 2,699개입니다. 이 주제를 이끄는 저장소는 5,646개의 스타를 받은 NVIDIA/Model-Optimizer입니다.

3
총 리포지토리
8,097
총 별점
2,699
리포지토리당 평균 스타 수
프로그래밍 언어: Python C++
1
NVIDIA/Model-Optimizer

양자화, 증류, 가지치기(pruning), 신경 아키텍처 검색, 추론적 디코딩 등 SOTA 모델 최적화 기술을 통합한 라이브러리입니다. TensorRT-LLM, TensorRT, vLLM과 같은 다운스트림 배포 프레임워크를 위해 딥러닝 모델을 압축하여 추론 속도를 최적화합니다.

NVIDIA
⭐ 5,646 Python 👤 NVIDIA Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2024-04-23
2
ai-dynamo/nixl

NVIDIA Inference Xfer Library (NIXL)

ai-dynamo
⭐ 1,373 C++ 👤 ai-dynamo Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2025-03-05

자주 묻는 질문

1

GitHub에서 가장 인기 있는 #ai-inference-acceleration 저장소는 무엇인가요?

GitHub에서 가장 높은 순위의 오픈 소스 #ai-inference-acceleration 프로젝트는 5,646개의 스타를 받은 NVIDIA/Model-Optimizer입니다. 양자화, 증류, 가지치기(pruning), 신경 아키텍처 검색, 추론적 디코딩 등 SOTA 모델 최적화 기술을 통합한 라이브러리입니다. TensorRT-LLM, TensorRT, vLLM과 같은 다운스트림 배포 프레임워크를 위해 딥러닝 모델을 압축하여 추론 속도를 최적화합니다.

2

#ai-inference-acceleration 저장소에서 가장 많이 사용되는 프로그래밍 언어는 무엇인가요?

GitHub에서 순위가 가장 높은 #ai-inference-acceleration 프로젝트 중 가장 일반적으로 사용되는 프로그래밍 언어는 Python, C++입니다.

3

#ai-inference-acceleration 저장소 순위는 어떻게 계산되나요?

#ai-inference-acceleration 태그가 지정된 활성 오픈 소스 저장소(3개, 스타 500개 이상)를 추적하고 있습니다. 총 스타 수는 8,097개이며 저장소당 평균 2,699개입니다. 순위는 GitHub API를 통해 매일 업데이트됩니다.