Git Stars Git Stars

#inference-acceleration 저장소

#inference-acceleration 태그가 지정된 GitHub의 활성 오픈 소스 저장소 14개를 확인해 보세요. 총 24,811개의 스타를 획득했으며 프로젝트당 평균 1,772개입니다. 이 주제를 이끄는 저장소는 6,461개의 스타를 받은 openai/consistency_models입니다.

14
총 리포지토리
24,811
총 별점
1,772
리포지토리당 평균 스타 수
프로그래밍 언어: Python Cuda

저장소 총 14개

1
openai/consistency_models

일관성 모델의 공식 리포지토리입니다.

openai
⭐ 6,461 Python 👤 openai Organization 🕐 업데이트됨 2024-03-22 📅 생성됨 2023-02-26
2
thu-ml/SageAttention

[ICLR2025, ICML2025, NeurIPS2025 Spotlight] Quantized Attention은 FlashAttention에 비해 2~5배의 속도 향상을 달성했으며, 언어, 이미지, 비디오 모델 전반에 걸쳐 엔드 투 엔드(end-to-end) 지표 손실이 없습니다.

thu-ml
⭐ 4,017 Cuda 👤 thu-ml Organization 🕐 업데이트됨 2026-01-17 📅 생성됨 2024-10-03
3
thu-ml/TurboDiffusion

TurboDiffusion: 비디오 확산 모델을 위한 100-200배 가속

thu-ml
⭐ 3,870 Python 👤 thu-ml Organization 🕐 업데이트됨 2026-11-04 📅 생성됨 2025-12-06
4
ali-vilab/TeaCache

타임스텝 임베딩 이야기: 비디오 확산 모델을 위한 캐싱의 시간입니다

ali-vilab
⭐ 1,333 Python 👤 ali-vilab Organization 🕐 업데이트됨 2025-06-08 📅 생성됨 2024-11-27
5
meta-pytorch/segment-anything-fast

segment-anything의 일괄 오프라인 추론 지향 버전

meta-pytorch
⭐ 1,321 Python 👤 meta-pytorch Organization 🕐 업데이트됨 2025-08-22 📅 생성됨 2023-08-30
6
thu-ml/SpargeAttn

[ICML2025] SpargeAttention: 모든 모델 추론을 가속하는 훈련 없는 희소 어텐션.

thu-ml
⭐ 1,269 Cuda 👤 thu-ml Organization 🕐 업데이트됨 2026-02-25 📅 생성됨 2025-02-25
7
microsoft/MInference

[NeurIPS'24 Spotlight, ICLR'25, ICML'25] Long-context LLM의 추론 속도를 높이기 위해 근사적이고 동적인 희소 계산은 주의를 계산하며, 이는 A100에서 사전 채우기 시 추론 지연 시간을 최대 10배까지 줄이면서 정확도를 유지합니다.

microsoft
⭐ 1,230 Python 👤 microsoft Organization 🕐 업데이트됨 2026-11-18 📅 생성됨 2024-05-22
8
NVlabs/Fast-dLLM

"Fast-dLLM: KV 캐시 및 병렬 디코딩 활성화를 통한 확산 LLM의 훈련 없는 가속"의 공식 구현

NVlabs
⭐ 1,116 Python 👤 NVlabs Organization 🕐 업데이트됨 2026-05-30 📅 생성됨 2025-05-27
9
Alpha-VLLM/Lumina-mGPT-2.0

Lumina-mGPT 2.0: 독립형 자기회귀 이미지 모델링

Alpha-VLLM
⭐ 1,081 Python 👤 Alpha-VLLM Organization 🕐 업데이트됨 2025-11-03 📅 생성됨 2025-04-03
10
AlibabaResearch/SparkDiffusion

SparkDiffusion: 희소화, 증류, 양자화 등을 결합해 DiT 동영상 생성을 265배 가속

AlibabaResearch
⭐ 750 Python 👤 AlibabaResearch Organization 🕐 업데이트됨 2026-10-26 📅 생성됨 2026-09-18
11
OpenGVLab/DCNv4

[CVPR 2024] Deformable Convolution v4

OpenGVLab
⭐ 695 Python 👤 OpenGVLab Organization 🕐 업데이트됨 2024-05-17 📅 생성됨 2023-12-25
12
pkunlp-icler/FastV

[ECCV 2024 구두 발표] 논문 코드: 레이어 2 이후 이미지당 1/2 토큰의 가치: 대규모 비전-언어 모델을 위한 플러그 앤 플레이 추론 가속화

pkunlp-icler
⭐ 579 Python 👤 pkunlp-icler Organization 🕐 업데이트됨 2025-01-04 📅 생성됨 2024-03-11
13
thu-ml/SLA

SLA: 미세 조정 가능한 희소-선형 어텐션을 통한 확산 트랜스포머의 희소성 극복

thu-ml
⭐ 553 Python 👤 thu-ml Organization 🕐 업데이트됨 2026-10-18 📅 생성됨 2025-09-25
14
Generated-Computers/Locals

Mac에서 여러 AI 에이전트를 동시에 실행하세요. 최대 3배 더 빠릅니다.

Generated-Computers
⭐ 538 Python 👤 Generated-Computers Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2026-10-12

자주 묻는 질문

1

GitHub에서 가장 인기 있는 #inference-acceleration 저장소는 무엇인가요?

GitHub에서 가장 높은 순위의 오픈 소스 #inference-acceleration 프로젝트는 6,461개의 스타를 받은 openai/consistency_models입니다. 일관성 모델의 공식 리포지토리입니다.

2

#inference-acceleration 저장소에서 가장 많이 사용되는 프로그래밍 언어는 무엇인가요?

GitHub에서 순위가 가장 높은 #inference-acceleration 프로젝트 중 가장 일반적으로 사용되는 프로그래밍 언어는 Python, Cuda입니다.

3

#inference-acceleration 저장소 순위는 어떻게 계산되나요?

#inference-acceleration 태그가 지정된 활성 오픈 소스 저장소(14개, 스타 500개 이상)를 추적하고 있습니다. 총 스타 수는 24,811개이며 저장소당 평균 1,772개입니다. 순위는 GitHub API를 통해 매일 업데이트됩니다.