#inference-acceleration 저장소
#inference-acceleration 태그가 지정된 GitHub의 활성 오픈 소스 저장소 14개를 확인해 보세요. 총 24,811개의 스타를 획득했으며 프로젝트당 평균 1,772개입니다. 이 주제를 이끄는 저장소는 6,461개의 스타를 받은 openai/consistency_models입니다.
저장소 총 14개
[ICLR2025, ICML2025, NeurIPS2025 Spotlight] Quantized Attention은 FlashAttention에 비해 2~5배의 속도 향상을 달성했으며, 언어, 이미지, 비디오 모델 전반에 걸쳐 엔드 투 엔드(end-to-end) 지표 손실이 없습니다.
[NeurIPS'24 Spotlight, ICLR'25, ICML'25] Long-context LLM의 추론 속도를 높이기 위해 근사적이고 동적인 희소 계산은 주의를 계산하며, 이는 A100에서 사전 채우기 시 추론 지연 시간을 최대 10배까지 줄이면서 정확도를 유지합니다.
[ECCV 2024 구두 발표] 논문 코드: 레이어 2 이후 이미지당 1/2 토큰의 가치: 대규모 비전-언어 모델을 위한 플러그 앤 플레이 추론 가속화
자주 묻는 질문
GitHub에서 가장 인기 있는 #inference-acceleration 저장소는 무엇인가요?
GitHub에서 가장 높은 순위의 오픈 소스 #inference-acceleration 프로젝트는 6,461개의 스타를 받은 openai/consistency_models입니다. 일관성 모델의 공식 리포지토리입니다.
#inference-acceleration 저장소에서 가장 많이 사용되는 프로그래밍 언어는 무엇인가요?
GitHub에서 순위가 가장 높은 #inference-acceleration 프로젝트 중 가장 일반적으로 사용되는 프로그래밍 언어는 Python, Cuda입니다.
#inference-acceleration 저장소 순위는 어떻게 계산되나요?
#inference-acceleration 태그가 지정된 활성 오픈 소스 저장소(14개, 스타 500개 이상)를 추적하고 있습니다. 총 스타 수는 24,811개이며 저장소당 평균 1,772개입니다. 순위는 GitHub API를 통해 매일 업데이트됩니다.