#paged-attention 저장소
#paged-attention 태그가 지정된 GitHub의 활성 오픈 소스 저장소 6개를 확인해 보세요. 총 9,822개의 스타를 획득했으며 프로젝트당 평균 1,637개입니다. 이 주제를 이끄는 저장소는 5,565개의 스타를 받은 xlite-dev/Awesome-LLM-Inference입니다.
저장소 총 6개
📚Flash-Attention, Paged-Attention, WINT8/4, Parallelism 등 Awesome LLM/VLM 추론 논문 및 코드 모음집🎉
순수 Rust + CUDA LLM 추론 엔진 — PyTorch 불필요, OpenAI 호환, Qwen3에서 Kimi-K2까지 지원
교사에서 타일까지 — 처음부터 구축한 LLM 증류 및 서빙 엔진: 맞춤형 Triton/CUDA 커널, FSDP 증류, 페이징 KV 연속 배치, 추측 디코딩, Rust 게이트웨이, JAX 오라클, 해석 가능성 도구.
자주 묻는 질문
GitHub에서 가장 인기 있는 #paged-attention 저장소는 무엇인가요?
GitHub에서 가장 높은 순위의 오픈 소스 #paged-attention 프로젝트는 5,565개의 스타를 받은 xlite-dev/Awesome-LLM-Inference입니다. 📚Flash-Attention, Paged-Attention, WINT8/4, Parallelism 등 Awesome LLM/VLM 추론 논문 및 코드 모음집🎉
#paged-attention 저장소에서 가장 많이 사용되는 프로그래밍 언어는 무엇인가요?
GitHub에서 순위가 가장 높은 #paged-attention 프로젝트 중 가장 일반적으로 사용되는 프로그래밍 언어는 Python, Rust입니다.
#paged-attention 저장소 순위는 어떻게 계산되나요?
#paged-attention 태그가 지정된 활성 오픈 소스 저장소(6개, 스타 500개 이상)를 추적하고 있습니다. 총 스타 수는 9,822개이며 저장소당 평균 1,637개입니다. 순위는 GitHub API를 통해 매일 업데이트됩니다.