Git Stars Git Stars

#paged-attention 저장소

#paged-attention 태그가 지정된 GitHub의 활성 오픈 소스 저장소 6개를 확인해 보세요. 총 9,822개의 스타를 획득했으며 프로젝트당 평균 1,637개입니다. 이 주제를 이끄는 저장소는 5,565개의 스타를 받은 xlite-dev/Awesome-LLM-Inference입니다.

6
총 리포지토리
9,822
총 별점
1,637
리포지토리당 평균 스타 수
프로그래밍 언어: Python Rust
1
xlite-dev/Awesome-LLM-Inference

📚Flash-Attention, Paged-Attention, WINT8/4, Parallelism 등 Awesome LLM/VLM 추론 논문 및 코드 모음집🎉

xlite-dev
⭐ 5,565 Python 👤 xlite-dev Organization 🕐 업데이트됨 2026-10-20 📅 생성됨 2023-08-27
2
meta-pytorch/attention-gym

flex-attention 작업을 위한 유용한 도구 및 예제

meta-pytorch
⭐ 1,274 Python 👤 meta-pytorch Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2024-07-31
3
triton-inference-server/tensorrtllm_backend

Triton TensorRT-LLM 백엔드

triton-inference-server
⭐ 944 👤 triton-inference-server Organization 🕐 업데이트됨 2026-11-02 📅 생성됨 2023-09-12
4
pegainfer-project/pegainfer

순수 Rust + CUDA LLM 추론 엔진 — PyTorch 불필요, OpenAI 호환, Qwen3에서 Kimi-K2까지 지원

pegainfer-project
⭐ 748 Rust 👤 pegainfer-project Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2026-02-17
5
EricLBuehler/candle-vllm

OpenAI와 호환되는 API 서버를 포함하여 로컬 LLM의 추론 및 서비스 제공을 위한 효율적인 플랫폼입니다.

EricLBuehler
⭐ 742 Rust 👤 EricLBuehler User 🕐 업데이트됨 2026-10-18 📅 생성됨 2023-10-29
6
zengxiao-he/tessera

교사에서 타일까지 — 처음부터 구축한 LLM 증류 및 서빙 엔진: 맞춤형 Triton/CUDA 커널, FSDP 증류, 페이징 KV 연속 배치, 추측 디코딩, Rust 게이트웨이, JAX 오라클, 해석 가능성 도구.

zengxiao-he
⭐ 556 Python 👤 zengxiao-he User 🕐 업데이트됨 2026-10-09 📅 생성됨 2026-06-05

자주 묻는 질문

1

GitHub에서 가장 인기 있는 #paged-attention 저장소는 무엇인가요?

GitHub에서 가장 높은 순위의 오픈 소스 #paged-attention 프로젝트는 5,565개의 스타를 받은 xlite-dev/Awesome-LLM-Inference입니다. 📚Flash-Attention, Paged-Attention, WINT8/4, Parallelism 등 Awesome LLM/VLM 추론 논문 및 코드 모음집🎉

2

#paged-attention 저장소에서 가장 많이 사용되는 프로그래밍 언어는 무엇인가요?

GitHub에서 순위가 가장 높은 #paged-attention 프로젝트 중 가장 일반적으로 사용되는 프로그래밍 언어는 Python, Rust입니다.

3

#paged-attention 저장소 순위는 어떻게 계산되나요?

#paged-attention 태그가 지정된 활성 오픈 소스 저장소(6개, 스타 500개 이상)를 추적하고 있습니다. 총 스타 수는 9,822개이며 저장소당 평균 1,637개입니다. 순위는 GitHub API를 통해 매일 업데이트됩니다.