Git Stars Git Stars

#paged-attention Repositories

Entdecke 6 aktive Open-Source-GitHub-Repositories, die mit #paged-attention getaggt sind und insgesamt 9,822 Sterne gesammelt haben (durchschnittlich 1,637 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist xlite-dev/Awesome-LLM-Inference mit 5,565 Sternen.

6
Gesamtzahl der Repositories
9,822
Gesamtanzahl der Sterne
1,637
Durchschnittliche Sterne/Repo
Programmiersprachen: Python Rust

Insgesamt 6 Repositories

1
xlite-dev/Awesome-LLM-Inference

📚Eine kuratierte Liste von Awesome LLM/VLM-Inferenz-Papers mit Codes: Flash-Attention, Paged-Attention, WINT8/4, Parallelism usw.🎉

xlite-dev
⭐ 5,565 Python 👤 xlite-dev Organization 🕐 Aktualisiert 2026-10-20 📅 Erstellt 2023-08-27
2
meta-pytorch/attention-gym

Hilfreiche Werkzeuge und Beispiele für die Arbeit mit Flex-Attention

meta-pytorch
⭐ 1,274 Python 👤 meta-pytorch Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2024-07-31
3
triton-inference-server/tensorrtllm_backend

Das Triton TensorRT-LLM Backend

triton-inference-server
⭐ 944 👤 triton-inference-server Organization 🕐 Aktualisiert 2026-11-02 📅 Erstellt 2023-09-12
4
pegainfer-project/pegainfer

Reine Rust + CUDA LLM-Inferenz-Engine — kein PyTorch, OpenAI-kompatibel, bedient Qwen3 bis Kimi-K2

pegainfer-project
⭐ 748 Rust 👤 pegainfer-project Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2026-02-17
5
EricLBuehler/candle-vllm

Effiziente Plattform für die Inferenz und das Serving lokaler LLMs, einschließlich eines OpenAI-kompatiblen API-Servers.

EricLBuehler
⭐ 742 Rust 👤 EricLBuehler User 🕐 Aktualisiert 2026-10-18 📅 Erstellt 2023-10-29
6
zengxiao-he/tessera

Vom Lehrer zu Kacheln — eine von Grund auf neu entwickelte LLM-Destillations- und Serving-Engine: benutzerdefinierte Triton/CUDA-Kernel, FSDP-Destillation, kontinuierliches Batching mit paged-KV, spekulative Dekodierung, ein Rust-Gateway, ein JAX-Orakel und Interpretierbarkeitswerkzeuge.

zengxiao-he
⭐ 556 Python 👤 zengxiao-he User 🕐 Aktualisiert 2026-10-09 📅 Erstellt 2026-06-05

Häufig gestellte Fragen

1

Welches ist das beliebteste #paged-attention-Repository auf GitHub?

Das am höchsten eingestufte Open-Source-#paged-attention-Projekt auf GitHub ist xlite-dev/Awesome-LLM-Inference mit 5,565 Sternen. 📚Eine kuratierte Liste von Awesome LLM/VLM-Inferenz-Papers mit Codes: Flash-Attention, Paged-Attention, WINT8/4, Parallelism usw.🎉

2

Welche Programmiersprachen werden in #paged-attention-Repositories am häufigsten verwendet?

Unter den am höchsten eingestuften #paged-attention-Projekten auf GitHub sind Python, Rust die am häufigsten verwendeten Programmiersprachen.

3

Wie wird das Ranking der #paged-attention-Repositories berechnet?

Wir verfolgen 6 aktive Open-Source-Repositories, die mit #paged-attention getaggt sind (500+ Sterne), mit insgesamt 9,822 Sternen und durchschnittlich 1,637 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.