#paged-attention Repository
Scopri 6 repository GitHub open source attivi contrassegnati con #paged-attention, che raccolgono un totale di 9,822 stelle (con una media di 1,637 stelle per progetto). Il progetto leader di questo argomento è xlite-dev/Awesome-LLM-Inference, con 5,565 stelle.
6 repository in totale
📚Un elenco curato di Awesome LLM/VLM Inference Papers con codici: Flash-Attention, Paged-Attention, WINT8/4, Parallelism, ecc.🎉
Motore di inferenza LLM puro Rust + CUDA — nessun PyTorch, compatibile con OpenAI, serve da Qwen3 a Kimi-K2
Piattaforma efficiente per l'inferenza e il servizio di LLM locali, incluso un server API compatibile con OpenAI.
Da insegnante a tessere — un motore di distillazione e servizio LLM costruito da zero: kernel Triton/CUDA personalizzati, distillazione FSDP, elaborazione batch continua con KV paginato, decodifica speculativa, un gateway Rust, un oracolo JAX e strumenti di interpretabilità.
Domande frequenti
Qual è il repository #paged-attention più popolare su GitHub?
Il progetto open source #paged-attention più alto in classifica su GitHub è xlite-dev/Awesome-LLM-Inference, con 5,565 stelle. 📚Un elenco curato di Awesome LLM/VLM Inference Papers con codici: Flash-Attention, Paged-Attention, WINT8/4, Parallelism, ecc.🎉
Quali linguaggi di programmazione sono più utilizzati nei repository #paged-attention?
Tra i progetti #paged-attention più alti in classifica su GitHub, i linguaggi di programmazione più comuni sono Python, Rust.
Come viene calcolata la classifica dei repository #paged-attention?
Monitoriamo 6 repository open source attivi contrassegnati con #paged-attention (500+ stelle), per un totale di 9,822 stelle e una media di 1,637 stelle per repository. Le classifiche vengono aggiornate quotidianamente tramite l’API di GitHub.