#pagedattention Repository
Scopri 3 repository GitHub open source attivi contrassegnati con #pagedattention, che raccolgono un totale di 2,415 stelle (con una media di 805 stelle per progetto). Il progetto leader di questo argomento è jmaczan/tiny-vllm, con 1,207 stelle.
3 repository in totale
Costruisci il tuo motore di inferenza LLM ad alte prestazioni in C++ e CUDA - una versione più piccola di vLLM
WeDLM: Il modello linguistico di diffusione più veloce con attenzione causale standard e compatibilità nativa con la cache KV, che offre accelerazioni reali rispetto alle basi ottimizzate con vLLM.
Domande frequenti
Qual è il repository #pagedattention più popolare su GitHub?
Il progetto open source #pagedattention più alto in classifica su GitHub è jmaczan/tiny-vllm, con 1,207 stelle. Costruisci il tuo motore di inferenza LLM ad alte prestazioni in C++ e CUDA - una versione più piccola di vLLM
Quali linguaggi di programmazione sono più utilizzati nei repository #pagedattention?
Tra i progetti #pagedattention più alti in classifica su GitHub, i linguaggi di programmazione più comuni sono C++, Python.
Come viene calcolata la classifica dei repository #pagedattention?
Monitoriamo 3 repository open source attivi contrassegnati con #pagedattention (500+ stelle), per un totale di 2,415 stelle e una media di 805 stelle per repository. Le classifiche vengono aggiornate quotidianamente tramite l’API di GitHub.