#llm-inference-acceleration Repositórios
Descubra 6 repositórios ativos de código aberto no GitHub marcados com #llm-inference-acceleration, acumulando um total de 6,745 estrelas (uma média de 1,124 por projeto). O líder deste tópico é ByteDance-Seed/Triton-distributed, com 1,587 estrelas.
6 repositórios no total
[ICML 2024] Quebre a Dependência Sequencial da Inferência de LLM Usando Decodificação Lookahead
Repositório oficial do Pytorch para Compressão Extrema de Grandes Modelos de Linguagem via Quantização Aditiva https://arxiv.org/pdf/2401.06118.pdf e PV-Tuning: Além da Estimação Straight-Through para Compressão Extrema de LLMs https://arxiv.org/abs/2405.14852
Perguntas Frequentes
Qual é o repositório de #llm-inference-acceleration mais popular no GitHub?
O projeto de código aberto de #llm-inference-acceleration mais bem classificado no GitHub é ByteDance-Seed/Triton-distributed, com 1,587 estrelas. Compilador distribuído e kernels paralelos otimizados
Quais linguagens de programação são mais usadas nos repositórios de #llm-inference-acceleration?
Entre os projetos de #llm-inference-acceleration mais bem classificados no GitHub, as linguagens de programação mais comuns são Python, Jupyter Notebook.
Como é calculada a classificação dos repositórios de #llm-inference-acceleration?
Acompanhamos 6 repositórios ativos de código aberto marcados com #llm-inference-acceleration (com mais de 500 estrelas), totalizando 6,745 estrelas e uma média de 1,124 estrelas por repositório. As classificações são atualizadas diariamente a partir da API do GitHub.