Git Stars Git Stars

#llm-inference-acceleration Repositórios

Descubra 6 repositórios ativos de código aberto no GitHub marcados com #llm-inference-acceleration, acumulando um total de 6,745 estrelas (uma média de 1,124 por projeto). O líder deste tópico é ByteDance-Seed/Triton-distributed, com 1,587 estrelas.

6
Total de Repositórios
6,745
Total de estrelas
1,124
Média de Estrelas/Repositório
Linguagens de programação: Python Jupyter Notebook

6 repositórios no total

1
ByteDance-Seed/Triton-distributed

Compilador distribuído e kernels paralelos otimizados

ByteDance-Seed
⭐ 1,587 Python 👤 ByteDance-Seed Organization 🕐 Atualizado 2026-11-20 📅 Criado 2025-04-02
2
hao-ai-lab/LookaheadDecoding

[ICML 2024] Quebre a Dependência Sequencial da Inferência de LLM Usando Decodificação Lookahead

hao-ai-lab
⭐ 1,337 Python 👤 hao-ai-lab Organization 🕐 Atualizado 2025-03-06 📅 Criado 2023-11-21
3
Vahe1994/AQLM

Repositório oficial do Pytorch para Compressão Extrema de Grandes Modelos de Linguagem via Quantização Aditiva https://arxiv.org/pdf/2401.06118.pdf e PV-Tuning: Além da Estimação Straight-Through para Compressão Extrema de LLMs https://arxiv.org/abs/2405.14852

Vahe1994
⭐ 1,330 Python 👤 Vahe1994 User 🕐 Atualizado 2026-02-26 📅 Criado 2024-01-12
5
skapadia3214/groq-moa

Mistura de Agentes usando Groq

skapadia3214
⭐ 940 Python 👤 skapadia3214 User 🕐 Atualizado 2024-08-09 📅 Criado 2024-06-17

Perguntas Frequentes

1

Qual é o repositório de #llm-inference-acceleration mais popular no GitHub?

O projeto de código aberto de #llm-inference-acceleration mais bem classificado no GitHub é ByteDance-Seed/Triton-distributed, com 1,587 estrelas. Compilador distribuído e kernels paralelos otimizados

2

Quais linguagens de programação são mais usadas nos repositórios de #llm-inference-acceleration?

Entre os projetos de #llm-inference-acceleration mais bem classificados no GitHub, as linguagens de programação mais comuns são Python, Jupyter Notebook.

3

Como é calculada a classificação dos repositórios de #llm-inference-acceleration?

Acompanhamos 6 repositórios ativos de código aberto marcados com #llm-inference-acceleration (com mais de 500 estrelas), totalizando 6,745 estrelas e uma média de 1,124 estrelas por repositório. As classificações são atualizadas diariamente a partir da API do GitHub.