Git Stars Git Stars

#ai-inference-acceleration Repositórios

Descubra 3 repositórios ativos de código aberto no GitHub marcados com #ai-inference-acceleration, acumulando um total de 8,097 estrelas (uma média de 2,699 por projeto). O líder deste tópico é NVIDIA/Model-Optimizer, com 5,646 estrelas.

3
Total de Repositórios
8,097
Total de estrelas
2,699
Média de Estrelas/Repositório
Linguagens de programação: Python C++

3 repositórios no total

1
NVIDIA/Model-Optimizer

Uma biblioteca unificada de técnicas de otimização de modelos SOTA, como quantização, destilação, poda (pruning), busca de arquitetura neural, decodificação especulativa, etc. Ela comprime modelos de aprendizado profundo para frameworks de implantação downstream como TensorRT-LLM, TensorRT, vLLM, etc., para otimizar a velocidade de inferência.

NVIDIA
⭐ 5,646 Python 👤 NVIDIA Organization 🕐 Atualizado 2026-11-21 📅 Criado 2024-04-23
2
ai-dynamo/nixl

Biblioteca de Transferência de Inferência NVIDIA (NIXL)

ai-dynamo
⭐ 1,373 C++ 👤 ai-dynamo Organization 🕐 Atualizado 2026-11-21 📅 Criado 2025-03-05

Perguntas Frequentes

1

Qual é o repositório de #ai-inference-acceleration mais popular no GitHub?

O projeto de código aberto de #ai-inference-acceleration mais bem classificado no GitHub é NVIDIA/Model-Optimizer, com 5,646 estrelas. Uma biblioteca unificada de técnicas de otimização de modelos SOTA, como quantização, destilação, poda (pruning), busca de arquitetura neural, decodificação especulativa, etc. Ela comprime modelos de aprendizado profundo para frameworks de implantação downstream como TensorRT-LLM, TensorRT, vLLM, etc., para otimizar a velocidade de inferência.

2

Quais linguagens de programação são mais usadas nos repositórios de #ai-inference-acceleration?

Entre os projetos de #ai-inference-acceleration mais bem classificados no GitHub, as linguagens de programação mais comuns são Python, C++.

3

Como é calculada a classificação dos repositórios de #ai-inference-acceleration?

Acompanhamos 3 repositórios ativos de código aberto marcados com #ai-inference-acceleration (com mais de 500 estrelas), totalizando 8,097 estrelas e uma média de 2,699 estrelas por repositório. As classificações são atualizadas diariamente a partir da API do GitHub.