#ai-inference-acceleration Repositórios
Descubra 3 repositórios ativos de código aberto no GitHub marcados com #ai-inference-acceleration, acumulando um total de 8,097 estrelas (uma média de 2,699 por projeto). O líder deste tópico é NVIDIA/Model-Optimizer, com 5,646 estrelas.
3 repositórios no total
Uma biblioteca unificada de técnicas de otimização de modelos SOTA, como quantização, destilação, poda (pruning), busca de arquitetura neural, decodificação especulativa, etc. Ela comprime modelos de aprendizado profundo para frameworks de implantação downstream como TensorRT-LLM, TensorRT, vLLM, etc., para otimizar a velocidade de inferência.
Perguntas Frequentes
Qual é o repositório de #ai-inference-acceleration mais popular no GitHub?
O projeto de código aberto de #ai-inference-acceleration mais bem classificado no GitHub é NVIDIA/Model-Optimizer, com 5,646 estrelas. Uma biblioteca unificada de técnicas de otimização de modelos SOTA, como quantização, destilação, poda (pruning), busca de arquitetura neural, decodificação especulativa, etc. Ela comprime modelos de aprendizado profundo para frameworks de implantação downstream como TensorRT-LLM, TensorRT, vLLM, etc., para otimizar a velocidade de inferência.
Quais linguagens de programação são mais usadas nos repositórios de #ai-inference-acceleration?
Entre os projetos de #ai-inference-acceleration mais bem classificados no GitHub, as linguagens de programação mais comuns são Python, C++.
Como é calculada a classificação dos repositórios de #ai-inference-acceleration?
Acompanhamos 3 repositórios ativos de código aberto marcados com #ai-inference-acceleration (com mais de 500 estrelas), totalizando 8,097 estrelas e uma média de 2,699 estrelas por repositório. As classificações são atualizadas diariamente a partir da API do GitHub.