#llm-optimization Repositórios
Descubra 18 repositórios ativos de código aberto no GitHub marcados com #llm-optimization, acumulando um total de 56,346 estrelas (uma média de 3,130 por projeto). O líder deste tópico é OpenBMB/MiniCPM, com 11,898 estrelas.
18 repositórios no total
Uma biblioteca unificada de técnicas de otimização de modelos SOTA, como quantização, destilação, poda (pruning), busca de arquitetura neural, decodificação especulativa, etc. Ela comprime modelos de aprendizado profundo para frameworks de implantação downstream como TensorRT-LLM, TensorRT, vLLM, etc., para otimizar a velocidade de inferência.
Guia de consulta VIP para o CME 295 da Stanford: Transformers e Grandes Modelos de Linguagem
Uma coleção de mais de 500 estudos de caso de design de sistemas de ML e LLM do mundo real de mais de 100 empresas. Aprenda como as principais empresas de tecnologia implementam GenAI em produção.
🐳 Implementações Triton eficientes para "Atenção Esparsa Nativa: Atenção Esparsa Alinhada ao Hardware e Nativa para Treinamento"
Código para o artigo da ICML 2023 "SparseGPT: Massive Language Models Can Be Accurately Pruned in One-Shot".
Uma cache para agentes de IA aprenderem e reproduzirem comportamentos complexos.
Perguntas Frequentes
Qual é o repositório de #llm-optimization mais popular no GitHub?
O projeto de código aberto de #llm-optimization mais bem classificado no GitHub é OpenBMB/MiniCPM, com 11,898 estrelas. MiniCPM5: LLMs de ponta no dispositivo, pequenos porém poderosos.
Quais linguagens de programação são mais usadas nos repositórios de #llm-optimization?
Entre os projetos de #llm-optimization mais bem classificados no GitHub, as linguagens de programação mais comuns são Python, Jupyter Notebook, TypeScript, Swift.
Como é calculada a classificação dos repositórios de #llm-optimization?
Acompanhamos 18 repositórios ativos de código aberto marcados com #llm-optimization (com mais de 500 estrelas), totalizando 56,346 estrelas e uma média de 3,130 estrelas por repositório. As classificações são atualizadas diariamente a partir da API do GitHub.