#llm-inference-optimization Repositórios
Descubra 18 repositórios ativos de código aberto no GitHub marcados com #llm-inference-optimization, acumulando um total de 44,885 estrelas (uma média de 2,493 por projeto). O líder deste tópico é guidance-ai/guidance, com 21,828 estrelas.
18 repositórios no total
Uma lista selecionada de mais de 100 bibliotecas e frameworks para engenheiros de IA que criam com LLMs
Este repositório registra principalmente perguntas de entrevistas relacionadas a engenheiros de algoritmos de Modelos de Linguagem Grandes (LLMs).
O repositório oficial do GitHub para o artigo de pesquisa "A Survey on Diffusion Language Models".
Aprendizagem de Modelos de Linguagem Grandes (LLM) (Aprendizagem de Grandes Modelos de Linguagem)
Inferência rápida de grandes modelos de linguagem via decodificação especulativa
Tencent Hunyuan A13B (resumido como Hunyuan-A13B), um LLM inovador e de código aberto construído sobre uma arquitetura MoE de grão fino.
RankLLM é um kit de ferramentas Python para pesquisa reprodutível de recuperação de informação usando rerankers, com foco em reranking listwise.
Repositório oficial de "Glyph: Dimensionamento de Janelas de Contexto via Compressão Visual-Textual"
Analise a inferência de Modelos de Linguagem Grandes (LLMs). Analise aspectos como computação, armazenamento, transmissão e o modelo de "hardware roofline" em uma interface amigável.
Perguntas Frequentes
Qual é o repositório de #llm-inference-optimization mais popular no GitHub?
O projeto de código aberto de #llm-inference-optimization mais bem classificado no GitHub é guidance-ai/guidance, com 21,828 estrelas. Uma linguagem de orientação para controlar grandes modelos de linguagem.
Quais linguagens de programação são mais usadas nos repositórios de #llm-inference-optimization?
Entre os projetos de #llm-inference-optimization mais bem classificados no GitHub, as linguagens de programação mais comuns são Python, Jupyter Notebook, TypeScript.
Como é calculada a classificação dos repositórios de #llm-inference-optimization?
Acompanhamos 18 repositórios ativos de código aberto marcados com #llm-inference-optimization (com mais de 500 estrelas), totalizando 44,885 estrelas e uma média de 2,493 estrelas por repositório. As classificações são atualizadas diariamente a partir da API do GitHub.