#local-inference Repositórios
Descubra 19 repositórios ativos de código aberto no GitHub marcados com #local-inference, acumulando um total de 116,603 estrelas (uma média de 6,137 por projeto). O líder deste tópico é oobabooga/textgen, com 47,736 estrelas.
19 repositórios no total
Aplicativo de desktop de código aberto para LLMs locais. Texto, visão, chamada de ferramentas, API compatível com OpenAI/Anthropic. 100% privado.
Serviço de Alta Velocidade de Modelos de Linguagem Grandes para Implantação Local
Mano-P: Agente GUI-VLA de código aberto para dispositivos de borda. #1 no OSWorld (especializado, 58.2%). Executa localmente no Apple M4 Mac mini/MacBook — nenhum dado sai do seu dispositivo. Mano-P é um projeto GUI-VLA de código aberto que suporta execução local no Mac mini/MacBook ou via stick de computação, realizando operações de automação GUI multiplataforma impulsionadas puramente por visão. Os dados são processados completamente localmente, suportando planejamento e execução de tarefas complexas de múltiplos passos.
CORTEX RAG é um assistente empresarial de recuperação e conhecimento que ajuda as equipes a encontrar respostas precisas a partir de dados da empresa com citações, recuperação consciente de permissões e implantação rápida.
Servidor de API compatível com Jev para modelos abertos de tomada de decisão. Ollama para modelos de decisão: baixe e execute localmente 29 famílias de modelos (Laya, pplx-decider, Clef, Winnow, coba...) ou hospede-os por conta própria atrás de /v1/systemone. O SDK TypeSafe funciona sem alterações: defina a URL base e escolha um modelo aberto. CLI, aplicativo para desktop, Docker, servidor MCP e benchmark público.
Suporte a modelos locais para o graphrag da Microsoft usando ollama (llama3, mistral, gemma2 phi3) - Extração de LLM e Embedding
Siga com sua própria inteligência! Use Go para realizar inferência local acelerada por hardware com llama.cpp, whisper.cpp e stable-diffusion.cpp, integrados diretamente às suas aplicações Go. O Kronk oferece uma API de alto nível e um servidor de modelos pronto para produção.
Foca-malhada — Phocinae-Largha-150M-v1: um modelo bilíngue de tomada de decisões com 144,3 milhões de parâmetros. Modelo pequeno. Grandes decisões. Foca pequena, grandes decisões.
Ferramentas, fluxos de trabalho do ComfyUI e configurações de benchmark de um sistema de inferência local com 4 RTX 3090
Perguntas Frequentes
Qual é o repositório de #local-inference mais popular no GitHub?
O projeto de código aberto de #local-inference mais bem classificado no GitHub é oobabooga/textgen, com 47,736 estrelas. Aplicativo de desktop de código aberto para LLMs locais. Texto, visão, chamada de ferramentas, API compatível com OpenAI/Anthropic. 100% privado.
Quais linguagens de programação são mais usadas nos repositórios de #local-inference?
Entre os projetos de #local-inference mais bem classificados no GitHub, as linguagens de programação mais comuns são Python, C++, TypeScript, Swift.
Como é calculada a classificação dos repositórios de #local-inference?
Acompanhamos 19 repositórios ativos de código aberto marcados com #local-inference (com mais de 500 estrelas), totalizando 116,603 estrelas e uma média de 6,137 estrelas por repositório. As classificações são atualizadas diariamente a partir da API do GitHub.