#llama-cpp Repositórios
Descubra 69 repositórios ativos de código aberto no GitHub marcados com #llama-cpp, acumulando um total de 212,421 estrelas (uma média de 3,078 por projeto). O líder deste tópico é QwenLM/Qwen3, com 27,753 estrelas.
69 repositórios no total
Qwen3 é a série de modelos de linguagem grande desenvolvida pela equipe Qwen, Alibaba Cloud.
O aplicativo de ditado mais rápido e o único para macOS com reconhecimento de fala no próprio dispositivo (STT) e um modelo de aprimoramento de IA treinado sob medida. Disponível para Windows e no TestFlight para iOS! Listas de espera abertas para Android e Linux! Uma alternativa local ao Wispr Flow. Siga https://x.com/fluidvoiceapp para saber mais.
Um chatbot auto-hospedado, offline, semelhante ao ChatGPT. Alimentado por Llama 2. 100% privado, sem dados a sair do seu dispositivo. Novidade: Suporte para Code Llama!
Modelo SenseVoiceSmall de código aberto para ASR em mandarim, cantonês, inglês, japonês e coreano, identificação de idioma, reconhecimento de emoções e detecção de eventos de áudio.
Plataforma de inferência de código aberto para modelos de linguagem, visão, embeddings, reranking, imagem, áudio e vídeo. Implante vários mecanismos em hardware heterogêneo, de um laptop a um cluster distribuído. Disponibilize modelos por meio de APIs compatíveis com a OpenAI.
Um aplicativo que traz modelos de linguagem diretamente para o seu telefone.
Pré-lançamento do ODS V3: testes públicos e aperfeiçoamentos antes do lançamento oficial da V3. Transforme seu PC, Mac ou computador Linux em um servidor de IA privado.
Pesquise no seu computador pelo conteúdo dos seus arquivos: fotos, PDFs, documentos, gravações, vídeos e código. Funciona localmente no Mac, Windows e Linux e é baseado no EmbeddingGemma 2 do Google DeepMind.
Uma biblioteca C#/.NET para executar LLMs (🦙LLaMA/LLaVA) no seu dispositivo local de forma eficiente.
Atomic Agent é um agente de IA com prioridade local. Executa modelos de pesos abertos na sua própria máquina por meio do llama.cpp.
Atingiu o limite de uso do Claude Code? Continue gratuitamente e offline com um modelo local: Qwen 3.8, Gemma 4 e Qwen 4 desde o dia do lançamento. Funciona em Macs com Apple Silicon (MLX), Linux e Windows (llama.cpp), sem chave de API. Seu código fica no seu dispositivo.
O canivete suíço da IA offline. Converse, veja, fale e gere imagens no seu celular ou Mac — LLMs GGUF, visão, conversão de fala em texto Whisper, Stable Diffusion, chamadas de ferramentas e servidores de rede local. Funciona na sua CPU, GPU ou NPU. Sem conta, sem chave de API, nenhum dado sai do seu dispositivo.
Plataforma de habilidades de câmera AI de código aberto, NVR AI e vigilância CCTV. Análise de vídeo VLM local com Qwen, DeepSeek, SmolVLM, LLaVA, YOLO26. Agente de câmera de segurança com poder de LLM — observa, entende, lembra e protege sua casa via Telegram, Discord ou Slack. Habilidades de IA plugáveis. OpenAI, Google, Anthropic ou IA local. Executa em Mac Mini e AI PC.
Notas de reuniões privadas com IA que permanecem no seu computador. Sem bot de reuniões. Gratuito e de código aberto para Mac, Windows e Linux. Uma alternativa ao Granola, Otter e Fireflies.
Maid é um aplicativo livre e de código aberto para interagir com modelos llama.cpp localmente, e com modelos Anthropic, DeepSeek, Ollama, Mistral e OpenAI remotamente.
Um framework Python para chamadas de ferramentas LLM auto-hospedadas e fluxos de trabalho de agentes de várias etapas
Execute modelos de IA localmente na sua máquina com bindings para llama.cpp em node.js. Imponha um schema JSON na saída do modelo no nível de geração
Múltiplas GPUs NVIDIA ou Apple Silicon para Inferência de Modelos de Linguagem Grandes?
O orquestrador de microagentes que monitora qualquer coisa para você. Funciona totalmente em ambiente local. Código aberto.
Este curso foi projetado para guiar iniciantes através do excitante mundo da IA de Borda (Edge AI), cobrindo conceitos fundamentais, modelos populares, técnicas de inferência, aplicações específicas de dispositivos, otimização de modelos e o desenvolvimento de agentes inteligentes de IA de Borda.
Modelos abertos de decisão de 0,8B a 27B: uma probabilidade calibrada para cada opção em uma única passagem e um breve raciocínio apenas quando houver incerteza. Motor para vLLM, llama.cpp e MLX.
Espelhe seu corpo em dados. Um padrão, todas as fontes, um retrato completo de você: um prontuário de saúde auto-hospedado, criado a partir de exames laboratoriais, dispositivos vestíveis e dados genéticos, com cada número rastreável até sua fonte e um servidor MCP integrado. Execute-o com Docker e uma chave de LLM ou mantenha todos os modelos localmente com llama.cpp.
Modelos de reconhecimento de fala Fun-ASR, com suporte nativo ao Hugging Face Transformers para o Fun-ASR-Nano e caminhos de implantação separados para FunASR, vLLM e llama.cpp.
Servidor de API compatível com Jev para modelos abertos de tomada de decisão. Ollama para modelos de decisão: baixe e execute localmente 29 famílias de modelos (Laya, pplx-decider, Clef, Winnow, coba...) ou hospede-os por conta própria atrás de /v1/systemone. O SDK TypeSafe funciona sem alterações: defina a URL base e escolha um modelo aberto. CLI, aplicativo para desktop, Docker, servidor MCP e benchmark público.
Inferência em CPU sem GPU para modelos MoE de 30B–284B (Qwen3.8 176.5B certificado com cache fria no Cgroup v2 com 28,26/48,35 GiB, DeepSeek-V4 284B, Nemotron-30B) + RouteCrack 2.0.
Tradutor de tela em tempo real para Android, de código aberto e sem root, adequado para jogos, visual novels e mangás. Suporta OCR no dispositivo e na nuvem, LLMs offline, vários serviços de tradução, traduções na tela e texto para fala (TTS).
Acelere hosts com grande memória e computação esparsa usando placas de computação densa, incluindo AI Max+ 395, M3 512G e DGX Spark.
Execute modelos maiores do que a capacidade da sua RAM ou VRAM transmitindo especialistas MoE a partir de um SSD. Baseado no llama.cpp.
Seu iPhone ajuda o Mac a executar um modelo de 27 bilhões de parâmetros: leitura mais rápida dos prompts e mais contexto por meio de um cabo USB-C
Cotabby é o preenchimento automático local de IA para todo o seu Mac. Código aberto. No dispositivo. Em todos os lugares que você digita.
Maximizar a capacidade de executar diferentes LLMs nos dispositivos mais pequenos possíveis
Construa e execute agentes de IA usando Docker Compose. Uma coleção de exemplos prontos para uso para orquestrar LLMs de código aberto, ferramentas e runtimes de agentes.
Execute modelos MoE maiores que a sua RAM. MoE de ponta em um celular, laptop ou dispositivo de borda. Sem perdas, com o llama.cpp padrão. Um otimizador adaptativo de streaming. Qualquer hardware, sistema operacional, modelo e quantização, por meio de um servidor local compatível com a OpenAI.
Aplicativo inicial de IA para PC para criação de imagens por IA, estilização de imagens e chatbot em um PC equipado com uma GPU Intel® Arc™.
Monitor de sistema Apple Silicon sem sudo (GUI nativa em SwiftUI) com rastreamento de ANE / Media Engine / largura de banda da memória
Reescreve rascunhos de IA para que pareçam escritos por uma pessoa — funciona localmente e preserva os fatos
Um agente de programação minimalista e nativo do terminal, escrito em C.
Uma substituição compatível com API e pronta para uso para o framework Foundation Models da Apple com suporte para provedores de modelos de linguagem personalizados.
jevos: uma alternativa de código aberto ao Jev e ao Microsoft-Decision-1. Decisões de sim ou não, escolhas e pontuações com probabilidades, na CPU do seu laptop.
Um CLI para estimar os requisitos de memória de inferência para modelos Hugging Face, escrito em Python.
Perguntas Frequentes
Qual é o repositório de #llama-cpp mais popular no GitHub?
O projeto de código aberto de #llama-cpp mais bem classificado no GitHub é QwenLM/Qwen3, com 27,753 estrelas. Qwen3 é a série de modelos de linguagem grande desenvolvida pela equipe Qwen, Alibaba Cloud.
Quais linguagens de programação são mais usadas nos repositórios de #llama-cpp?
Entre os projetos de #llama-cpp mais bem classificados no GitHub, as linguagens de programação mais comuns são Python, TypeScript, C++, Swift.
Como é calculada a classificação dos repositórios de #llama-cpp?
Acompanhamos 69 repositórios ativos de código aberto marcados com #llama-cpp (com mais de 500 estrelas), totalizando 212,421 estrelas e uma média de 3,078 estrelas por repositório. As classificações são atualizadas diariamente a partir da API do GitHub.