Git Stars Git Stars

#local-llm Repositórios

122
Total de Repositórios
383,928
Total de estrelas
3,146
Média de Estrelas/Repositório

122 repositórios no total

51
theroyallab/tabbyAPI

O servidor oficial da API para Exllama. Compatível com OAI, leve e rápido.

theroyallab
⭐ 1,531 Python 👤 theroyallab Organization 🕐 Atualizado 2026-11-14 📅 Criado 2023-11-10
52
ARahim3/mlx-tune

Faça fine-tuning de LLMs no seu Mac com Apple Silicon. SFT, DPO, GRPO, Visão, TTS, STT, Embedding e fine-tuning de OCR — nativamente no MLX. API compatível com Unsloth.

ARahim3
⭐ 1,475 Python 👤 ARahim3 User 🕐 Atualizado 2026-06-23 📅 Criado 2026-01-03
53
jofizcd/Soul-of-Waifu

🌌 Dê uma alma aos seus personagens favoritos. Soul of Waifu é um aplicativo de desktop para RPG e companhia com IA, apresentando avatares Live2D/VRM, chat de voz e LLM local. Evoluam juntos através de chats imersivos, aventuras de RPG e na sua área de trabalho.

jofizcd
⭐ 1,474 Python 👤 jofizcd User 🕐 Atualizado 2026-08-28 📅 Criado 2023-09-02
54
obsei/obsei

Análise da Voz do Cliente de código aberto, com a privacidade em primeiro lugar. Uma alternativa auto-hospedada ao Enterpret e ao Unwrap que remove dados pessoais dos comentários antes que qualquer LLM os processe.

obsei
⭐ 1,454 Python 👤 obsei Organization 🕐 Atualizado 2026-11-15 📅 Criado 2020-10-25
55
peonist-ai/halogen-flash-server

Inferência local com comportamento semelhante ao de uma API de ponta: Qwen3.8-Flash-Next no AMD Strix Halo, além de pequenos modelos NPU, pelas APIs da OpenAI e da Anthropic em uma única porta.

peonist-ai
⭐ 1,412 Shell 👤 peonist-ai Organization 🕐 Atualizado 2026-11-18 📅 Criado 2026-08-26
56
synchopate/llama-modchip

Inferência em CPU sem GPU para modelos MoE de 30B–284B (Qwen3.8 176.5B certificado com cache fria no Cgroup v2 com 28,26/48,35 GiB, DeepSeek-V4 284B, Nemotron-30B) + RouteCrack 2.0.

synchopate
⭐ 1,398 Python 👤 synchopate User 🕐 Atualizado 2026-11-21 📅 Criado 2026-10-29
57
linyiLYi/voice-assistant

Uma demonstração simples e experimental de um assistente de voz local com Whisper e um modelo de linguagem grande.

linyiLYi
⭐ 1,329 Python 👤 linyiLYi User 🕐 Atualizado 2024-04-30 📅 Criado 2023-12-09
58
simplexai-labs/PolyStrata

Execute grandes modelos de IA no seu próprio PC: Qwen3.8-Flash-Next no mecanismo da Strata e GLM 5.3 Flash, DeepSeek V4 Flash, LFM2.5, Qwen3.6, Ornith 1.5, Gemma 4, Tiel Coder e MiniCPM-V em um segundo mecanismo desenvolvido para a PolyStrata. Instalação com um clique para Windows e Linux, com API OpenAI/Anthropic no localhost.

simplexai-labs
⭐ 1,324 C++ 👤 simplexai-labs Organization 🕐 Atualizado 2026-11-18 📅 Criado 2026-10-06
59
ASCIT31/Dark-Moon

Testes de penetração autônomos com IA e código aberto. 50 agentes especializados em web, APIs, nuvem, Active Directory, Kubernetes, CI/CD e IA/LLM (OWASP LLM Top 10), com um grafo de caminhos de ataque verificado por evidências. Executa em um LLM local protegido por um Privacy Gateway. Integra-se ao GitHub, GitLab, Jenkins, VS Code, JetBrains, n8n, Grafana e Splunk.

ASCIT31
⭐ 1,279 Python 👤 ASCIT31 Organization 🕐 Atualizado 2026-11-21 📅 Criado 2024-11-26
60
wici-ai/inferssd

Execute modelos maiores do que a capacidade da sua RAM ou VRAM transmitindo especialistas MoE a partir de um SSD. Baseado no llama.cpp.

wici-ai
⭐ 1,277 C++ 👤 wici-ai Organization 🕐 Atualizado 2026-11-20 📅 Criado 2026-10-22
61
HelgeSverre/ollama-gui

Uma Interface Web para conversar com seus LLMs locais através da API ollama

HelgeSverre
⭐ 1,272 TypeScript 👤 HelgeSverre User 🕐 Atualizado 2026-11-16 📅 Criado 2023-10-08
62
DasterProkio/awesome-ai-companion

Companheiros de IA de código aberto, pets de desktop, memória de longo prazo e chat proativo. Diretório completo de projetos de código aberto de relacionamentos humano-IA. Permita que sua IA local exista independentemente das plataformas oficiais, equipada com memória e proatividade.

DasterProkio
⭐ 1,248 HTML 👤 DasterProkio User 🕐 Atualizado 2026-11-21 📅 Criado 2026-07-03
63
0xSojalSec/LLMs-local

Lista de plataformas, ferramentas e recursos incríveis para executar LLMs localmente

0xSojalSec
⭐ 1,206 👤 0xSojalSec User 🕐 Atualizado 2026-06-10 📅 Criado 2025-12-17
64
StayLameBro/backburner

Seu iPhone ajuda o Mac a executar um modelo de 27 bilhões de parâmetros: leitura mais rápida dos prompts e mais contexto por meio de um cabo USB-C

StayLameBro
⭐ 1,195 Python 👤 StayLameBro User 🕐 Atualizado 2026-11-07 📅 Criado 2026-10-01
65
mrphrazer/reverser_ai

Fornece assistência automatizada de engenharia reversa através do uso de modelos de linguagem grandes (LLMs) locais em hardware de consumo.

mrphrazer
⭐ 1,176 Python 👤 mrphrazer User 🕐 Atualizado 2026-05-20 📅 Criado 2024-03-17
66
AllAboutAI-YT/easy-local-rag

Super Fácil RAG 100% Local com Ollama + RAG para E-mail

AllAboutAI-YT
⭐ 1,175 Python 👤 AllAboutAI-YT User 🕐 Atualizado 2024-06-04 📅 Criado 2024-04-15
67
agents-io/PokeClaw

PokeClaw (PocketClaw) — primeira IA on-device que controla seu telefone Android. Gemma 4, sem nuvem, sem chave de API. Poke é abreviação de Pocket.

agents-io
⭐ 1,165 Kotlin 👤 agents-io Organization 🕐 Atualizado 2026-06-02 📅 Criado 2026-04-06
68
hyperionaidev/smolmaxxing

Maximizar a capacidade de executar diferentes LLMs nos dispositivos mais pequenos possíveis

hyperionaidev
⭐ 1,079 C 👤 hyperionaidev Organization 🕐 Atualizado 2026-11-19 📅 Criado 2026-11-04
69
pguso/agents-from-scratch

Construa agentes de IA a partir do zero usando um LLM local - sem frameworks, sem APIs na nuvem, sem raciocínio oculto.

pguso
⭐ 1,079 Python 👤 pguso User 🕐 Atualizado 2026-07-25 📅 Criado 2025-12-22
70
mrkrsl/web-search-mcp

Um servidor MCP de pesquisa web simples, hospedado localmente, para uso com LLMs locais

mrkrsl
⭐ 1,072 TypeScript 👤 mrkrsl User 🕐 Atualizado 2025-08-08 📅 Criado 2025-06-27
71
pepperoni21/ollama-rs

Uma biblioteca simples e fácil de usar para interagir com a API Ollama.

pepperoni21
⭐ 1,062 Rust 👤 pepperoni21 User 🕐 Atualizado 2026-11-18 📅 Criado 2023-11-02
72
metadist/synaplan

Controle o fluxo: uma plataforma de IA de código aberto para seus conhecimentos, modelos e canais — web, WhatsApp, e-mail, Outlook, Nextcloud e ownCloud. Modelos locais e na nuvem lado a lado, com o custo de cada resposta.

metadist
⭐ 1,045 PHP 👤 metadist Organization 🕐 Atualizado 2026-11-21 📅 Criado 2025-03-30
73
PotterRemember37/Capri-AI-Desktop

Capri — um agente de IA para desktop inspirado em Edgerunners. Compatível com Claude 3.7, Claude Code, OpenAI e Ollama/LLaMA local. Companheira waifu de IA personalizável com chat por voz.

PotterRemember37
⭐ 1,040 Python 👤 PotterRemember37 User 🕐 Atualizado 2026-11-11 📅 Criado 2026-08-15
74
jegly/Box

A suíte de IA do lado do cliente mais avançada e totalmente offline disponível hoje no Android.

jegly
⭐ 1,035 Kotlin 👤 jegly User 🕐 Atualizado 2026-11-21 📅 Criado 2026-04-17
75
kennss/SiliconScope

Monitor de sistema Apple Silicon sem sudo (GUI nativa em SwiftUI) com rastreamento de ANE / Media Engine / largura de banda da memória

kennss
⭐ 1,026 Swift 👤 kennss User 🕐 Atualizado 2026-11-20 📅 Criado 2026-06-08
76
wangeai/K3Flight

Execute o Kimi K3 localmente na CPU com cerca de 55 GB de RAM de tempo de execução medida. Um servidor de inferência Linux de arquivo único alimentado pelo cPilot Runtime.

wangeai
⭐ 1,019 HTML 👤 wangeai Organization 🕐 Atualizado 2026-07-31 📅 Criado 2026-07-30
77
sgaofen/humanizer-local-model

Reescreve rascunhos de IA para que pareçam escritos por uma pessoa — funciona localmente e preserva os fatos

sgaofen
⭐ 1,010 Python 👤 sgaofen User 🕐 Atualizado 2026-10-19 📅 Criado 2026-09-11
78
OleksandrChekhovskyi/hax

Um agente de programação minimalista e nativo do terminal, escrito em C.

OleksandrChekhovskyi
⭐ 1,006 C 👤 OleksandrChekhovskyi User 🕐 Atualizado 2026-11-13 📅 Criado 2026-04-24
79
patruff/ollama-mcp-bridge

Ponte entre servidores Ollama e MCP, permitindo que LLMs locais usem ferramentas do Protocolo de Contexto do Modelo

patruff
⭐ 973 TypeScript 👤 patruff User 🕐 Atualizado 2025-04-20 📅 Criado 2024-12-12
80
feder-cr/jev

jevos: uma alternativa de código aberto ao Jev e ao Microsoft-Decision-1. Decisões de sim ou não, escolhas e pontuações com probabilidades, na CPU do seu laptop.

feder-cr
⭐ 970 C++ 👤 feder-cr User 🕐 Atualizado 2026-10-18 📅 Criado 2024-08-15
81
kossakovsky/selfhost-ai

Instalador com um único comando para uma stack de IA auto-hospedada no seu próprio servidor: n8n, Ollama, Open WebUI, OpenClaw, Dify, Flowise, Supabase, ComfyUI, Qdrant e mais de 30 ferramentas. Docker Compose, HTTPS automático via Caddy e monitoramento integrado. Alternativa gratuita ao Zapier/Make.

kossakovsky
⭐ 964 Shell 👤 kossakovsky User 🕐 Atualizado 2026-10-27 📅 Criado 2025-05-05
82
orneryd/NornicDB

Nornicdb é um banco de dados distribuído de baixa latência, Graph+Vector e MVCC temporal, com busca HNSW, travessia de grafos e escritas em menos de um milissegundo. Ao usar Neo4j Bolt/Cypher e gRPC do qdrant, você pode migrar sem alterações enquanto adiciona recursos inteligentes como esquemas, embeddings gerenciados, reranking+LLM, aceleração de GPU, Auto-TLP, decaimento de memória baseado em políticas e servidor MCP.

orneryd
⭐ 933 Go 👤 orneryd User 🕐 Atualizado 2026-11-21 📅 Criado 2025-12-06
83
mrdbourke/simple-local-rag

Construa um pipeline RAG (Retrieval Augmented Generation) do zero e faça com que tudo seja executado localmente.

mrdbourke
⭐ 923 Jupyter Notebook 👤 mrdbourke User 🕐 Atualizado 2024-05-25 📅 Criado 2024-03-13
84
hehehai/VoxtMini

Entrada de voz para macOS com modelos locais: transcreva, traduza e reescreva em qualquer app. O sucessor do Voxt.

hehehai
⭐ 916 Go 👤 hehehai User 🕐 Atualizado 2026-11-21 📅 Criado 2026-02-26
85
genex-games/genex-desktop

Aplicativo de desktop de código aberto para desenvolvimento de jogos nativo de IA. Crie com Unreal Engine, Unity, Godot, Roblox ou Three.js usando qualquer IA, incluindo modelos locais.

genex-games
⭐ 901 TypeScript 👤 genex-games Organization 🕐 Atualizado 2026-11-21 📅 Criado 2026-10-02
86
bernardo-bruning/ollama-copilot

Proxy que permite usar o ollama como um copilot, semelhante ao Github Copilot

bernardo-bruning
⭐ 887 Go 👤 bernardo-bruning User 🕐 Atualizado 2026-09-14 📅 Criado 2024-04-25
87
Pangu-Immortal/MagicWX

Protótipo de LLM local para Android 17 com Jetpack Compose e ONNX Runtime para experimentos de inferência de IA offline.

Pangu-Immortal
⭐ 864 Kotlin 👤 Pangu-Immortal User 🕐 Atualizado 2026-11-09 📅 Criado 2019-05-08
88
gavamedia/deltafin

Execute o Kimi K3 completo em um único dispositivo. E um servidor de API compatível com OpenAI para agentes de chat e codificação locais.

gavamedia
⭐ 862 Rust 👤 gavamedia Organization 🕐 Atualizado 2026-10-04 📅 Criado 2026-07-28
89
kytmanov/obsidian-llm-wiki-local

Wiki LLM de Karpathy, 100% local com Ollama. Solte notas em Markdown → IA extrai conceitos → sua wiki Obsidian faz links automáticos e cresce. Zero compartilhamento. Suas notas permanecem suas.

kytmanov
⭐ 855 Python 👤 kytmanov User 🕐 Atualizado 2026-05-26 📅 Criado 2026-04-07
90
nace-ai/kapitsa

Motor de inferência ultrarrápido para Apple Silicon, otimizado para Qwen e Nemotron. Compatível com as APIs da OpenAI e da Anthropic. Desenvolvido pela equipe da nace.ai

nace-ai
⭐ 840 C++ 👤 nace-ai Organization 🕐 Atualizado 2026-11-21 📅 Criado 2026-10-16
91
jonigl/mcp-client-for-ollama

Aproveite o poder dos LLMs locais com este Cliente TUI MCP para Ollama. Apresentando todos os primitivos MCP principais (ferramentas, prompts, recursos), modo agente, multi-servidor, troca de modelos, respostas em streaming, humano no loop, modo de pensamento, configuração de parâmetros do modelo, prompts de sistema e preferências salvas.

jonigl
⭐ 837 Python 👤 jonigl User 🕐 Atualizado 2026-11-19 📅 Criado 2025-04-23
92
nkasmanoff/pi-card

Assistente de Voz Raspberry Pi

nkasmanoff
⭐ 808 Python 👤 nkasmanoff User 🕐 Atualizado 2024-12-22 📅 Criado 2024-05-04
93
tetherto/qvac

SDK de IA local de código aberto — execute IA no dispositivo sem nuvem nem chaves de API. Compatível com GGUF, RAG, geração de imagens, música e vídeo, conversão de fala em texto, inferência P2P e muito mais. Multiplataforma: Linux, macOS, Windows, Android e iOS.

tetherto
⭐ 806 TypeScript 👤 tetherto Organization 🕐 Atualizado 2026-11-21 📅 Criado 2026-01-03
94
karthik-codex/Autogen_GraphRAG_Ollama

Microsoft GraphRAG + AutoGen + Ollama + Chainlit = Superbot RAG Multiagente Totalmente Local e Gratuito

karthik-codex
⭐ 761 Python 👤 karthik-codex User 🕐 Atualizado 2024-07-20 📅 Criado 2024-07-07
95
ILikeAI/AlwaysReddy

AlwaysReddy é um assistente de voz LLM que está sempre a apenas uma tecla de atalho de distância.

ILikeAI
⭐ 760 Python 👤 ILikeAI User 🕐 Atualizado 2025-03-04 📅 Criado 2024-01-24
96
jart/emacs-copilot

Conclusão de código de modelo de linguagem grande para Emacs

jart
⭐ 758 Emacs Lisp 👤 jart User 🕐 Atualizado 2024-01-07 📅 Criado 2023-12-31
97
ARahim3/mlx-dspark

Decodificação de LLM até 4× mais rápida no Apple Silicon, sem perdas. Port nativo para MLX da decodificação especulativa DSpark da DeepSeek e DFlash da z-lab — Gemma-4, Qwen3.8, Muse-Glimmer, Nemotron, LFM2.5, Ornith-1.0 e Bonsai-27B ternário.

ARahim3
⭐ 743 Python 👤 ARahim3 User 🕐 Atualizado 2026-11-08 📅 Criado 2026-06-29
98
notatestuser/ds4-control

Aplicativo para a barra de menus do macOS para usar o DeepSeek V4.1 localmente e com rapidez, com contexto de 1 milhão de tokens.

notatestuser
⭐ 740 Swift 👤 notatestuser User 🕐 Atualizado 2026-10-26 📅 Criado 2026-05-29
99
prabanta-dev/janas

37 tok/s com Qwen3-Next-80B (48 GB) num portátil com 32 GB; 24 sem rascunhos, contra 2,8 com llama.cpp; leitura a 62 contra 16 tok/s. Mais rápido que llama.cpp em todos os 13 modelos comparados em Q4_K_M. LLMs maiores do que a sua RAM, em C puro, para CPU ou GPU.

prabanta-dev
⭐ 738 C 👤 prabanta-dev Organization 🕐 Atualizado 2026-11-20 📅 Criado 2026-09-20
100
andersrex/notesollama

Use o Ollama para conversar com LLMs locais nas Notas da Apple

andersrex
⭐ 711 Swift 👤 andersrex User 🕐 Atualizado 2025-08-04 📅 Criado 2024-02-19