#local-llm Repositórios
122 repositórios no total
API local compatível com OpenAI de texto para voz (TTS) usando Chatterbox, permitindo que os usuários gerem fala clonada de voz em qualquer lugar onde a API OpenAI seja usada (por exemplo, Open WebUI, AnythingLLM, etc.).
Um assistente de codificação de IA completamente privado e local, desenvolvido pela Gensyn. Ele ajuda você a praticar problemas de programação e a treinar um novo assistente para ajudá-lo a codificar.
Assistente de IA de linha de comando totalmente de código aberto inspirado no OpenAI Codex, com suporte a modelos de linguagem locais.
Execute um modelo de IA de 105 GB em um Mac que não tem espaço para armazená-lo. Qwen3.8-Flash-Next de 4 bits, transmitido por streaming a partir de um SSD em Macs com Apple Silicon e 16–64 GB de memória. Totalmente nativo em Swift, MLX e Metal. Funciona offline, sem Python. CLI, biblioteca Swift e APIs Ollama/OpenAI/Anthropic. Compatível com Claude Code e Codex.
Swiftlet é um runtime Swift e Metal que executa grandes modelos Qwen Mixture-of-Experts localmente em dispositivos Apple, transmitindo pesos de especialistas do armazenamento, permitindo que modelos de 35B e 80B sejam executados com pouca RAM, inclusive no iPhone.
Inferência de LLM ponto a ponto no navegador: reúna seus dispositivos para executar grandes modelos abertos destinados a agentes de chat e programação.
Transforme seu telefone Android em um servidor de inferência de LLM compatível com OpenAI — totalmente local, privado e de código aberto
um cliente de desktop LLM mágico que facilita para *qualquer pessoa* usar LLMs e MCP
Sistema operacional de agentes de IA auto-hospedado. Sua memória, chats, agentes e arquivos permanecem no hardware que você possui, offline por padrão, na nuvem por escolha. Inclui memória de IA offline (taOSmd), chat em grupo multi-framework auto-hospedado, um desktop web completo + loja de aplicativos e clustering automático no hardware de consumo que você já possui (Orange/Raspberry Pi, Mac mini, PC gamer).
Agentes pessoais 100% gratuitos e de código aberto para seus aplicativos de mensagens, ferramentas e serviços
IDE com IA para escrita de romances — LLM local + RAG, privacidade em primeiro lugar, BYOK. Para autores de ficção web e escritores criativos.
Plataforma de agentes de IA de código aberto e auto-hospedada para os colegas de equipe de IA da sua empresa. Crie, execute e governe agentes nos seus próprios servidores e modelos: chat compartilhado, RAG, habilidades, um navegador real, mais de 4.700 servidores MCP, orçamentos, aprovações e uma trilha de auditoria. Uma alternativa ao ChatGPT Enterprise e ao Grok Bot. Apache-2.0, desenvolvida com base no Pydantic AI.
Uma solução selecionada para construir um segundo cérebro auto-evolutivo que ajuda agentes de IA a entender seu contexto pessoal e de equipe.
Não vai corrigir seu bug. Vai corrigir você. O depurador que devolve a pergunta em vez da resposta.
Chat de IA local para iPhone, iPad e Mac. Conecte-se ao Ollama, ao LM Studio ou a qualquer servidor compatível com a OpenAI, ou execute modelos MLX no dispositivo. Inclui ferramentas e pesquisa na Web.
Uma maneira mais fácil de usar IA no seu próprio computador. Uma alternativa gratuita e de código aberto ao Claude e ao ChatGPT, que executa localmente modelos de pesos abertos como Gemma e gpt-oss no Mac, Windows e Linux. Privada e funciona offline.
Xolotl: execute o DeepSeek-V4.1-Flash, com todos os 552B parâmetros, como um agente local de programação em um único PC gamer (RTX 4090 + 110 GB de RAM): ~33 tok/s no modo agente, ~41 no modo rápido e contexto de 512K. Além disso, Inkling-2-Mini (Thinking Machines, mecanismo próprio + gerador de rascunhos MTP), GLM-5.3-Flash, Qwen3.8 e LFM3-Omni. Especialistas MoE distribuídos em camadas entre VRAM, RAM e NVMe (Xolotl Direct). API da OpenAI + Anthropic.
Estação de trabalho criativa de IA full-stack com prioridade local: cinco módulos — chat com IA, quadrinhos com IA, criação de dramas em quadrinhos, espaço de escrita e aprendizagem de conhecimentos; inferência local com vários mecanismos (vLLM / llama.cpp / Transformers), gerenciamento inteligente da VRAM, isolamento por compartimentos e autorrecuperação. Apenas para fins de aprendizagem; comentários e sugestões são bem-vindos. (Devido a restrições do protocolo, os avanços mais recentes, com exceção do sistema de plugins, não podem ser enviados ao repositório por enquanto.)
Plataforma de inteligência documental com IA e prioridade ao processamento local para o jornalismo investigativo
Execute LLMs locais, como Gemma, Qwen e LLaMA, no Android para conversar e responder a perguntas em tempo real, com privacidade e sem conexão, usando o LiteRT e o ONNX Runtime.