#on-device-ai Repositórios
Descubra 68 repositórios ativos de código aberto no GitHub marcados com #on-device-ai, acumulando um total de 183,992 estrelas (uma média de 2,705 por projeto). O líder deste tópico é cactus-compute/cactus, com 14,864 estrelas.
69 repositórios no total
Inteligência agêntica, de voz e visão com menos de 50 MB para dispositivos de consumo.
Modelos de base nativos do dispositivo: 145B num portátil, 35B num telemóvel. MoE latente, pesos transmitidos por streaming a partir do SSD e um router que prevê as cargas com um passo de antecedência. Mac, iPhone, Android, Windows.
Kit de ferramentas pronto para produção para executar IA localmente
Execute LLMs e VLMs de ponta localmente em dispositivos Qualcomm através de NPU, GPU e CPU com algumas linhas de código
Este repositório contém a implementação oficial de "FastVLM: Codificação Visual Eficiente para Modelos de Visão e Linguagem" - CVPR 2025
Inferência do Gemma 4 26B-A4B em ~2 GB de RAM em qualquer MacBook da série M
LiteRT-LM é a estrutura de inferência de código aberto, de alto desempenho e pronta para produção do Google para implantar Grandes Modelos de Linguagem em dispositivos de borda.
Quantização de 2 bits, kernels e ambiente de execução para dispositivos de consumo.
Um nó Android centrado nas pessoas e atento aos recursos para computação de borda e aprendizagem federada. Coordena a inteligência distribuída com localização que prioriza a privacidade e gerenciamento atencioso do hardware.
IA que você controla: Escolha seus modelos. Possua seus dados. Elimine o lock-in do fornecedor.
Atingiu o limite de uso do Claude Code? Continue gratuitamente e offline com um modelo local: Qwen 3.8, Gemma 4 e Qwen 4 desde o dia do lançamento. Funciona em Macs com Apple Silicon (MLX), Linux e Windows (llama.cpp), sem chave de API. Seu código fica no seu dispositivo.
Uma ferramenta de gestão de ficheiros alimentada por IA que garante a privacidade ao organizar textos e imagens locais. Utilizando os modelos Llama3.2 3B e Llava v1.6 com o SDK Nexa, ela digitaliza, reestrutura e organiza intuitivamente os ficheiros para acesso rápido e contínuo e recuperação fácil.
Mano-P: Agente GUI-VLA de código aberto para dispositivos de borda. #1 no OSWorld (especializado, 58.2%). Executa localmente no Apple M4 Mac mini/MacBook — nenhum dado sai do seu dispositivo. Mano-P é um projeto GUI-VLA de código aberto que suporta execução local no Mac mini/MacBook ou via stick de computação, realizando operações de automação GUI multiplataforma impulsionadas puramente por visão. Os dados são processados completamente localmente, suportando planejamento e execução de tarefas complexas de múltiplos passos.
IA multimodal em tempo real no dispositivo com recursos semelhantes ao GPT-Live
Motor de IA de borda em C++ pronto para produção para análise de vídeo e VLM no dispositivo em Sophon, Rockchip RKNN e x86, com orquestração visual, OSD em tempo real, eventos e benchmarks reproduzíveis.
Core ML model zoo para iOS/macOS — modelos PyTorch convertidos em .mlpackage prontos para uso, cada um com um script de conversão e um aplicativo de exemplo em SwiftUI. Repositórios relacionados cobrem o framework Core AI da Apple (iOS/macOS 27) e LLMs locais (on-device).
Biblioteca de inferência de IA on-device para React Native, de alto desempenho e com foco na privacidade, alimentada pelo runtime ExecuTorch do PyTorch
NobodyWho é um motor de inferência que permite executar LLMs localmente e de forma eficiente em qualquer dispositivo.
Muesli: transcrição local de reuniões e ditado nativos para agentes no macOS (alternativa ao Granola + WisprFlow + Littlebird)
Digitação por voz gratuita e de código aberto para macOS e Windows. Transcrição local de fala para texto com Whisper e Parakeet, também disponível offline.
Decisões tipadas locais do Laya no Apple Core ML e Neural Engine. Portes validados, decisões curtas de aproximadamente 5 ms no M3 Max e benchmarks reproduzíveis de velocidade e consumo de energia.
Nativ é um aplicativo de IA local e de código aberto para Mac. Ele executa modelos de IA abertos no Apple Silicon, e nada sai do seu Mac.
Faça fine-tuning de LLMs no seu Mac com Apple Silicon. SFT, DPO, GRPO, Visão, TTS, STT, Embedding e fine-tuning de OCR — nativamente no MLX. API compatível com Unsloth.
MobileLLM Otimizando Modelos de Linguagem com Parâmetros Sub-bilionários para Casos de Uso em Dispositivos. Em ICML 2024.
[ICLR 2019] ProxylessNAS: Busca Direta de Arquitetura Neural na Tarefa e Hardware de Destino
Execução de LLM no dispositivo em React Native com compatibilidade com o Vercel AI SDK
PhoneClaw transforma telefones em ambientes de execução de agentes de IA locais com modelos no dispositivo, Skills móveis nativos, LiveLand e inferência opcional do Mac Gateway.
Um laboratório prático para criar, testar e avaliar aplicativos com a estrutura de modelos fundamentais da Apple.
PokeClaw (PocketClaw) — primeira IA on-device que controla seu telefone Android. Gemma 4, sem nuvem, sem chave de API. Poke é abreviação de Pocket.
Implementação oficial em PyTorch de "EdgeSAM: Destilação de Prompt-In-the-Loop para Implantação em Dispositivo de SAM"
NativeMind: Seu assistente de IA totalmente privado, de código aberto e no dispositivo
Execute modelos MoE maiores que a sua RAM. MoE de ponta em um celular, laptop ou dispositivo de borda. Sem perdas, com o llama.cpp padrão. Um otimizador adaptativo de streaming. Qualquer hardware, sistema operacional, modelo e quantização, por meio de um servidor local compatível com a OpenAI.
Aplicativo inicial de IA para PC para criação de imagens por IA, estilização de imagens e chatbot em um PC equipado com uma GPU Intel® Arc™.
Monitor de sistema Apple Silicon sem sudo (GUI nativa em SwiftUI) com rastreamento de ANE / Media Engine / largura de banda da memória
[CVPR 2025] Implementação oficial em PyTorch do "EdgeTAM: On-Device Track Anything Model"
jevos: uma alternativa de código aberto ao Jev e ao Microsoft-Decision-1. Decisões de sim ou não, escolhas e pontuações com probabilidades, na CPU do seu laptop.
Assistente de IA local e de código aberto para seus dados. Unifique tarefas, notas, documentos, fotos e favoritos. Privado, auto-hospedado e extensível via APIs.
Servidor API compatível com OpenAI para modelos da Apple no dispositivo
Camada de memória compartilhada em um único arquivo para todos os seus agentes, RAG em menos de um milissegundo para texto, fotos e vídeo no Apple Silicon. Sem servidor. Sem API. Um arquivo. Swift puro.
SDK de IA local de código aberto — execute IA no dispositivo sem nuvem nem chaves de API. Compatível com GGUF, RAG, geração de imagens, música e vídeo, conversão de fala em texto, inferência P2P e muito mais. Multiplataforma: Linux, macOS, Windows, Android e iOS.
Perguntas Frequentes
Qual é o repositório de #on-device-ai mais popular no GitHub?
O projeto de código aberto de #on-device-ai mais bem classificado no GitHub é cactus-compute/cactus, com 14,864 estrelas. Inteligência agêntica, de voz e visão com menos de 50 MB para dispositivos de consumo.
Quais linguagens de programação são mais usadas nos repositórios de #on-device-ai?
Entre os projetos de #on-device-ai mais bem classificados no GitHub, as linguagens de programação mais comuns são Python, Swift, C++, TypeScript.
Como é calculada a classificação dos repositórios de #on-device-ai?
Acompanhamos 68 repositórios ativos de código aberto marcados com #on-device-ai (com mais de 500 estrelas), totalizando 183,992 estrelas e uma média de 2,705 estrelas por repositório. As classificações são atualizadas diariamente a partir da API do GitHub.