#local-llm Repositorios
122 repositorios en total
Ajusta finamente LLMs en tu Mac con Apple Silicon. SFT, DPO, GRPO, Visión, TTS, STT, Embedding y ajuste fino de OCR — de forma nativa en MLX. API compatible con Unsloth.
🌌 Dale alma a tus personajes favoritos. Soul of Waifu es una aplicación de escritorio de rol y compañía con IA que cuenta con avatares Live2D/VRM, chat de voz y LLM local. Evolucionen juntos a través de chats inmersivos, aventuras RPG y en tu escritorio.
Analítica de la Voz del Cliente de código abierto y con la privacidad como prioridad. Una alternativa autoalojada a Enterpret y Unwrap que elimina la información de identificación personal de los comentarios antes de que cualquier LLM los procese.
Inferencia local con un comportamiento similar al de una API de vanguardia: Qwen3.8-Flash-Next en AMD Strix Halo, junto con pequeños modelos NPU, a través de las API de OpenAI y Anthropic en un mismo puerto.
Inferencia en CPU sin GPU para modelos MoE de 30B–284B (Qwen3.8 176.5B certificado con caché fría en Cgroup v2 de 28,26/48,35 GiB, DeepSeek-V4 284B, Nemotron-30B) + RouteCrack 2.0.
Una simple demostración de juguete de un asistente de voz local con whisper y un modelo de lenguaje grande.
Ejecuta grandes modelos de IA en tu propio PC: Qwen3.8-Flash-Next con el motor de Strata, y GLM 5.3 Flash, DeepSeek V4 Flash, LFM2.5, Qwen3.6, Ornith 1.5, Gemma 4, Tiel Coder y MiniCPM-V con un segundo motor creado para PolyStrata. Instalación con un clic para Windows y Linux, con una API de OpenAI/Anthropic en localhost.
Pruebas de penetración autónomas con IA y de código abierto. 50 agentes especializados en web, API, nube, Active Directory, Kubernetes, CI/CD e IA/LLM (OWASP LLM Top 10), con un grafo de rutas de ataque verificado mediante evidencias. Se ejecuta con un LLM local detrás de una Puerta de Privacidad. Se integra con GitHub, GitLab, Jenkins, VS Code, JetBrains, n8n, Grafana y Splunk.
Ejecuta modelos que superan la capacidad de tu RAM o VRAM transmitiendo expertos MoE desde un SSD. Basado en llama.cpp.
Una interfaz web para chatear con tus LLM locales a través de la API de ollama
Compañeros de IA de código abierto, mascotas de escritorio, memoria a largo plazo y chat proactivo. Directorio completo de proyectos de código abierto sobre romance humano-IA. Permite que tu IA local exista independientemente de las plataformas oficiales, dotada de memoria y proactividad.
Lista de plataformas, herramientas y recursos increíbles para ejecutar LLMs localmente
Tu iPhone ayuda a tu Mac a ejecutar un modelo de 27B: lectura más rápida de las indicaciones y más contexto mediante un cable USB-C
Proporciona asistencia automatizada de ingeniería inversa mediante el uso de modelos de lenguaje grandes (LLM) locales en hardware de consumo.
PokeClaw (PocketClaw) — primera IA on-device que controla tu teléfono Android. Gemma 4, sin nube, sin clave API. Poke es la abreviatura de Pocket.
Maximizar la capacidad de ejecutar distintos LLM en los dispositivos más pequeños posibles
Construya agentes de IA desde los primeros principios usando un LLM local: sin marcos, sin APIs en la nube, sin razonamiento oculto.
Un servidor MCP de búsqueda web simple, alojado localmente, para usar con LLM locales
Una biblioteca simple y fácil de usar para interactuar con la API de Ollama.
Domina el flujo: una plataforma de IA de código abierto para tus conocimientos, modelos y canales: web, WhatsApp, correo electrónico, Outlook, Nextcloud y ownCloud. Modelos locales y en la nube, lado a lado, con el coste de cada respuesta.
Capri — un agente de IA para escritorio inspirado en Edgerunners. Compatible con Claude 3.7, Claude Code, OpenAI y Ollama/LLaMA en local. Compañera waifu de IA personalizable con chat de voz.
La suite de IA del lado del cliente más avanzada y totalmente fuera de línea disponible hoy en Android.
Monitor de sistema Apple Silicon sin sudo (GUI nativa en SwiftUI) con seguimiento de ANE / Motor multimedia / ancho de banda de memoria
Ejecute Kimi K3 localmente en la CPU con ~55 GB de RAM de tiempo de ejecución medida. Un servidor de inferencia de Linux de un solo archivo impulsado por cPilot Runtime.
Reescribe borradores de IA para que parezcan escritos por una persona: funciona localmente y conserva los hechos
Un agente de programación minimalista y nativo de terminal, escrito en C.
Puente entre los servidores Ollama y MCP, que permite a los LLM locales utilizar las herramientas del Model Context Protocol
jevos: una alternativa de código abierto a Jev y Microsoft-Decision-1. Decisiones de sí o no, opciones y puntuaciones con probabilidades, en la CPU de tu portátil.
Instalador de un solo comando para una pila de IA autoalojada en tu propio servidor: n8n, Ollama, Open WebUI, OpenClaw, Dify, Flowise, Supabase, ComfyUI, Qdrant y más de 30 herramientas. Docker Compose, HTTPS automático mediante Caddy y monitorización integrada. Alternativa gratuita a Zapier/Make.
Nornicdb es una base de datos distribuida de baja latencia, Graph+Vector y Temporal MVCC, con búsqueda HNSW, recorrido de grafos y escrituras en menos de un milisegundo. Al utilizar Neo4j Bolt/Cypher y gRPC de qdrant, puede realizar la transición sin cambios, mientras añade funciones inteligentes como esquemas, embeddings gestionados, reranking+LLM, aceleración por GPU, Auto-TLP, decaimiento de memoria basado en políticas y servidor MCP.
Construya un pipeline RAG (Retrieval Augmented Generation) desde cero y ejecútelo completamente de forma local.
Entrada de voz para macOS con modelos locales: transcribe, traduce y reescribe en cualquier app. El sucesor de Voxt.
Aplicación de escritorio de código abierto para el desarrollo de juegos nativo de la IA. Crea juegos con Unreal Engine, Unity, Godot, Roblox o Three.js usando cualquier IA, incluidos modelos locales.
Proxy que te permite usar ollama como un copiloto similar a Github Copilot
Prototipo de LLM local para Android 17 con Jetpack Compose y ONNX Runtime para experimentos de inferencia de IA sin conexión.
Ejecuta Kimi K3 completo en un solo dispositivo. Y un servidor API compatible con OpenAI para agentes de chat y programación locales.
Wiki LLM de Karpathy, 100% local con Ollama. Suelta notas Markdown → IA extrae conceptos → tu wiki Obsidian se enlaza automáticamente y crece. Cero compartición. Tus notas siguen siendo tuyas.
Motor de inferencia ultrarrápido para Apple Silicon, optimizado para Qwen y Nemotron. Compatible con las API de OpenAI y Anthropic. Creado por el equipo de nace.ai
Aprovecha el poder de los LLM locales con este Cliente TUI MCP para Ollama. Con todas las primitivas MCP principales (herramientas, indicaciones, recursos), modo agente, multiservidor, cambio de modelo, respuestas en streaming, humano en el bucle, modo de pensamiento, configuración de parámetros del modelo, indicaciones del sistema y preferencias guardadas.
SDK de IA local de código abierto: ejecuta IA en el dispositivo sin nube ni claves de API. Compatible con GGUF, RAG, generación de imágenes, música y vídeo, conversión de voz a texto, inferencia P2P y mucho más. Multiplataforma: Linux, macOS, Windows, Android e iOS.
Microsoft GraphRAG + AutoGen + Ollama + Chainlit = Superbot RAG Multiagente Completamente Local y Gratuito
AlwaysReddy es un asistente de voz LLM que siempre está a solo una combinación de teclas de distancia.
Decodificación de LLM hasta 4× más rápida en Apple Silicon, sin pérdidas. Port nativo para MLX de la decodificación especulativa DSpark de DeepSeek y DFlash de z-lab — Gemma-4, Qwen3.8, Muse-Glimmer, Nemotron, LFM2.5, Ornith-1.0 y Bonsai-27B ternario.
Aplicación para la barra de menús de macOS que ofrece DeepSeek V4.1 local y rápido, con un contexto de 1 millón de tokens.
37 tok/s con Qwen3-Next-80B (48 GB) en un portátil de 32 GB; 24 sin borradores, frente a 2,8 con llama.cpp; lectura a 62 frente a 16 tok/s. Más rápido que llama.cpp en los 13 modelos comparados en Q4_K_M. LLM más grandes que tu RAM, en C puro, para CPU o GPU.