#local-llm Repositorios
122 repositorios en total
API local compatible con OpenAI para texto a voz (TTS) usando Chatterbox, que permite a los usuarios generar discursos clonados de voz dondequiera que se use la API de OpenAI (por ejemplo, Open WebUI, AnythingLLM, etc.).
Un asistente de codificación de IA completamente privado y local, desarrollado por Gensyn. Le ayuda a practicar problemas de programación y a entrenar a un asistente novedoso para que le ayude a codificar.
Asistente de IA de línea de comandos totalmente de código abierto inspirado en OpenAI Codex, compatible con modelos de lenguaje locales.
Ejecuta un modelo de IA de 105 GB en un Mac que no puede almacenarlo. Qwen3.8-Flash-Next de 4 bits, transmitido desde un SSD en Macs con Apple Silicon y 16–64 GB de memoria. Totalmente nativo en Swift, MLX y Metal. Sin conexión y sin Python. CLI, biblioteca Swift y API de Ollama/OpenAI/Anthropic. Compatible con Claude Code y Codex.
Swiftlet es un entorno de ejecución de Swift y Metal que ejecuta grandes modelos Qwen Mixture-of-Experts localmente en dispositivos Apple mediante la transmisión de pesos de expertos desde el almacenamiento, lo que permite que los modelos de 35B y 80B se ejecuten con poca memoria RAM, incluso en el iPhone.
Inferencia de LLM entre pares en el navegador: agrupa tus dispositivos para ejecutar grandes modelos abiertos destinados a agentes de chat y programación.
Convierte tu teléfono Android en un servidor de inferencia de LLM compatible con OpenAI: completamente local, privado y de código abierto
un cliente de escritorio LLM mágico que facilita a *cualquiera* el uso de LLM y MCP
Sistema operativo de agentes de IA autohospedado. Tu memoria, chats, agentes y archivos permanecen en el hardware que posees, sin conexión por defecto, en la nube por elección. Incluye memoria de IA sin conexión (taOSmd), chat grupal autohospedado con múltiples marcos, un escritorio web completo + tienda de aplicaciones, y auto-clustering en el hardware de consumo que ya tienes (Orange/Raspberry Pi, Mac mini, PC gaming).
Agentes personales 100 % gratuitos y de código abierto para tus aplicaciones de mensajería, herramientas y servicios
IDE impulsado por IA para la escritura de novelas: LLM local + RAG, privacidad ante todo, BYOK. Para autores de ficción web y escritores creativos.
Plataforma de agentes de IA de código abierto y autohospedada para los compañeros de equipo de IA de su empresa. Cree, ejecute y gobierne agentes en sus propios servidores y modelos: chat compartido, RAG, habilidades, un navegador real, más de 4.700 servidores MCP, presupuestos, aprobaciones y un registro de auditoría. Una alternativa a ChatGPT Enterprise y Grok Bot. Apache-2.0, desarrollada sobre Pydantic AI.
Una solución curada para construir un segundo cerebro auto-evolutivo que ayuda a los agentes de IA a comprender su contexto personal y de equipo.
No corregirá tu error. Te corregirá a ti. El depurador que te devuelve la pregunta en vez de la respuesta.
Chat de IA local para iPhone, iPad y Mac. Conéctate a Ollama, LM Studio o cualquier servidor compatible con OpenAI, o ejecuta modelos MLX en el dispositivo. Incluye herramientas y búsqueda web.
Una forma más sencilla de usar IA en tu propio ordenador. Una alternativa gratuita y de código abierto a Claude y ChatGPT que ejecuta localmente modelos de pesos abiertos como Gemma y gpt-oss en Mac, Windows y Linux. Privada y funciona sin conexión.
Xolotl: ejecuta DeepSeek-V4.1-Flash, con sus 552B parámetros completos, como agente de programación local en un solo PC gaming (RTX 4090 + 110 GB de RAM): ~33 tok/s como agente, ~41 en modo rápido y contexto de 512K. Además, Inkling-2-Mini (Thinking Machines, motor propio + generador de borradores MTP), GLM-5.3-Flash, Qwen3.8 y LFM3-Omni. Expertos MoE distribuidos por niveles entre la VRAM, la RAM y NVMe (Xolotl Direct). API de OpenAI + Anthropic.
Estación de trabajo creativa de IA de pila completa y con prioridad local: cinco módulos —chat con IA, cómics con IA, creación de dramas en formato cómic, espacio de escritura y aprendizaje de conocimientos—; inferencia local con varios motores (vLLM / llama.cpp / Transformers), asignación inteligente de VRAM, aislamiento por compartimentos y autorrecuperación. Solo para fines educativos; se agradecen los comentarios y el intercambio de ideas. (Debido a restricciones del protocolo, por ahora no es posible enviar al repositorio los últimos avances, excepto el sistema de complementos.)
Plataforma de inteligencia documental basada en IA y centrada en el almacenamiento local para el periodismo de investigación
Ejecuta LLM locales como Gemma, Qwen y LLaMA en Android para disfrutar de chat y respuestas a preguntas en tiempo real, de forma privada y sin conexión, con LiteRT y ONNX Runtime.