#local-llm Репозитории
Всего репозиториев: 122
Локальный API синтеза речи (TTS), совместимый с OpenAI, использующий Chatterbox, позволяющий пользователям генерировать клонируемую речь где угодно, где используется API OpenAI (например, Open WebUI, AnythingLLM и т.д.).
Полностью приватный и локальный помощник по кодированию на базе ИИ, разработанный Gensyn. Он помогает вам практиковаться в решении задач программирования и обучать нового помощника, который будет помогать вам в написании кода.
Полностью основанный на открытом исходном коде ИИ-ассистент командной строки, вдохновленный OpenAI Codex, поддерживающий локальные языковые модели.
Запускайте ИИ-модель размером 105 ГБ на Mac, на котором она не помещается целиком. Qwen3.8-Flash-Next в 4-битном формате загружается потоком с SSD на компьютерах Mac с Apple Silicon и 16–64 ГБ памяти. Полностью нативная реализация на Swift, MLX и Metal. Работает офлайн, без Python. CLI, библиотека Swift и API Ollama/OpenAI/Anthropic. Совместима с Claude Code и Codex.
Swiftlet — это среда выполнения на Swift и Metal, которая запускает большие модели Qwen Mixture-of-Experts локально на устройствах Apple путем потоковой передачи весов экспертов из хранилища, что позволяет запускать модели 35B и 80B с малым объемом оперативной памяти, в том числе на iPhone.
P2P-инференс LLM в браузере: объединяйте свои устройства, чтобы запускать большие открытые модели для чат- и кодинговых агентов.
Превратите свой Android-смартфон в совместимый с OpenAI сервер инференса LLM — полностью локальный, приватный и с открытым исходным кодом
волшебный настольный клиент LLM, который позволяет *любому* легко использовать LLM и MCP
Самохостируемая ОС для ИИ-агентов. Ваша память, чаты, агенты и файлы остаются на вашем собственном оборудовании: по умолчанию офлайн, в облаке — по выбору. Включает офлайн-память ИИ (taOSmd), самохостируемый мультифреймворковый групповой чат, полноценный веб-рабочий стол + магазин приложений, а также автоматическую кластеризацию на уже имеющемся у вас потребительском оборудовании (Orange/Raspberry Pi, Mac mini, игровой ПК).
Полностью бесплатные персональные агенты с открытым исходным кодом для ваших мессенджеров, инструментов и сервисов
IDE на базе ИИ для написания романов — локальная LLM + RAG, конфиденциальность прежде всего, BYOK. Для авторов веб-фантастики и творческих писателей.
Платформа ИИ-агентов с открытым исходным кодом и самостоятельным размещением для ИИ-коллег вашей компании. Создавайте, запускайте и управляйте агентами на собственных серверах и моделях: общий чат, RAG, навыки, настоящий браузер, более 4 700 MCP-серверов, бюджеты, согласования и журнал аудита. Альтернатива ChatGPT Enterprise и Grok Bot. Apache-2.0, создана на базе Pydantic AI.
Подобранное решение для создания саморазвивающегося второго мозга, которое помогает ИИ-агентам понимать ваш личный и командный контекст.
Он не исправит ваш баг. Он исправит вас. Отладчик, который возвращает вам вопрос вместо ответа.
Локальный ИИ-чат для iPhone, iPad и Mac. Подключайтесь к Ollama, LM Studio или любому серверу, совместимому с OpenAI, либо запускайте модели MLX прямо на устройстве. Включает инструменты и поиск в интернете.
Более простой способ использовать ИИ на собственном компьютере. Бесплатная альтернатива Claude и ChatGPT с открытым исходным кодом, которая локально запускает модели с открытыми весами, например Gemma и gpt-oss, на Mac, Windows и Linux. Обеспечивает конфиденциальность и работает офлайн.
Xolotl: запускайте DeepSeek-V4.1-Flash со всеми 552B параметров как локального агента для программирования на одном игровом ПК (RTX 4090 + 110 ГБ ОЗУ): около 33 токенов/с в режиме агента, около 41 в быстром режиме, контекст 512K. Также доступны Inkling-2-Mini (Thinking Machines, собственный движок + модуль создания черновиков MTP), GLM-5.3-Flash, Qwen3.8 и LFM3-Omni. Эксперты MoE распределяются по уровням между VRAM, ОЗУ и NVMe (Xolotl Direct). API OpenAI + Anthropic.
Локальная полнофункциональная творческая ИИ-станция: пять модулей — ИИ-диалоги, ИИ-комиксы, создание комикс-драм, рабочее пространство для письма и изучение знаний; локальный вывод с использованием нескольких движков (vLLM / llama.cpp / Transformers), интеллектуальное управление видеопамятью, изоляция по принципу bulkhead и самовосстановление. Только для учебных целей; будем рады обсуждению и замечаниям. (Из-за ограничений протокола последние изменения, за исключением системы плагинов, пока нельзя отправить в репозиторий.)
Платформа анализа документов на базе ИИ с приоритетом локальной обработки для журналистских расследований
Запускайте локальные LLM, такие как Gemma, Qwen и LLaMA, на Android для приватного общения и ответов на вопросы в реальном времени без подключения к интернету с помощью LiteRT и ONNX Runtime.