#llama-cpp Репозитории
Откройте для себя 69 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #llama-cpp, с общим числом 212,421 звёзд (в среднем 3,078 на проект). Лидером этой темы является QwenLM/Qwen3, набравший 27,753 звёзд.
Всего репозиториев: 69
Qwen3 — это серия больших языковых моделей, разработанная командой Qwen, Alibaba Cloud.
Самое быстрое и единственное приложение для диктовки на macOS с распознаванием речи непосредственно на устройстве (STT) и специально обученной моделью улучшения текста на основе ИИ. Доступно для Windows и в TestFlight для iOS! Открыта запись в лист ожидания для Android и Linux! Локальная альтернатива Wispr Flow. Следите за новостями: https://x.com/fluidvoiceapp.
Автономный, оффлайн-чат-бот, похожий на ChatGPT. На базе Llama 2. 100% приватность, данные никогда не покидают ваше устройство. Новинка: поддержка Code Llama!
Модель SenseVoiceSmall с открытым исходным кодом для распознавания речи на мандаринском, кантонском, английском, японском и корейском языках, идентификации языка, распознавания эмоций и обнаружения аудиособытий.
Открытая платформа для инференса языковых, визуальных, эмбеддинговых моделей, моделей переранжирования, изображений, аудио и видео. Развертывайте несколько движков на разнородном оборудовании — от ноутбука до распределенного кластера. Предоставляйте модели через API, совместимые с OpenAI.
Предварительный выпуск ODS V3: публичное тестирование и доработка перед официальным запуском V3. Превратите свой ПК, Mac или компьютер под управлением Linux в частный ИИ-сервер.
Ищите на компьютере по содержимому файлов: фотографиям, PDF, документам, записям, видео и коду. Работает локально на Mac, Windows и Linux и создано на базе EmbeddingGemma 2 от Google DeepMind.
Библиотека C#/.NET для эффективного запуска LLM (🦙LLaMA/LLaVA) на вашем локальном устройстве.
Atomic Agent — это ИИ-агент с приоритетом локального выполнения. Он запускает модели с открытыми весами на вашем компьютере с помощью llama.cpp.
Достигли лимита использования Claude Code? Продолжайте бесплатно и офлайн на локальной модели: Qwen 3.8, Gemma 4 и Qwen 4 уже в день выхода. Работает на Mac с Apple Silicon (MLX), Linux и Windows (llama.cpp) без ключа API. Ваш код остаётся у вас.
«Швейцарский армейский нож» для офлайн-ИИ. Общайтесь, распознавайте изображения, говорите и создавайте картинки на своем телефоне или Mac — поддержка GGUF LLM, зрения, преобразования речи в текст Whisper, Stable Diffusion, вызова инструментов и серверов локальной сети. Работает на вашем CPU, GPU или NPU. Никаких аккаунтов, никаких API-ключей, данные не покидают ваше устройство.
Платформа навыков открытого AI‑камеры, AI NVR и CCTV‑надзиора. Локальный видеоаналитика VLM с Qwen, DeepSeek, SmolVLM, LLaVA, YOLO26. Агент безопасности камеры с поддержкой LLM — наблюдает, понимает, запоминает и защищает ваш дом через Telegram, Discord или Slack. Подключаемые AI‑навыки. OpenAI, Google, Anthropic или локальный AI. Работает на Mac Mini и AI‑PC.
Конфиденциальные заметки встреч с помощью ИИ, которые хранятся на вашем компьютере. Без бота для встреч. Бесплатное ПО с открытым исходным кодом для Mac, Windows и Linux. Альтернатива Granola, Otter и Fireflies.
Maid – это бесплатное и открытое приложение, позволяющее взаимодействовать с моделями llama.cpp локально, а также с моделями Anthropic, DeepSeek, Ollama, Mistral и OpenAI удаленно.
Python-фреймворк для вызова инструментов LLM с самостоятельным хостингом и многошаговых агентных рабочих процессов
Запускайте модели ИИ локально на вашем компьютере с помощью привязок Node.js для llama.cpp. Применяйте JSON-схему к выводу модели на уровне генерации.
Несколько графических процессоров NVIDIA или Apple Silicon для инференса больших языковых моделей?
Оркестратор микроагентов, который следит за чем угодно вместо вас. Полностью работает локально. Открытый исходный код.
Этот курс предназначен для начинающих, чтобы провести их через увлекательный мир краевого искусственного интеллекта (Edge AI), охватывая фундаментальные концепции, популярные модели, методы вывода, приложения для конкретных устройств, оптимизацию моделей и разработку интеллектуальных агентов краевого ИИ.
Открытые модели для принятия решений от 0,8B до 27B: откалиброванная вероятность для каждого варианта за один проход и краткое рассуждение только при неуверенности. Движок для vLLM, llama.cpp и MLX.
Отразите своё тело в данных. Единый стандарт, все источники, целостная картина о вас: самостоятельно размещаемая медицинская карта на основе лабораторных анализов, данных носимых устройств и генетической информации. Каждое число можно проследить до источника, а MCP-сервер уже встроен. Запустите её с помощью Docker и одного ключа LLM или оставьте все модели локально, используя llama.cpp.
Модели распознавания речи Fun-ASR с нативной поддержкой Hugging Face Transformers для Fun-ASR-Nano и отдельными вариантами развёртывания для FunASR, vLLM и llama.cpp.
API-сервер, совместимый с Jev, для открытых моделей принятия решений. Ollama для моделей принятия решений: загружайте и запускайте локально 29 семейств моделей (Laya, pplx-decider, Clef, Winnow, coba...) или размещайте их самостоятельно за /v1/systemone. SDK TypeSafe работает без изменений: укажите базовый URL и выберите открытую модель. CLI, настольное приложение, Docker, MCP-сервер и общедоступный бенчмарк.
Инференс на CPU без GPU для MoE-моделей размером 30B–284B (Qwen3.8 176.5B сертифицирован в режиме холодного кэша в Cgroup v2 с объёмом 28,26/48,35 ГиБ, DeepSeek-V4 284B, Nemotron-30B) + RouteCrack 2.0.
Открытый инструмент для перевода экрана в реальном времени на Android без root, подходит для игр, визуальных новелл и манги. Поддерживает OCR на устройстве и в облаке, офлайн-LLM, несколько сервисов перевода, перевод на экране и озвучивание текста (TTS).
Ускоряйте хосты с большим объёмом памяти и разреженными вычислительными ресурсами с помощью карт высокой вычислительной плотности, включая AI Max+ 395, M3 512G и DGX Spark.
Запускайте модели, превышающие объём вашей RAM или VRAM, загружая экспертов MoE с SSD в потоковом режиме. Основано на llama.cpp.
Ваш iPhone помогает Mac запускать модель на 27 млрд параметров: более быстрое чтение промптов и больший контекст через кабель USB-C
Cotabby — это локальная автозавершение с ИИ для всего вашего Mac. С открытым исходным кодом. На устройстве. Везде, где вы печатаете.
Максимальное увеличение возможностей запуска различных LLM на самых компактных устройствах
Создавайте и запускайте ИИ-агентов с помощью Docker Compose. Коллекция готовых примеров для оркестровки LLM с открытым исходным кодом, инструментов и сред выполнения агентов.
Запускайте MoE-модели, превышающие объём вашей оперативной памяти. MoE передового уровня на телефоне, ноутбуке или edge-устройстве. Без потерь, на стандартном llama.cpp. Адаптивный потоковый оптимизатор. Любое оборудование, любая ОС, любая модель и квантование — через локальный сервер, совместимый с OpenAI.
Стандартное приложение AI PC для создания изображений ИИ, стилизации изображений и чат-бота на ПК с графическим процессором Intel® Arc™.
Системный монитор Apple Silicon без sudo (родной GUI на SwiftUI) с отслеживанием ANE / Media Engine / пропускной способности памяти
Переписывает черновики ИИ так, чтобы они звучали по-человечески. Работает локально и сохраняет факты
Минималистичный нативный для терминала агент программирования, написанный на C.
API-совместимая замена фреймворка Foundation Models от Apple с поддержкой пользовательских поставщиков языковых моделей.
jevos: альтернатива Jev и Microsoft-Decision-1 с открытым исходным кодом. Решения «да/нет», выбор и оценка с вероятностями — на процессоре вашего ноутбука.
CLI-инструмент для оценки требований к памяти инференса для моделей Hugging Face, написанный на Python.
Часто задаваемые вопросы
Какой репозиторий по теме #llama-cpp наиболее популярен на GitHub?
Самый высоко оценённый проект с открытым исходным кодом по теме #llama-cpp на GitHub — QwenLM/Qwen3, набравший 27,753 звёзд. Qwen3 — это серия больших языковых моделей, разработанная командой Qwen, Alibaba Cloud.
Какие языки программирования чаще всего используются в репозиториях по теме #llama-cpp?
Среди наиболее высоко оценённых проектов по теме #llama-cpp на GitHub чаще всего используются языки программирования Python, TypeScript, C++, Swift.
Как рассчитывается рейтинг репозиториев по теме #llama-cpp?
Мы отслеживаем 69 активных репозиториев с открытым исходным кодом, отмеченных тегом #llama-cpp (500 и более звёзд), с общим числом 212,421 звёзд и в среднем 3,078 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.