Git Stars Git Stars

#llama-cpp Репозитории

Откройте для себя 69 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #llama-cpp, с общим числом 212,421 звёзд (в среднем 3,078 на проект). Лидером этой темы является QwenLM/Qwen3, набравший 27,753 звёзд.

69
Всего репозиториев
212,421
Всего звезд
3,078
Среднее количество звезд на репозиторий

Всего репозиториев: 69

1
QwenLM/Qwen3

Qwen3 — это серия больших языковых моделей, разработанная командой Qwen, Alibaba Cloud.

QwenLM
⭐ 27,753 Python 👤 QwenLM Organization 🕐 Обновлено 2026-01-09 📅 Создано 2024-02-05
2
mozilla-ai/llamafile

Распространяйте и запускайте LLM с помощью одного файла.

mozilla-ai
⭐ 26,681 C++ 👤 mozilla-ai Organization 🕐 Обновлено 2026-11-09 📅 Создано 2023-09-10
3
altic-dev/FluidVoice

Самое быстрое и единственное приложение для диктовки на macOS с распознаванием речи непосредственно на устройстве (STT) и специально обученной моделью улучшения текста на основе ИИ. Доступно для Windows и в TestFlight для iOS! Открыта запись в лист ожидания для Android и Linux! Локальная альтернатива Wispr Flow. Следите за новостями: https://x.com/fluidvoiceapp.

altic-dev
⭐ 13,189 Swift 👤 altic-dev User 🕐 Обновлено 2026-11-21 📅 Создано 2025-09-21
4
getumbrel/llama-gpt

Автономный, оффлайн-чат-бот, похожий на ChatGPT. На базе Llama 2. 100% приватность, данные никогда не покидают ваше устройство. Новинка: поддержка Code Llama!

getumbrel
⭐ 10,990 TypeScript 👤 getumbrel Organization 🕐 Обновлено 2024-04-23 📅 Создано 2023-07-22
5
QwenAudio/SenseVoice

Модель SenseVoiceSmall с открытым исходным кодом для распознавания речи на мандаринском, кантонском, английском, японском и корейском языках, идентификации языка, распознавания эмоций и обнаружения аудиособытий.

QwenAudio
⭐ 9,797 C 👤 QwenAudio Organization 🕐 Обновлено 2026-09-30 📅 Создано 2024-07-03
6
xorbitsai/inference

Открытая платформа для инференса языковых, визуальных, эмбеддинговых моделей, моделей переранжирования, изображений, аудио и видео. Развертывайте несколько движков на разнородном оборудовании — от ноутбука до распределенного кластера. Предоставляйте модели через API, совместимые с OpenAI.

xorbitsai
⭐ 9,667 Python 👤 xorbitsai Organization 🕐 Обновлено 2026-11-21 📅 Создано 2023-06-14
7
a-ghorbani/pocketpal-ai

Приложение, которое доставляет языковые модели прямо на ваш телефон.

a-ghorbani
⭐ 9,644 TypeScript 👤 a-ghorbani User 🕐 Обновлено 2026-11-19 📅 Создано 2024-08-25
8
Osmantic/ODS

Предварительный выпуск ODS V3: публичное тестирование и доработка перед официальным запуском V3. Превратите свой ПК, Mac или компьютер под управлением Linux в частный ИИ-сервер.

Osmantic
⭐ 7,882 Python 👤 Osmantic Organization 🕐 Обновлено 2026-11-19 📅 Создано 2026-02-09
9
ARahim3/DigUp

Ищите на компьютере по содержимому файлов: фотографиям, PDF, документам, записям, видео и коду. Работает локально на Mac, Windows и Linux и создано на базе EmbeddingGemma 2 от Google DeepMind.

ARahim3
⭐ 6,484 Swift 👤 ARahim3 User 🕐 Обновлено 2026-10-26 📅 Создано 2026-10-08
10
nat/openplayground

Песочница LLM, которую вы можете запустить на своем ноутбуке

nat
⭐ 6,342 TypeScript 👤 nat User 🕐 Обновлено 2026-02-06 📅 Создано 2023-02-26
11
defog-ai/sqlcoder

SoTA LLM для преобразования вопросов на естественном языке в SQL-запросы

defog-ai
⭐ 3,971 Jupyter Notebook 👤 defog-ai Organization 🕐 Обновлено 2024-05-23 📅 Создано 2023-08-17
12
SciSharp/LLamaSharp

Библиотека C#/.NET для эффективного запуска LLM (🦙LLaMA/LLaVA) на вашем локальном устройстве.

SciSharp
⭐ 3,826 C# 👤 SciSharp Organization 🕐 Обновлено 2026-11-20 📅 Создано 2023-05-09
13
AtomicBot-ai/atomic-agent

Atomic Agent — это ИИ-агент с приоритетом локального выполнения. Он запускает модели с открытыми весами на вашем компьютере с помощью llama.cpp.

AtomicBot-ai
⭐ 3,589 TypeScript 👤 AtomicBot-ai Organization 🕐 Обновлено 2026-11-21 📅 Создано 2026-04-21
14
nicedreamzapp/claude-code-local

Достигли лимита использования Claude Code? Продолжайте бесплатно и офлайн на локальной модели: Qwen 3.8, Gemma 4 и Qwen 4 уже в день выхода. Работает на Mac с Apple Silicon (MLX), Linux и Windows (llama.cpp) без ключа API. Ваш код остаётся у вас.

nicedreamzapp
⭐ 3,525 Python 👤 nicedreamzapp User 🕐 Обновлено 2026-11-21 📅 Создано 2026-03-26
15
off-grid-ai/OGAM

«Швейцарский армейский нож» для офлайн-ИИ. Общайтесь, распознавайте изображения, говорите и создавайте картинки на своем телефоне или Mac — поддержка GGUF LLM, зрения, преобразования речи в текст Whisper, Stable Diffusion, вызова инструментов и серверов локальной сети. Работает на вашем CPU, GPU или NPU. Никаких аккаунтов, никаких API-ключей, данные не покидают ваше устройство.

off-grid-ai
⭐ 3,406 TypeScript 👤 off-grid-ai Organization 🕐 Обновлено 2026-11-21 📅 Создано 2026-01-29
16
SharpAI/DeepCamera

Платформа навыков открытого AI‑камеры, AI NVR и CCTV‑надзиора. Локальный видеоаналитика VLM с Qwen, DeepSeek, SmolVLM, LLaVA, YOLO26. Агент безопасности камеры с поддержкой LLM — наблюдает, понимает, запоминает и защищает ваш дом через Telegram, Discord или Slack. Подключаемые AI‑навыки. OpenAI, Google, Anthropic или локальный AI. Работает на Mac Mini и AI‑PC.

SharpAI
⭐ 3,144 JavaScript 👤 SharpAI Organization 🕐 Обновлено 2026-09-17 📅 Создано 2019-03-05
17
Luce-Org/lucebox

Движок инференса Lucebox для гетерогенного оборудования и потребительских GPU

Luce-Org
⭐ 3,024 C++ 👤 Luce-Org Organization 🕐 Обновлено 2026-11-21 📅 Создано 2026-04-03
18
FrigadeHQ/yogurt

Конфиденциальные заметки встреч с помощью ИИ, которые хранятся на вашем компьютере. Без бота для встреч. Бесплатное ПО с открытым исходным кодом для Mac, Windows и Linux. Альтернатива Granola, Otter и Fireflies.

FrigadeHQ
⭐ 2,828 TypeScript 👤 FrigadeHQ Organization 🕐 Обновлено 2026-11-21 📅 Создано 2026-11-10
19
Mobile-Artificial-Intelligence/maid

Maid – это бесплатное и открытое приложение, позволяющее взаимодействовать с моделями llama.cpp локально, а также с моделями Anthropic, DeepSeek, Ollama, Mistral и OpenAI удаленно.

Mobile-Artificial-Intelligence
⭐ 2,785 TypeScript 👤 Mobile-Artificial-Intelligence Organization 🕐 Обновлено 2026-10-29 📅 Создано 2023-10-17
20
antoinezambelli/forge

Python-фреймворк для вызова инструментов LLM с самостоятельным хостингом и многошаговых агентных рабочих процессов

antoinezambelli
⭐ 2,268 Python 👤 antoinezambelli User 🕐 Обновлено 2026-11-20 📅 Создано 2026-02-16
21
withcatai/node-llama-cpp

Запускайте модели ИИ локально на вашем компьютере с помощью привязок Node.js для llama.cpp. Применяйте JSON-схему к выводу модели на уровне генерации.

withcatai
⭐ 2,207 TypeScript 👤 withcatai Organization 🕐 Обновлено 2026-11-18 📅 Создано 2023-08-12
22
XiongjieDai/GPU-Benchmarks-on-LLM-Inference

Несколько графических процессоров NVIDIA или Apple Silicon для инференса больших языковых моделей?

XiongjieDai
⭐ 1,862 Jupyter Notebook 👤 XiongjieDai User 🕐 Обновлено 2024-05-13 📅 Создано 2023-07-19
23
ggml-org/Llama-macOS

Уютный дом для ваших LLM.

ggml-org
⭐ 1,852 Swift 👤 ggml-org Organization 🕐 Обновлено 2026-11-17 📅 Создано 2025-06-30
24
Roy3838/Observer

Оркестратор микроагентов, который следит за чем угодно вместо вас. Полностью работает локально. Открытый исходный код.

Roy3838
⭐ 1,814 TypeScript 👤 Roy3838 User 🕐 Обновлено 2026-11-20 📅 Создано 2025-02-05
25
microsoft/edgeai-for-beginners

Этот курс предназначен для начинающих, чтобы провести их через увлекательный мир краевого искусственного интеллекта (Edge AI), охватывая фундаментальные концепции, популярные модели, методы вывода, приложения для конкретных устройств, оптимизацию моделей и разработку интеллектуальных агентов краевого ИИ.

microsoft
⭐ 1,784 Jupyter Notebook 👤 microsoft Organization 🕐 Обновлено 2026-11-02 📅 Создано 2025-06-27
26
StartLuxLabs/StartLux-Decision

Открытые модели для принятия решений от 0,8B до 27B: откалиброванная вероятность для каждого варианта за один проход и краткое рассуждение только при неуверенности. Движок для vLLM, llama.cpp и MLX.

StartLuxLabs
⭐ 1,780 Python 👤 StartLuxLabs Organization 🕐 Обновлено 2026-10-23 📅 Создано 2026-09-29
27
undreamai/LLMUnity

Создавайте персонажей в Unity с помощью LLM!

undreamai
⭐ 1,740 C# 👤 undreamai Organization 🕐 Обновлено 2026-04-29 📅 Создано 2023-12-27
28
thetahealth/mirobody

Отразите своё тело в данных. Единый стандарт, все источники, целостная картина о вас: самостоятельно размещаемая медицинская карта на основе лабораторных анализов, данных носимых устройств и генетической информации. Каждое число можно проследить до источника, а MCP-сервер уже встроен. Запустите её с помощью Docker и одного ключа LLM или оставьте все модели локально, используя llama.cpp.

thetahealth
⭐ 1,645 Python 👤 thetahealth Organization 🕐 Обновлено 2026-11-20 📅 Создано 2025-11-29
29
QwenAudio/Fun-ASR

Модели распознавания речи Fun-ASR с нативной поддержкой Hugging Face Transformers для Fun-ASR-Nano и отдельными вариантами развёртывания для FunASR, vLLM и llama.cpp.

QwenAudio
⭐ 1,614 C 👤 QwenAudio Organization 🕐 Обновлено 2026-11-20 📅 Создано 2025-12-15
30
ollaya-dev/ollaya

API-сервер, совместимый с Jev, для открытых моделей принятия решений. Ollama для моделей принятия решений: загружайте и запускайте локально 29 семейств моделей (Laya, pplx-decider, Clef, Winnow, coba...) или размещайте их самостоятельно за /v1/systemone. SDK TypeSafe работает без изменений: укажите базовый URL и выберите открытую модель. CLI, настольное приложение, Docker, MCP-сервер и общедоступный бенчмарк.

ollaya-dev
⭐ 1,473 Rust 👤 ollaya-dev Organization 🕐 Обновлено 2026-11-21 📅 Создано 2026-09-23
31
synchopate/llama-modchip

Инференс на CPU без GPU для MoE-моделей размером 30B–284B (Qwen3.8 176.5B сертифицирован в режиме холодного кэша в Cgroup v2 с объёмом 28,26/48,35 ГиБ, DeepSeek-V4 284B, Nemotron-30B) + RouteCrack 2.0.

synchopate
⭐ 1,398 Python 👤 synchopate User 🕐 Обновлено 2026-11-21 📅 Создано 2026-10-29
32
gotzmann/llama.go

llama.go похож на llama.cpp на чистом Golang!

gotzmann
⭐ 1,396 Go 👤 gotzmann User 🕐 Обновлено 2024-09-20 📅 Создано 2023-03-19
33
ciddwd/overlay-translator

Открытый инструмент для перевода экрана в реальном времени на Android без root, подходит для игр, визуальных новелл и манги. Поддерживает OCR на устройстве и в облаке, офлайн-LLM, несколько сервисов перевода, перевод на экране и озвучивание текста (TTS).

ciddwd
⭐ 1,369 Kotlin 👤 ciddwd User 🕐 Обновлено 2026-11-16 📅 Создано 2026-06-22
34
Soulmate-Halo/heterogeneous-gpu-pd-lab

Ускоряйте хосты с большим объёмом памяти и разреженными вычислительными ресурсами с помощью карт высокой вычислительной плотности, включая AI Max+ 395, M3 512G и DGX Spark.

Soulmate-Halo
⭐ 1,288 C++ 👤 Soulmate-Halo User 🕐 Обновлено 2026-11-10 📅 Создано 2026-09-01
35
wici-ai/inferssd

Запускайте модели, превышающие объём вашей RAM или VRAM, загружая экспертов MoE с SSD в потоковом режиме. Основано на llama.cpp.

wici-ai
⭐ 1,277 C++ 👤 wici-ai Organization 🕐 Обновлено 2026-11-20 📅 Создано 2026-10-22
36
OpenBuddy/OpenBuddy

Открытый многоязычный чат-бот для всех

OpenBuddy
⭐ 1,274 👤 OpenBuddy Organization 🕐 Обновлено 2025-06-08 📅 Создано 2023-04-26
37
StayLameBro/backburner

Ваш iPhone помогает Mac запускать модель на 27 млрд параметров: более быстрое чтение промптов и больший контекст через кабель USB-C

StayLameBro
⭐ 1,195 Python 👤 StayLameBro User 🕐 Обновлено 2026-11-07 📅 Создано 2026-10-01
38
FuJacob/cotabby

Cotabby — это локальная автозавершение с ИИ для всего вашего Mac. С открытым исходным кодом. На устройстве. Везде, где вы печатаете.

FuJacob
⭐ 1,126 Swift 👤 FuJacob User 🕐 Обновлено 2026-10-29 📅 Создано 2026-04-04
39
hyperionaidev/smolmaxxing

Максимальное увеличение возможностей запуска различных LLM на самых компактных устройствах

hyperionaidev
⭐ 1,079 C 👤 hyperionaidev Organization 🕐 Обновлено 2026-11-19 📅 Создано 2026-11-04
40
docker/compose-for-agents

Создавайте и запускайте ИИ-агентов с помощью Docker Compose. Коллекция готовых примеров для оркестровки LLM с открытым исходным кодом, инструментов и сред выполнения агентов.

docker
⭐ 1,075 TypeScript 👤 docker Organization 🕐 Обновлено 2026-10-23 📅 Создано 2025-05-09
41
mybigday/llama.rn

Привязка React Native для llama.cpp

mybigday
⭐ 1,074 C 👤 mybigday Organization 🕐 Обновлено 2026-11-21 📅 Создано 2023-08-02
42
Helldez/BigMoeOnEdge

Запускайте MoE-модели, превышающие объём вашей оперативной памяти. MoE передового уровня на телефоне, ноутбуке или edge-устройстве. Без потерь, на стандартном llama.cpp. Адаптивный потоковый оптимизатор. Любое оборудование, любая ОС, любая модель и квантование — через локальный сервер, совместимый с OpenAI.

Helldez
⭐ 1,066 C++ 👤 Helldez User 🕐 Обновлено 2026-11-21 📅 Создано 2026-07-10
43
intel/AI-Playground

Стандартное приложение AI PC для создания изображений ИИ, стилизации изображений и чат-бота на ПК с графическим процессором Intel® Arc™.

intel
⭐ 1,043 TypeScript 👤 intel Organization 🕐 Обновлено 2026-10-30 📅 Создано 2024-07-10
⭐ 1,033 CSS 👤 susiai Organization 🕐 Обновлено 2026-01-20 📅 Создано 2017-11-25
45
kennss/SiliconScope

Системный монитор Apple Silicon без sudo (родной GUI на SwiftUI) с отслеживанием ANE / Media Engine / пропускной способности памяти

kennss
⭐ 1,026 Swift 👤 kennss User 🕐 Обновлено 2026-11-20 📅 Создано 2026-06-08
46
sgaofen/humanizer-local-model

Переписывает черновики ИИ так, чтобы они звучали по-человечески. Работает локально и сохраняет факты

sgaofen
⭐ 1,010 Python 👤 sgaofen User 🕐 Обновлено 2026-10-19 📅 Создано 2026-09-11
47
OleksandrChekhovskyi/hax

Минималистичный нативный для терминала агент программирования, написанный на C.

OleksandrChekhovskyi
⭐ 1,006 C 👤 OleksandrChekhovskyi User 🕐 Обновлено 2026-11-13 📅 Создано 2026-04-24
48
huggingface/AnyLanguageModel

API-совместимая замена фреймворка Foundation Models от Apple с поддержкой пользовательских поставщиков языковых моделей.

huggingface
⭐ 990 Swift 👤 huggingface Organization 🕐 Обновлено 2026-11-20 📅 Создано 2025-10-05
49
feder-cr/jev

jevos: альтернатива Jev и Microsoft-Decision-1 с открытым исходным кодом. Решения «да/нет», выбор и оценка с вероятностями — на процессоре вашего ноутбука.

feder-cr
⭐ 970 C++ 👤 feder-cr User 🕐 Обновлено 2026-10-18 📅 Создано 2024-08-15
50
alvarobartt/hf-mem

CLI-инструмент для оценки требований к памяти инференса для моделей Hugging Face, написанный на Python.

alvarobartt
⭐ 956 Python 👤 alvarobartt User 🕐 Обновлено 2026-11-20 📅 Создано 2025-12-22

Часто задаваемые вопросы

1

Какой репозиторий по теме #llama-cpp наиболее популярен на GitHub?

Самый высоко оценённый проект с открытым исходным кодом по теме #llama-cpp на GitHub — QwenLM/Qwen3, набравший 27,753 звёзд. Qwen3 — это серия больших языковых моделей, разработанная командой Qwen, Alibaba Cloud.

2

Какие языки программирования чаще всего используются в репозиториях по теме #llama-cpp?

Среди наиболее высоко оценённых проектов по теме #llama-cpp на GitHub чаще всего используются языки программирования Python, TypeScript, C++, Swift.

3

Как рассчитывается рейтинг репозиториев по теме #llama-cpp?

Мы отслеживаем 69 активных репозиториев с открытым исходным кодом, отмеченных тегом #llama-cpp (500 и более звёзд), с общим числом 212,421 звёзд и в среднем 3,078 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.