Git Stars Git Stars

#cpu-inference Репозитории

Откройте для себя 17 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #cpu-inference, с общим числом 84,398 звёзд (в среднем 4,964 на проект). Лидером этой темы является microsoft/BitNet, набравший 42,358 звёзд.

17
Всего репозиториев
84,398
Всего звезд
4,964
Среднее количество звезд на репозиторий
Языки программирования: Python C++ C HTML Rust

Всего репозиториев: 17

1
microsoft/BitNet

Официальная структура вывода для 1-битных LLM

microsoft
⭐ 42,358 C++ 👤 microsoft Organization 🕐 Обновлено 2026-07-27 📅 Создано 2024-08-05
2
FareedKhan-dev/kimi-k3-in-c

Модель Kimi K3 с 2,78 триллионами параметров, выполняющая логический вывод на одном процессоре с 8,24 ГБ оперативной памяти. Портативный C99: без BLAS, без фреймворков, без GPU.

FareedKhan-dev
⭐ 12,523 C 👤 FareedKhan-dev User 🕐 Обновлено 2026-11-16 📅 Создано 2026-08-01
3
google/gemma.cpp

легковесный, автономный C++ движок вывода для моделей Gemma от Google.

google
⭐ 7,089 C++ 👤 google Organization 🕐 Обновлено 2026-11-20 📅 Создано 2024-02-13
4
xxnuo/MTranServer

Автономный сервер модели перевода с низким потреблением ресурсов, высокой скоростью и возможностью частного развертывания. 低资源占用速度快可私有部署的离线翻译模型服务器

xxnuo
⭐ 4,758 C++ 👤 xxnuo User 🕐 Обновлено 2026-11-18 📅 Создано 2025-02-06
5
OpenMOSS/MOSS-TTS-Nano

Многоязычная TTS-модель со 100 миллионами параметров для вывода в реальном времени на CPU, клонирования голоса и генерации стереозвука с частотой 48 кГц

OpenMOSS
⭐ 4,711 Python 👤 OpenMOSS Organization 🕐 Обновлено 2026-09-06 📅 Создано 2026-04-10
6
fastino-ai/GLiNER2

Объединённое извлечение информации на основе схемы

fastino-ai
⭐ 2,490 Python 👤 fastino-ai Organization 🕐 Обновлено 2026-11-20 📅 Создано 2025-07-07
8
dleemiller/WordLlama

Что можно сделать с векторными представлениями токенов LLM

dleemiller
⭐ 1,448 Python 👤 dleemiller User 🕐 Обновлено 2025-12-01 📅 Создано 2024-06-12
9
synchopate/llama-modchip

Инференс на CPU без GPU для MoE-моделей размером 30B–284B (Qwen3.8 176.5B сертифицирован в режиме холодного кэша в Cgroup v2 с объёмом 28,26/48,35 ГиБ, DeepSeek-V4 284B, Nemotron-30B) + RouteCrack 2.0.

synchopate
⭐ 1,398 Python 👤 synchopate User 🕐 Обновлено 2026-11-21 📅 Создано 2026-10-29
10
wangeai/K3Flight

Запустите Kimi K3 локально на процессоре с использованием около 55 ГБ оперативной памяти во время выполнения. Однофайловый сервер логического вывода для Linux на базе cPilot Runtime.

wangeai
⭐ 1,019 HTML 👤 wangeai Organization 🕐 Обновлено 2026-07-31 📅 Создано 2026-07-30
11
feder-cr/jev

jevos: альтернатива Jev и Microsoft-Decision-1 с открытым исходным кодом. Решения «да/нет», выбор и оценка с вероятностями — на процессоре вашего ноутбука.

feder-cr
⭐ 970 C++ 👤 feder-cr User 🕐 Обновлено 2026-10-18 📅 Создано 2024-08-15
12
Phocinae/Phocinae-Largha-150M-v1

Пятнистый тюлень — Phocinae-Largha-150M-v1: двуязычная модель для принятия решений на 144,3 млн параметров. Маленькая модель. Большие решения. Маленький тюлень — большие решения.

Phocinae
⭐ 797 Python 👤 Phocinae Organization 🕐 Обновлено 2026-10-20 📅 Создано 2026-10-08
13
fluxions-ai/vui

Vui Nano — небольшая контекстно-зависимая модель преобразования текста в речь, обученная на реальных разговорах. 219 млн активных параметров (305 млн всего), лицензия Apache 2.0, клонирование голоса и потоковая передача; работает на CPU (сборка на C без зависимостей). В комплект входит полноценный голосовой ассистент реального времени: WebRTC, ASR, локальная LLM и совместимость с OpenAI Realtime API.

fluxions-ai
⭐ 782 Python 👤 fluxions-ai Organization 🕐 Обновлено 2026-10-10 📅 Создано 2025-06-05
14
prabanta-dev/janas

37 ток/с на Qwen3-Next-80B (48 ГБ) на ноутбуке с 32 ГБ памяти; 24 ток/с без черновой генерации против 2,8 у llama.cpp; скорость чтения — 62 против 16 ток/с. Быстрее llama.cpp на всех 13 моделях, сравнивавшихся в Q4_K_M. Запускайте LLM, превышающие объём вашей RAM, на чистом C — на CPU или GPU.

prabanta-dev
⭐ 738 C 👤 prabanta-dev Organization 🕐 Обновлено 2026-11-20 📅 Создано 2026-09-20
15
ai25395/FMatPix

Бесплатный портативный инструмент OCR для формул с поддержкой latex и mathml

ai25395
⭐ 614 Python 👤 ai25395 User 🕐 Обновлено 2025-04-21 📅 Создано 2024-10-20
16
lucienhuangfu/eLLM

eLLM: Запуск длинных горизонтальных выводов на CPU быстрее, чем на GPU

lucienhuangfu
⭐ 602 Rust 👤 lucienhuangfu User 🕐 Обновлено 2026-11-12 📅 Создано 2025-06-30
17
brontoguana/krasis

Krasis — это гибридная среда выполнения LLM, ориентированная на эффективный запуск больших моделей на потребительском оборудовании с ограниченным объемом видеопамяти

brontoguana
⭐ 530 C++ 👤 brontoguana User 🕐 Обновлено 2026-11-12 📅 Создано 2026-02-09

Часто задаваемые вопросы

1

Какой репозиторий по теме #cpu-inference наиболее популярен на GitHub?

Самый высоко оценённый проект с открытым исходным кодом по теме #cpu-inference на GitHub — microsoft/BitNet, набравший 42,358 звёзд. Официальная структура вывода для 1-битных LLM

2

Какие языки программирования чаще всего используются в репозиториях по теме #cpu-inference?

Среди наиболее высоко оценённых проектов по теме #cpu-inference на GitHub чаще всего используются языки программирования Python, C++, C, HTML.

3

Как рассчитывается рейтинг репозиториев по теме #cpu-inference?

Мы отслеживаем 17 активных репозиториев с открытым исходным кодом, отмеченных тегом #cpu-inference (500 и более звёзд), с общим числом 84,398 звёзд и в среднем 4,964 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.