Git Stars Git Stars

#on-device-ai Репозитории

Откройте для себя 68 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #on-device-ai, с общим числом 183,992 звёзд (в среднем 2,705 на проект). Лидером этой темы является cactus-compute/cactus, набравший 14,864 звёзд.

68
Всего репозиториев
183,992
Всего звезд
2,705
Среднее количество звезд на репозиторий

Всего репозиториев: 69

1
cactus-compute/cactus

Агентный интеллект, а также обработка речи и изображений размером менее 50 МБ для потребительских устройств.

cactus-compute
⭐ 14,864 Python 👤 cactus-compute Organization 🕐 Обновлено 2026-11-18 📅 Создано 2026-02-24
2
Edge0-AI/Edge0

Фундаментальные модели, работающие непосредственно на устройстве: 145B на ноутбуке, 35B на телефоне. Латентная MoE, веса, потоково загружаемые с SSD, и маршрутизатор, предсказывающий нагрузку на шаг вперёд. Mac, iPhone, Android, Windows.

Edge0-AI
⭐ 12,176 C++ 👤 Edge0-AI Organization 🕐 Обновлено 2026-11-21 📅 Создано 2026-09-08
3
OpenBMB/MiniCPM

MiniCPM5: передовые LLM на устройстве — маленькие, но мощные.

OpenBMB
⭐ 11,898 Jupyter Notebook 👤 OpenBMB Organization 🕐 Обновлено 2026-11-09 📅 Создано 2024-01-29
4
RunanywhereAI/runanywhere-sdks

Готовый к производству инструментарий для локального запуска ИИ

RunanywhereAI
⭐ 10,354 C++ 👤 RunanywhereAI Organization 🕐 Обновлено 2026-11-10 📅 Создано 2025-07-22
5
m87-labs/moondream

крошечная модель визуального языка

m87-labs
⭐ 10,167 Python 👤 m87-labs Organization 🕐 Обновлено 2026-04-20 📅 Создано 2023-12-29
6
qualcomm/GenieX

Запускайте передовые LLM и VLM локально на устройствах Qualcomm через NPU, GPU и CPU с помощью нескольких строк кода

qualcomm
⭐ 8,544 Go 👤 qualcomm Organization 🕐 Обновлено 2026-11-20 📅 Создано 2024-08-16
7
apple-aiml-research/ml-fastvlm

Этот репозиторий содержит официальную реализацию "FastVLM: Efficient Vision Encoding for Vision Language Models" - CVPR 2025

apple-aiml-research
⭐ 7,445 Python 👤 apple-aiml-research Organization 🕐 Обновлено 2026-09-11 📅 Создано 2025-05-01
8
drumih/turbo-fieldfare

Инференс Gemma 4 26B-A4B с использованием ~2 ГБ оперативной памяти на любом MacBook серии M

drumih
⭐ 7,432 Swift 👤 drumih User 🕐 Обновлено 2026-11-14 📅 Создано 2026-07-17
9
google-ai-edge/LiteRT-LM

LiteRT-LM — это готовый к промышленному использованию высокопроизводительный фреймворк для вывода с открытым исходным кодом от Google, предназначенный для развертывания больших языковых моделей на периферийных устройствах.

google-ai-edge
⭐ 6,913 C++ 👤 google-ai-edge Organization 🕐 Обновлено 2026-11-21 📅 Создано 2025-04-14
10
neuphonic/neutts

Модель TTS на устройстве от Neuphonic

neuphonic
⭐ 6,343 Python 👤 neuphonic Organization 🕐 Обновлено 2026-07-30 📅 Создано 2025-10-02
11
cactus-compute/engine

2-битное квантование, ядра и среда выполнения для потребительских устройств.

cactus-compute
⭐ 6,200 C++ 👤 cactus-compute Organization 🕐 Обновлено 2026-11-05 📅 Создано 2025-04-23
12
Fractal-Compute-Orchestrations/FractalAndroid

Ориентированный на человека и учитывающий ресурсы узел Android для периферийных вычислений и федеративного обучения. Координирует распределённый интеллект, обеспечивая локализацию с приоритетом конфиденциальности и бережное управление аппаратными ресурсами.

Fractal-Compute-Orchestrations
⭐ 4,851 Kotlin 👤 Fractal-Compute-Orchestrations Organization 🕐 Обновлено 2026-11-13 📅 Создано 2025-11-21
13
thunderbird/thunderbolt

ИИ под вашим контролем: Выбирайте свои модели. Владейте своими данными. Избегайте привязки к поставщику.

thunderbird
⭐ 4,827 TypeScript 👤 thunderbird Organization 🕐 Обновлено 2026-11-21 📅 Создано 2025-07-23
14
huggingface/smollm

Все о семействе моделей SmolLM и SmolVLM

huggingface
⭐ 3,960 Python 👤 huggingface Organization 🕐 Обновлено 2026-10-06 📅 Создано 2024-11-04
15
XiaoMi
⭐ 3,574 Python 👤 XiaoMi Organization 🕐 Обновлено 2026-11-20 📅 Создано 2025-11-06
16
nicedreamzapp/claude-code-local

Достигли лимита использования Claude Code? Продолжайте бесплатно и офлайн на локальной модели: Qwen 3.8, Gemma 4 и Qwen 4 уже в день выхода. Работает на Mac с Apple Silicon (MLX), Linux и Windows (llama.cpp) без ключа API. Ваш код остаётся у вас.

nicedreamzapp
⭐ 3,525 Python 👤 nicedreamzapp User 🕐 Обновлено 2026-11-21 📅 Создано 2026-03-26
17
QiuYannnn/Local-File-Organizer

Инструмент управления файлами на базе ИИ, который обеспечивает конфиденциальность путем организации локальных текстов и изображений. Используя модели Llama3.2 3B и Llava v1.6 с Nexa SDK, он интуитивно сканирует, реструктурирует и организует файлы для быстрого, беспрепятственного доступа и легкого извлечения.

QiuYannnn
⭐ 3,069 Python 👤 QiuYannnn User 🕐 Обновлено 2024-10-21 📅 Создано 2024-09-21
18
Mininglamp-AI/Mano-P

Mano-P: Агент GUI-VLA с открытым исходным кодом для периферийных устройств. №1 в OSWorld (специализированный, 58,2%). Запускается локально на Apple M4 Mac mini/MacBook — данные не покидают ваше устройство. Mano-P — это проект GUI-VLA с открытым исходным кодом, поддерживающий локальный запуск на Mac mini/MacBook или через вычислительную плату, реализующий операции автоматизации GUI кросс-платформенного уровня, управляемые исключительно зрением. Данные обрабатываются полностью локально, поддерживается планирование и выполнение сложных задач с множеством шагов.

Mininglamp-AI
⭐ 2,855 👤 Mininglamp-AI Organization 🕐 Обновлено 2026-06-25 📅 Создано 2026-03-25
19
huggingface/swift-coreml-diffusers

Приложение Swift, демонстрирующее Core ML Stable Diffusion

huggingface
⭐ 2,758 Swift 👤 huggingface Organization 🕐 Обновлено 2025-11-06 📅 Создано 2022-12-13
20
fikrikarim/parlor

Локальный мультимодальный ИИ в реальном времени с функциями, аналогичными GPT-Live

fikrikarim
⭐ 2,117 Python 👤 fikrikarim User 🕐 Обновлено 2026-08-03 📅 Создано 2026-04-05
21
cosmo-wander-ai/cosmo-edge

Готовый к промышленной эксплуатации C++-движок периферийного ИИ для видеоаналитики и VLM на устройстве на платформах Sophon, Rockchip RKNN и x86, с визуальной оркестрацией, экранной графикой OSD в реальном времени, обработкой событий и воспроизводимыми бенчмарками.

cosmo-wander-ai
⭐ 2,106 C 👤 cosmo-wander-ai Organization 🕐 Обновлено 2026-11-20 📅 Создано 2026-06-09
22
john-rocky/CoreML-Models

Core ML model zoo для iOS/macOS — модели PyTorch, преобразованные в готовые к использованию .mlpackage, каждая из которых включает скрипт конвертации и пример приложения на SwiftUI. Связанные репозитории охватывают фреймворк Core AI от Apple (iOS/macOS 27) и локальные LLM.

john-rocky
⭐ 1,902 Swift 👤 john-rocky User 🕐 Обновлено 2026-11-19 📅 Создано 2020-08-12
23
software-mansion/react-native-executorch

Высокопроизводительная библиотека ИИ-инференса на устройстве для React Native с приоритетом конфиденциальности, работающая на основе среды выполнения ExecuTorch от PyTorch

software-mansion
⭐ 1,794 TypeScript 👤 software-mansion Organization 🕐 Обновлено 2026-11-20 📅 Создано 2024-10-16
24
nobodywho-ooo/nobodywho

NobodyWho — это механизм вывода, который позволяет вам локально и эффективно запускать LLM на любом устройстве.

nobodywho-ooo
⭐ 1,699 Rust 👤 nobodywho-ooo Organization 🕐 Обновлено 2026-11-19 📅 Создано 2024-09-03
25
Muesli-HQ/muesli

Muesli: локальная транскрипция встреч и диктовка для macOS с поддержкой агентов (альтернатива Granola + WisprFlow + Littlebird)

Muesli-HQ
⭐ 1,652 Swift 👤 Muesli-HQ Organization 🕐 Обновлено 2026-11-21 📅 Создано 2026-03-05
26
amicalhq/amical

Бесплатный ввод текста голосом с открытым исходным кодом для macOS и Windows. Локальное распознавание речи с помощью Whisper и Parakeet; работает и офлайн.

amicalhq
⭐ 1,648 TypeScript 👤 amicalhq Organization 🕐 Обновлено 2026-11-21 📅 Создано 2025-05-08
27
mizorewww/laya-coreml

Локальные типизированные решения Laya на Apple Core ML и Neural Engine. Проверенные порты, короткие решения примерно за 5 мс на M3 Max, а также воспроизводимые бенчмарки скорости и энергопотребления.

mizorewww
⭐ 1,646 Python 👤 mizorewww User 🕐 Обновлено 2026-11-21 📅 Создано 2026-09-19
28
Neywa-Labs/nativ

Nativ — это локальное приложение с открытым исходным кодом для Mac. Оно запускает открытые ИИ-модели на Apple Silicon, и никакие данные не покидают ваш Mac.

Neywa-Labs
⭐ 1,608 Swift 👤 Neywa-Labs Organization 🕐 Обновлено 2026-11-21 📅 Создано 2026-07-20
29
jxlpzqc/TMSpeech

Инструмент "Moyu" для Tencent Meeting

jxlpzqc
⭐ 1,504 C# 👤 jxlpzqc User 🕐 Обновлено 2026-07-15 📅 Создано 2023-06-20
30
ARahim3/mlx-tune

Точно настраивайте LLMs на вашем Mac с Apple Silicon. SFT, DPO, GRPO, Vision, TTS, STT, Embedding и тонкая настройка OCR — нативно на MLX. API, совместимый с Unsloth.

ARahim3
⭐ 1,475 Python 👤 ARahim3 User 🕐 Обновлено 2026-06-23 📅 Создано 2026-01-03
31
facebookresearch/MobileLLM

MobileLLM Оптимизация языковых моделей с менее чем миллиардом параметров для использования на устройствах. В ICML 2024.

facebookresearch
⭐ 1,471 Python 👤 facebookresearch Organization 🕐 Обновлено 2026-04-30 📅 Создано 2024-07-09
32
mit-han-lab/proxylessnas

[ICLR 2019] ProxylessNAS: Прямой поиск архитектуры нейронных сетей для целевой задачи и аппаратного обеспечения

mit-han-lab
⭐ 1,451 C++ 👤 mit-han-lab Organization 🕐 Обновлено 2024-08-30 📅 Создано 2018-12-01
33
callstackincubator/ai

Выполнение LLM на устройстве в React Native с совместимостью Vercel AI SDK

callstackincubator
⭐ 1,442 TypeScript 👤 callstackincubator Organization 🕐 Обновлено 2026-11-11 📅 Создано 2024-07-19
34
kellyvv/PhoneClaw

PhoneClaw превращает телефоны в локальные среды выполнения ИИ-агентов с моделями на устройстве, нативными мобильными навыками, LiveLand и опциональным выводом через Mac Gateway.

kellyvv
⭐ 1,294 Swift 👤 kellyvv User 🕐 Обновлено 2026-08-06 📅 Создано 2026-04-04
35
rudrankriyam/Foundation-Models-Framework-Lab

Практическая лаборатория по созданию, тестированию и оценке приложений с использованием платформы базовых моделей Apple.

rudrankriyam
⭐ 1,194 Swift 👤 rudrankriyam User 🕐 Обновлено 2026-11-07 📅 Создано 2025-06-09
36
agents-io/PokeClaw

PokeClaw (PocketClaw) — первая ИИ на устройстве, которая управляет вашим Android-телефоном. Gemma 4, без облака, без API-ключа. Poke — сокращение от Pocket.

agents-io
⭐ 1,165 Kotlin 👤 agents-io Organization 🕐 Обновлено 2026-06-02 📅 Создано 2026-04-06
37
chongzhou96/EdgeSAM

Официальная реализация PyTorch "EdgeSAM: дистилляция с помощью промптов в цикле для развертывания SAM на устройстве"

chongzhou96
⭐ 1,152 Jupyter Notebook 👤 chongzhou96 User 🕐 Обновлено 2025-05-24 📅 Создано 2023-12-06
38
NativeMindBrowser/NativeMindExtension

NativeMind: Ваш полностью приватный, с открытым исходным кодом, локальный ИИ-ассистент

NativeMindBrowser
⭐ 1,137 TypeScript 👤 NativeMindBrowser Organization 🕐 Обновлено 2026-03-23 📅 Создано 2025-06-05
39
google-ai-edge/litert-torch

Поддержка конвертации моделей PyTorch с LiteRT.

google-ai-edge
⭐ 1,112 Jupyter Notebook 👤 google-ai-edge Organization 🕐 Обновлено 2026-11-21 📅 Создано 2024-05-13
40
Helldez/BigMoeOnEdge

Запускайте MoE-модели, превышающие объём вашей оперативной памяти. MoE передового уровня на телефоне, ноутбуке или edge-устройстве. Без потерь, на стандартном llama.cpp. Адаптивный потоковый оптимизатор. Любое оборудование, любая ОС, любая модель и квантование — через локальный сервер, совместимый с OpenAI.

Helldez
⭐ 1,066 C++ 👤 Helldez User 🕐 Обновлено 2026-11-21 📅 Создано 2026-07-10
41
intel/AI-Playground

Стандартное приложение AI PC для создания изображений ИИ, стилизации изображений и чат-бота на ПК с графическим процессором Intel® Arc™.

intel
⭐ 1,043 TypeScript 👤 intel Organization 🕐 Обновлено 2026-10-30 📅 Создано 2024-07-10
42
kennss/SiliconScope

Системный монитор Apple Silicon без sudo (родной GUI на SwiftUI) с отслеживанием ANE / Media Engine / пропускной способности памяти

kennss
⭐ 1,026 Swift 👤 kennss User 🕐 Обновлено 2026-11-20 📅 Создано 2026-06-08
43
facebookresearch/EdgeTAM

[CVPR 2025] Официальная реализация PyTorch "EdgeTAM: On-Device Track Anything Model"

facebookresearch
⭐ 1,024 Jupyter Notebook 👤 facebookresearch Organization 🕐 Обновлено 2026-01-27 📅 Создано 2024-12-13
44
feder-cr/jev

jevos: альтернатива Jev и Microsoft-Decision-1 с открытым исходным кодом. Решения «да/нет», выбор и оценка с вероятностями — на процессоре вашего ноутбука.

feder-cr
⭐ 970 C++ 👤 feder-cr User 🕐 Обновлено 2026-10-18 📅 Создано 2024-08-15
45
mit-han-lab/TinyChatEngine

TinyChatEngine: Библиотека для инференса LLM на устройстве

mit-han-lab
⭐ 934 C++ 👤 mit-han-lab Organization 🕐 Обновлено 2024-07-04 📅 Создано 2023-05-24
46
eclaire-labs/eclaire

Локальный, с открытым исходным кодом ИИ-помощник для ваших данных. Объединяет задачи, заметки, документы, фотографии и закладки. Частный, с возможностью самостоятельного размещения и расширяемый через API.

eclaire-labs
⭐ 925 TypeScript 👤 eclaire-labs Organization 🕐 Обновлено 2026-11-08 📅 Создано 2025-09-02
47
TheStageAI/TheWhisper

Оптимизированные модели Whisper для потоковой передачи и использования на устройствах

TheStageAI
⭐ 905 Python 👤 TheStageAI Organization 🕐 Обновлено 2026-10-31 📅 Создано 2025-10-19
48
gety-ai/apple-on-device-openai

API-сервер, совместимый с OpenAI, для бортовых моделей Apple

gety-ai
⭐ 891 Swift 👤 gety-ai Organization 🕐 Обновлено 2025-10-02 📅 Создано 2025-06-15
49
christopherkarani/Wax

Общий однофайловый слой памяти для всех ваших агентов, RAG с задержкой менее миллисекунды для текста, фотографий и видео на Apple Silicon. Без сервера. Без API. Один файл. Чистый Swift.

christopherkarani
⭐ 816 Swift 👤 christopherkarani User 🕐 Обновлено 2026-11-20 📅 Создано 2026-01-20
50
tetherto/qvac

Локальный ИИ-SDK с открытым исходным кодом — запускайте ИИ на устройстве без облака и ключей API. Поддерживает GGUF, RAG, генерацию изображений, музыки и видео, преобразование речи в текст, P2P-инференс и многое другое. Кроссплатформенность: Linux, macOS, Windows, Android, iOS.

tetherto
⭐ 806 TypeScript 👤 tetherto Organization 🕐 Обновлено 2026-11-21 📅 Создано 2026-01-03

Часто задаваемые вопросы

1

Какой репозиторий по теме #on-device-ai наиболее популярен на GitHub?

Самый высоко оценённый проект с открытым исходным кодом по теме #on-device-ai на GitHub — cactus-compute/cactus, набравший 14,864 звёзд. Агентный интеллект, а также обработка речи и изображений размером менее 50 МБ для потребительских устройств.

2

Какие языки программирования чаще всего используются в репозиториях по теме #on-device-ai?

Среди наиболее высоко оценённых проектов по теме #on-device-ai на GitHub чаще всего используются языки программирования Python, Swift, C++, TypeScript.

3

Как рассчитывается рейтинг репозиториев по теме #on-device-ai?

Мы отслеживаем 68 активных репозиториев с открытым исходным кодом, отмеченных тегом #on-device-ai (500 и более звёзд), с общим числом 183,992 звёзд и в среднем 2,705 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.