Git Stars Git Stars

#on-device-ai Репозитории

68
Всего репозиториев
183,992
Всего звезд
2,705
Среднее количество звезд на репозиторий

Всего репозиториев: 69

51
SharpAI/SwiftLM

⚡ Нативный сервер вывода MLX Swift LLM для Apple Silicon. API, совместимый с OpenAI, потоковая передача с SSD для моделей MoE 100B+, сжатие TurboQuant KV-кеша, приложение для MACOS + iOS iPhone.

SharpAI
⭐ 802 Swift 👤 SharpAI Organization 🕐 Обновлено 2026-11-19 📅 Создано 2026-03-21
52
webmachinelearning/prompt-api

💬 Предложение по веб-API для запроса языковых моделей, предоставляемых браузером

webmachinelearning
⭐ 797 Bikeshed 👤 webmachinelearning Organization 🕐 Обновлено 2026-11-09 📅 Создано 2024-07-01
53
Sentient-OS-Labs/sentient-os

LLM на устройстве понимает всю вашу жизнь, а затем проактивно предлагает выполнить вашу работу с помощью компьютера.

Sentient-OS-Labs
⭐ 774 Swift 👤 Sentient-OS-Labs Organization 🕐 Обновлено 2026-11-20 📅 Создано 2026-06-10
54
carloslfu/slotstream

Запускайте ИИ-модель размером 105 ГБ на Mac, на котором она не помещается целиком. Qwen3.8-Flash-Next в 4-битном формате загружается потоком с SSD на компьютерах Mac с Apple Silicon и 16–64 ГБ памяти. Полностью нативная реализация на Swift, MLX и Metal. Работает офлайн, без Python. CLI, библиотека Swift и API Ollama/OpenAI/Anthropic. Совместима с Claude Code и Codex.

carloslfu
⭐ 674 Swift 👤 carloslfu User 🕐 Обновлено 2026-11-17 📅 Создано 2026-08-28
55
DenisovAV/flutter_edge_ai

ИИ на устройстве для Flutter — Gemma и другие большие языковые модели, мультимодальность, вызов функций, эмбеддинги, RAG и речь на Android, iOS, Web, macOS, Windows и Linux.

DenisovAV
⭐ 669 Dart 👤 DenisovAV User 🕐 Обновлено 2026-11-20 📅 Создано 2024-04-02
56
leonickson1/Swiftlet

Swiftlet — это среда выполнения на Swift и Metal, которая запускает большие модели Qwen Mixture-of-Experts локально на устройствах Apple путем потоковой передачи весов экспертов из хранилища, что позволяет запускать модели 35B и 80B с малым объемом оперативной памяти, в том числе на iPhone.

leonickson1
⭐ 667 Swift 👤 leonickson1 User 🕐 Обновлено 2026-11-17 📅 Создано 2026-08-03
57
woheller69/whisperIME

Редактор метода ввода (IME) для Android на основе Whisper

woheller69
⭐ 661 Java 👤 woheller69 User 🕐 Обновлено 2026-10-28 📅 Создано 2024-12-30
59
NightMean/OlliteRT

Превратите свой Android-смартфон в совместимый с OpenAI сервер инференса LLM — полностью локальный, приватный и с открытым исходным кодом

NightMean
⭐ 645 Kotlin 👤 NightMean User 🕐 Обновлено 2026-11-07 📅 Создано 2026-04-06
60
sarim2000/pennywiseai-tracker

PennyWise автоматически читает SMS-сообщения о транзакциях и преобразует их в организованные финансовые данные с помощью ИИ на устройстве. Без ручного ввода, без облачной обработки, полная конфиденциальность.

sarim2000
⭐ 627 Kotlin 👤 sarim2000 User 🕐 Обновлено 2026-11-21 📅 Создано 2025-07-18
61
keijiro/UnityMLStableDiffusion

Core ML Stable Diffusion на Unity

keijiro
⭐ 605 C# 👤 keijiro User 🕐 Обновлено 2024-09-21 📅 Создано 2023-03-20
62
huggingface/swift-chat

Приложение для Mac для демонстрации swift-transformers

huggingface
⭐ 592 Swift 👤 huggingface Organization 🕐 Обновлено 2024-07-29 📅 Создано 2023-05-11
63
Samsung/ONE

Нейронный процессор на устройстве

Samsung
⭐ 584 Python 👤 Samsung Organization 🕐 Обновлено 2026-07-24 📅 Создано 2020-04-16
64
PrismML-Eng/Bonsai-Image-Demo

Генерировать изображения локально

PrismML-Eng
⭐ 561 PowerShell 👤 PrismML-Eng Organization 🕐 Обновлено 2026-09-08 📅 Создано 2026-05-05
65
FluidInference/FluidUse

Локальное управление компьютером на Apple silicon: типизированные решения на устройстве с помощью laya и заполнение форм с помощью CUA-S1-FORMS через API универсального доступа macOS

FluidInference
⭐ 547 Swift 👤 FluidInference Organization 🕐 Обновлено 2026-10-28 📅 Создано 2026-09-21
66
d2forum/19th

19-я конференция по технологиям терминалов D2 «Жар·ИИ»

d2forum
⭐ 536 👤 d2forum Organization 🕐 Обновлено 2025-03-11 📅 Создано 2025-03-10
67
xybrid-ai/xybrid

Кроссплатформенный набор инструментов для ИИ на устройстве

xybrid-ai
⭐ 527 Rust 👤 xybrid-ai Organization 🕐 Обновлено 2026-11-21 📅 Создано 2025-12-13
68
NimbleEdge/deliteAI

Платформа агентного ИИ на устройстве

NimbleEdge
⭐ 519 C++ 👤 NimbleEdge Organization 🕐 Обновлено 2026-03-29 📅 Создано 2025-05-05
69
dineshsoudagar/local-llms-on-android

Запускайте локальные LLM, такие как Gemma, Qwen и LLaMA, на Android для приватного общения и ответов на вопросы в реальном времени без подключения к интернету с помощью LiteRT и ONNX Runtime.

dineshsoudagar
⭐ 501 Kotlin 👤 dineshsoudagar User 🕐 Обновлено 2026-11-21 📅 Создано 2025-05-04