Git Stars Git Stars

#on-device-ai 仓库

68
仓库总数
183,992
总星标数
2,705
平均每个仓库星标数
51
SharpAI/SwiftLM

⚡ Apple Silicon 原生 MLX Swift LLM 推理服务器。兼容 OpenAI API,支持 100B+ MoE 模型的 SSD 流式传输,TurboQuant KV 缓存压缩,MACOS + iOS iPhone 应用。

SharpAI
⭐ 802 Swift 👤 SharpAI Organization 🕐 已更新 2026-11-19 📅 创建时间 2026-03-21
52
webmachinelearning/prompt-api

💬 一种用于提示浏览器提供的语言模型的 Web API 的提案

webmachinelearning
⭐ 797 Bikeshed 👤 webmachinelearning Organization 🕐 已更新 2026-11-09 📅 创建时间 2024-07-01
53
Sentient-OS-Labs/sentient-os

设备端的大语言模型了解你生活的方方面面,然后主动提出通过操作电脑帮你完成工作。

Sentient-OS-Labs
⭐ 774 Swift 👤 Sentient-OS-Labs Organization 🕐 已更新 2026-11-20 📅 创建时间 2026-06-10
54
carloslfu/slotstream

在无法容纳 105 GB 模型的 Mac 上运行它。Qwen3.8-Flash-Next 4-bit,可从 SSD 流式加载,在配备 16–64 GB 内存的 Apple Silicon Mac 上运行。完全采用原生 Swift、MLX 和 Metal。离线运行,无需 Python。提供 CLI、Swift 库以及 Ollama/OpenAI/Anthropic API。兼容 Claude Code 和 Codex。

carloslfu
⭐ 674 Swift 👤 carloslfu User 🕐 已更新 2026-11-17 📅 创建时间 2026-08-28
55
DenisovAV/flutter_edge_ai

Flutter 端侧 AI——Gemma 及其他大型语言模型、多模态、函数调用、嵌入、RAG 和语音,支持 Android、iOS、Web、macOS、Windows 和 Linux。

DenisovAV
⭐ 669 Dart 👤 DenisovAV User 🕐 已更新 2026-11-20 📅 创建时间 2024-04-02
56
leonickson1/Swiftlet

Swiftlet 是一个基于 Swift 和 Metal 的运行时,通过从存储中流式传输专家权重,在 Apple 设备上本地运行大型 Qwen 混合专家模型,从而使 35B 和 80B 模型能够在低内存环境下运行,包括在 iPhone 上。

leonickson1
⭐ 667 Swift 👤 leonickson1 User 🕐 已更新 2026-11-17 📅 创建时间 2026-08-03
57
woheller69/whisperIME

基于Whisper的Android输入法编辑器

woheller69
⭐ 661 Java 👤 woheller69 User 🕐 已更新 2026-10-28 📅 创建时间 2024-12-30
59
NightMean/OlliteRT

将你的 Android 手机变成兼容 OpenAI 的大语言模型推理服务器——完全本地化、私密且开源

NightMean
⭐ 645 Kotlin 👤 NightMean User 🕐 已更新 2026-11-07 📅 创建时间 2026-04-06
60
sarim2000/pennywiseai-tracker

PennyWise 自动读取交易短信,并通过设备端 AI 辅助将其转换为有条理的财务数据。无需手动输入,无需云端处理,完全保护隐私。

sarim2000
⭐ 627 Kotlin 👤 sarim2000 User 🕐 已更新 2026-11-21 📅 创建时间 2025-07-18
61
keijiro/UnityMLStableDiffusion

Unity上的Core ML Stable Diffusion

keijiro
⭐ 605 C# 👤 keijiro User 🕐 已更新 2024-09-21 📅 创建时间 2023-03-20
62
huggingface/swift-chat

演示 swift-transformers 的 Mac 应用

huggingface
⭐ 592 Swift 👤 huggingface Organization 🕐 已更新 2024-07-29 📅 创建时间 2023-05-11
63
Samsung/ONE

设备上的神经网络引擎

Samsung
⭐ 584 Python 👤 Samsung Organization 🕐 已更新 2026-07-24 📅 创建时间 2020-04-16
64
PrismML-Eng/Bonsai-Image-Demo

在本地生成图像

PrismML-Eng
⭐ 561 PowerShell 👤 PrismML-Eng Organization 🕐 已更新 2026-09-08 📅 创建时间 2026-05-05
65
FluidInference/FluidUse

在 Apple 芯片上本地使用电脑:通过 macOS 辅助功能 API 驱动,使用 laya 在设备端进行类型化决策,并使用 CUA-S1-FORMS 填写表单

FluidInference
⭐ 547 Swift 👤 FluidInference Organization 🕐 已更新 2026-10-28 📅 创建时间 2026-09-21
66
d2forum/19th

第19届D2终端技术大会「热·AI」

d2forum
⭐ 536 👤 d2forum Organization 🕐 已更新 2025-03-11 📅 创建时间 2025-03-10
67
xybrid-ai/xybrid

跨平台端侧 AI 工具包

xybrid-ai
⭐ 527 Rust 👤 xybrid-ai Organization 🕐 已更新 2026-11-21 📅 创建时间 2025-12-13
68
NimbleEdge/deliteAI

设备端智能体AI平台

NimbleEdge
⭐ 519 C++ 👤 NimbleEdge Organization 🕐 已更新 2026-03-29 📅 创建时间 2025-05-05
69
dineshsoudagar/local-llms-on-android

使用 LiteRT 和 ONNX Runtime 在 Android 上运行 Gemma、Qwen 和 LLaMA 等本地大语言模型,实现离线、私密的实时聊天和问答。

dineshsoudagar
⭐ 501 Kotlin 👤 dineshsoudagar User 🕐 已更新 2026-11-21 📅 创建时间 2025-05-04