Git Stars Git Stars

#on-device-ai 저장소

68
총 리포지토리
183,992
총 별점
2,705
리포지토리당 평균 스타 수

저장소 총 69개

51
SharpAI/SwiftLM

⚡ Apple Silicon용 네이티브 MLX Swift LLM 추론 서버. OpenAI 호환 API, 100B+ MoE 모델용 SSD 스트리밍, TurboQuant KV 캐시 압축, MACOS + iOS iPhone 앱.

SharpAI
⭐ 802 Swift 👤 SharpAI Organization 🕐 업데이트됨 2026-11-19 📅 생성됨 2026-03-21
52
webmachinelearning/prompt-api

💬 브라우저에서 제공하는 언어 모델 프롬프팅을 위한 웹 API 제안

webmachinelearning
⭐ 797 Bikeshed 👤 webmachinelearning Organization 🕐 업데이트됨 2026-11-09 📅 생성됨 2024-07-01
53
Sentient-OS-Labs/sentient-os

온디바이스 LLM이 여러분의 삶 전체를 이해한 다음, 컴퓨터를 사용해 여러분의 일을 처리해 주겠다고 먼저 제안합니다.

Sentient-OS-Labs
⭐ 774 Swift 👤 Sentient-OS-Labs Organization 🕐 업데이트됨 2026-11-20 📅 생성됨 2026-06-10
54
carloslfu/slotstream

105GB 모델을 저장할 수 없는 Mac에서도 AI 모델을 실행하세요. 4비트 Qwen3.8-Flash-Next를 SSD에서 스트리밍해 메모리 16~64GB의 Apple Silicon Mac에서 구동합니다. Swift, MLX, Metal 기반의 완전 네이티브 구현입니다. 오프라인으로 작동하며 Python이 필요 없습니다. CLI, Swift 라이브러리, Ollama/OpenAI/Anthropic API를 제공합니다. Claude Code 및 Codex와 호환됩니다.

carloslfu
⭐ 674 Swift 👤 carloslfu User 🕐 업데이트됨 2026-11-17 📅 생성됨 2026-08-28
55
DenisovAV/flutter_edge_ai

Flutter용 온디바이스 AI — Gemma 및 기타 LLM, 멀티모달, 함수 호출, 임베딩, RAG와 음성을 Android, iOS, Web, macOS, Windows 및 Linux에서 지원합니다.

DenisovAV
⭐ 669 Dart 👤 DenisovAV User 🕐 업데이트됨 2026-11-20 📅 생성됨 2024-04-02
56
leonickson1/Swiftlet

Swiftlet은 Swift 및 Metal 런타임으로, 스토리지에서 전문가 가중치를 스트리밍하여 Apple 기기에서 대규모 Qwen Mixture-of-Experts 모델을 로컬로 실행합니다. 이를 통해 iPhone을 포함한 낮은 RAM 환경에서도 35B 및 80B 모델을 실행할 수 있습니다.

leonickson1
⭐ 667 Swift 👤 leonickson1 User 🕐 업데이트됨 2026-11-17 📅 생성됨 2026-08-03
57
woheller69/whisperIME

Whisper 기반 Android 입력 방식 편집기(IME)

woheller69
⭐ 661 Java 👤 woheller69 User 🕐 업데이트됨 2026-10-28 📅 생성됨 2024-12-30
59
NightMean/OlliteRT

Android 휴대전화를 OpenAI 호환 LLM 추론 서버로 바꾸세요 - 완전한 로컬 환경, 비공개 및 오픈 소스

NightMean
⭐ 645 Kotlin 👤 NightMean User 🕐 업데이트됨 2026-11-07 📅 생성됨 2026-04-06
60
sarim2000/pennywiseai-tracker

PennyWise는 거래 SMS 메시지를 자동으로 읽고 기기 내 AI 지원을 통해 정리된 재무 데이터로 변환합니다. 수동 입력 없음, 클라우드 처리 없음, 완전한 프라이버시.

sarim2000
⭐ 627 Kotlin 👤 sarim2000 User 🕐 업데이트됨 2026-11-21 📅 생성됨 2025-07-18
61
keijiro/UnityMLStableDiffusion

Unity에서의 Core ML Stable Diffusion

keijiro
⭐ 605 C# 👤 keijiro User 🕐 업데이트됨 2024-09-21 📅 생성됨 2023-03-20
62
huggingface/swift-chat

swift-transformers를 시연하는 Mac 앱

huggingface
⭐ 592 Swift 👤 huggingface Organization 🕐 업데이트됨 2024-07-29 📅 생성됨 2023-05-11
63
Samsung/ONE

온디바이스 신경망 엔진

Samsung
⭐ 584 Python 👤 Samsung Organization 🕐 업데이트됨 2026-07-24 📅 생성됨 2020-04-16
64
PrismML-Eng/Bonsai-Image-Demo

로컬에서 이미지 생성

PrismML-Eng
⭐ 561 PowerShell 👤 PrismML-Eng Organization 🕐 업데이트됨 2026-09-08 📅 생성됨 2026-05-05
65
FluidInference/FluidUse

Apple 실리콘에서의 로컬 컴퓨터 사용: macOS 접근성 API를 통해 laya로 기기 내 유형 지정 의사결정을 수행하고 CUA-S1-FORMS로 양식 작성

FluidInference
⭐ 547 Swift 👤 FluidInference Organization 🕐 업데이트됨 2026-10-28 📅 생성됨 2026-09-21
66
d2forum/19th

제19회 D2 단말 기술 컨퍼런스 "열·AI"

d2forum
⭐ 536 👤 d2forum Organization 🕐 업데이트됨 2025-03-11 📅 생성됨 2025-03-10
67
xybrid-ai/xybrid

크로스 플랫폼 온디바이스 AI 툴킷

xybrid-ai
⭐ 527 Rust 👤 xybrid-ai Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2025-12-13
68
NimbleEdge/deliteAI

온디바이스 에이전트 AI 플랫폼

NimbleEdge
⭐ 519 C++ 👤 NimbleEdge Organization 🕐 업데이트됨 2026-03-29 📅 생성됨 2025-05-05
69
dineshsoudagar/local-llms-on-android

LiteRT와 ONNX Runtime을 사용해 Android에서 Gemma, Qwen, LLaMA와 같은 로컬 LLM을 실행하고, 오프라인에서 개인정보를 보호하며 실시간 채팅과 질문 답변을 이용하세요.

dineshsoudagar
⭐ 501 Kotlin 👤 dineshsoudagar User 🕐 업데이트됨 2026-11-21 📅 생성됨 2025-05-04