Git Stars Git Stars

#on-device-ai 저장소

#on-device-ai 태그가 지정된 GitHub의 활성 오픈 소스 저장소 68개를 확인해 보세요. 총 183,992개의 스타를 획득했으며 프로젝트당 평균 2,705개입니다. 이 주제를 이끄는 저장소는 14,864개의 스타를 받은 cactus-compute/cactus입니다.

68
총 리포지토리
183,992
총 별점
2,705
리포지토리당 평균 스타 수

저장소 총 69개

1
cactus-compute/cactus

소비자 기기를 위한 50MB 미만의 에이전트형·음성·시각 지능.

cactus-compute
⭐ 14,864 Python 👤 cactus-compute Organization 🕐 업데이트됨 2026-11-18 📅 생성됨 2026-02-24
2
Edge0-AI/Edge0

기기 네이티브 파운데이션 모델: 노트북에서 145B, 휴대폰에서 35B. 잠재 MoE, SSD에서 스트리밍되는 가중치, 한 단계 앞서 부하를 예측하는 라우터. Mac, iPhone, Android, Windows.

Edge0-AI
⭐ 12,176 C++ 👤 Edge0-AI Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2026-09-08
3
OpenBMB/MiniCPM

MiniCPM5: 온디바이스 최고 수준 LLM, 작지만 강력합니다.

OpenBMB
⭐ 11,898 Jupyter Notebook 👤 OpenBMB Organization 🕐 업데이트됨 2026-11-09 📅 생성됨 2024-01-29
4
RunanywhereAI/runanywhere-sdks

로컬에서 AI를 실행하기 위한 프로덕션 준비 툴킷

RunanywhereAI
⭐ 10,354 C++ 👤 RunanywhereAI Organization 🕐 업데이트됨 2026-11-10 📅 생성됨 2025-07-22
5
m87-labs/moondream

작은 비전 언어 모델

m87-labs
⭐ 10,167 Python 👤 m87-labs Organization 🕐 업데이트됨 2026-04-20 📅 생성됨 2023-12-29
6
qualcomm/GenieX

몇 줄의 코드로 Qualcomm 기기에서 NPU, GPU, CPU를 통해 최첨단 LLM과 VLM을 로컬에서 실행

qualcomm
⭐ 8,544 Go 👤 qualcomm Organization 🕐 업데이트됨 2026-11-20 📅 생성됨 2024-08-16
7
apple-aiml-research/ml-fastvlm

이 리포지토리에는 "FastVLM: Efficient Vision Encoding for Vision Language Models" - CVPR 2025의 공식 구현이 포함되어 있습니다.

apple-aiml-research
⭐ 7,445 Python 👤 apple-aiml-research Organization 🕐 업데이트됨 2026-09-11 📅 생성됨 2025-05-01
8
drumih/turbo-fieldfare

모든 M 시리즈 MacBook에서 약 2GB RAM으로 Gemma 4 26B-A4B 추론 실행

drumih
⭐ 7,432 Swift 👤 drumih User 🕐 업데이트됨 2026-11-14 📅 생성됨 2026-07-17
9
google-ai-edge/LiteRT-LM

LiteRT-LM은 에지 장치에서 거대 언어 모델을 배포하기 위한 Google의 프로덕션 준비가 완료된 고성능 오픈 소스 추론 프레임워크입니다.

google-ai-edge
⭐ 6,913 C++ 👤 google-ai-edge Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2025-04-14
10
neuphonic/neutts

Neuphonic의 온디바이스 TTS 모델

neuphonic
⭐ 6,343 Python 👤 neuphonic Organization 🕐 업데이트됨 2026-07-30 📅 생성됨 2025-10-02
11
cactus-compute/engine

소비자용 기기를 위한 2비트 양자화, 커널 및 런타임.

cactus-compute
⭐ 6,200 C++ 👤 cactus-compute Organization 🕐 업데이트됨 2026-11-05 📅 생성됨 2025-04-23
12
Fractal-Compute-Orchestrations/FractalAndroid

엣지 컴퓨팅과 연합 학습을 위한 인간 중심적이고 리소스를 고려하는 Android 노드입니다. 개인정보 보호를 우선하는 로컬라이제이션과 세심한 하드웨어 관리를 통해 분산 인텔리전스를 조율합니다.

Fractal-Compute-Orchestrations
⭐ 4,851 Kotlin 👤 Fractal-Compute-Orchestrations Organization 🕐 업데이트됨 2026-11-13 📅 생성됨 2025-11-21
13
thunderbird/thunderbolt

당신이 통제하는 AI: 모델을 선택하세요. 데이터를 소유하세요. 공급업체 종속성을 제거하세요.

thunderbird
⭐ 4,827 TypeScript 👤 thunderbird Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2025-07-23
14
huggingface/smollm

SmolLM 및 SmolVLM 모델 제품군에 대한 모든 것

huggingface
⭐ 3,960 Python 👤 huggingface Organization 🕐 업데이트됨 2026-10-06 📅 생성됨 2024-11-04
15
XiaoMi
⭐ 3,574 Python 👤 XiaoMi Organization 🕐 업데이트됨 2026-11-20 📅 생성됨 2025-11-06
16
nicedreamzapp/claude-code-local

Claude Code 사용 한도에 도달했나요? 로컬 모델로 무료 오프라인 사용을 계속하세요. Qwen 3.8, Gemma 4, 그리고 출시 당일부터 사용할 수 있는 Qwen 4를 지원합니다. Apple Silicon Mac(MLX), Linux, Windows(llama.cpp)에서 API 키 없이 실행됩니다. 코드는 내 기기에 안전하게 보관됩니다.

nicedreamzapp
⭐ 3,525 Python 👤 nicedreamzapp User 🕐 업데이트됨 2026-11-21 📅 생성됨 2026-03-26
17
QiuYannnn/Local-File-Organizer

Llama3.2 3B 및 Llava v1.6 모델과 Nexa SDK를 사용하여 로컬 텍스트, 이미지를 정리하여 개인 정보를 보장하는 AI 기반 파일 관리 도구입니다. 직관적으로 파일을 스캔, 재구성 및 정리하여 빠르고 원활한 액세스와 쉬운 검색을 제공합니다.

QiuYannnn
⭐ 3,069 Python 👤 QiuYannnn User 🕐 업데이트됨 2024-10-21 📅 생성됨 2024-09-21
18
Mininglamp-AI/Mano-P

Mano-P: 엣지 디바이스용 오픈소스 GUI-VLA 에이전트. OSWorld에서 1위 (전문화, 58.2%). Apple M4 Mac mini/MacBook에서 로컬 실행 — 데이터가 기기 밖으로 나가지 않음. Mano-P는 오픈소스 GUI-VLA 프로젝트로, Mac mini/MacBook 또는 컴퓨트 스틱을 통해 로컬 추론을 지원하며, 순수 비전 기반의 크로스플랫폼 GUI 자동화 작업을 실현합니다. 데이터는 완전히 로컬에서 처리되며, 복잡한 다단계 작업 계획 및 실행을 지원합니다.

Mininglamp-AI
⭐ 2,855 👤 Mininglamp-AI Organization 🕐 업데이트됨 2026-06-25 📅 생성됨 2026-03-25
19
huggingface/swift-coreml-diffusers

Core ML Stable Diffusion을 시연하는 Swift 앱

huggingface
⭐ 2,758 Swift 👤 huggingface Organization 🕐 업데이트됨 2025-11-06 📅 생성됨 2022-12-13
20
fikrikarim/parlor

GPT-Live와 유사한 기능을 갖춘 온디바이스 실시간 멀티모달 AI

fikrikarim
⭐ 2,117 Python 👤 fikrikarim User 🕐 업데이트됨 2026-08-03 📅 생성됨 2026-04-05
21
cosmo-wander-ai/cosmo-edge

Sophon, Rockchip RKNN, x86를 지원하는 비디오 분석 및 온디바이스 VLM용 프로덕션급 C++ 엣지 AI 엔진으로, 시각적 오케스트레이션, 실시간 OSD, 이벤트 처리 및 재현 가능한 벤치마크를 제공합니다.

cosmo-wander-ai
⭐ 2,106 C 👤 cosmo-wander-ai Organization 🕐 업데이트됨 2026-11-20 📅 생성됨 2026-06-09
22
john-rocky/CoreML-Models

iOS/macOS용 Core ML 모델 저장소 — PyTorch 모델을 즉시 사용 가능한 .mlpackage로 변환했으며, 각 모델에는 변환 스크립트와 SwiftUI 샘플 앱이 포함되어 있습니다. 관련 저장소에서는 Apple의 Core AI 프레임워크(iOS/macOS 27) 및 온디바이스 LLM을 다룹니다.

john-rocky
⭐ 1,902 Swift 👤 john-rocky User 🕐 업데이트됨 2026-11-19 📅 생성됨 2020-08-12
23
software-mansion/react-native-executorch

PyTorch의 ExecuTorch 런타임으로 구동되는, React Native를 위한 고성능 프라이버시 우선 온디바이스 AI 추론 라이브러리

software-mansion
⭐ 1,794 TypeScript 👤 software-mansion Organization 🕐 업데이트됨 2026-11-20 📅 생성됨 2024-10-16
24
nobodywho-ooo/nobodywho

NobodyWho는 모든 장치에서 LLM을 로컬로 효율적으로 실행할 수 있게 해주는 추론 엔진입니다.

nobodywho-ooo
⭐ 1,699 Rust 👤 nobodywho-ooo Organization 🕐 업데이트됨 2026-11-19 📅 생성됨 2024-09-03
25
Muesli-HQ/muesli

Muesli: macOS용 에이전트 네이티브 로컬 회의 전사 및 받아쓰기 (Granola + WisprFlow + Littlebird 대안)

Muesli-HQ
⭐ 1,652 Swift 👤 Muesli-HQ Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2026-03-05
26
amicalhq/amical

macOS 및 Windows용 무료 오픈 소스 음성 입력. Whisper와 Parakeet을 사용한 로컬 음성 텍스트 변환을 지원하며 오프라인에서도 작동합니다.

amicalhq
⭐ 1,648 TypeScript 👤 amicalhq Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2025-05-08
27
mizorewww/laya-coreml

Apple Core ML 및 Neural Engine에서 로컬 Laya 타입 기반 의사결정. 포팅을 검증했으며, M3 Max에서 짧은 의사결정을 약 5ms에 수행하고 재현 가능한 속도 및 에너지 벤치마크를 확보했습니다.

mizorewww
⭐ 1,646 Python 👤 mizorewww User 🕐 업데이트됨 2026-11-21 📅 생성됨 2026-09-19
28
Neywa-Labs/nativ

Nativ은 Mac용 오픈 소스 로컬 AI 앱입니다. Apple Silicon에서 개방형 AI 모델을 실행하며, 어떤 데이터도 Mac 밖으로 나가지 않습니다.

Neywa-Labs
⭐ 1,608 Swift 👤 Neywa-Labs Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2026-07-20
29
jxlpzqc/TMSpeech

텐센트 회의 딴짓하기 도구

jxlpzqc
⭐ 1,504 C# 👤 jxlpzqc User 🕐 업데이트됨 2026-07-15 📅 생성됨 2023-06-20
30
ARahim3/mlx-tune

Apple Silicon이 탑재된 Mac에서 LLM 미세 조정. SFT, DPO, GRPO, 비전, TTS, STT, 임베딩, OCR 미세 조정 — MLX에서 네이티브 지원. Unsloth 호환 API.

ARahim3
⭐ 1,475 Python 👤 ARahim3 User 🕐 업데이트됨 2026-06-23 📅 생성됨 2026-01-03
31
facebookresearch/MobileLLM

MobileLLM 기기 내 사용 사례를 위한 10억 개 미만 매개변수 언어 모델 최적화. ICML 2024.

facebookresearch
⭐ 1,471 Python 👤 facebookresearch Organization 🕐 업데이트됨 2026-04-30 📅 생성됨 2024-07-09
32
mit-han-lab/proxylessnas

[ICLR 2019] ProxylessNAS: 타겟 작업 및 하드웨어에서의 직접 신경 아키텍처 검색

mit-han-lab
⭐ 1,451 C++ 👤 mit-han-lab Organization 🕐 업데이트됨 2024-08-30 📅 생성됨 2018-12-01
33
callstackincubator/ai

Vercel AI SDK 호환성을 갖춘 React Native에서의 온디바이스 LLM 실행

callstackincubator
⭐ 1,442 TypeScript 👤 callstackincubator Organization 🕐 업데이트됨 2026-11-11 📅 생성됨 2024-07-19
34
kellyvv/PhoneClaw

PhoneClaw는 기기 내 모델, 네이티브 모바일 스킬, LiveLand 및 선택적 Mac Gateway 추론을 통해 휴대폰을 로컬 AI 에이전트 런타임으로 전환합니다.

kellyvv
⭐ 1,294 Swift 👤 kellyvv User 🕐 업데이트됨 2026-08-06 📅 생성됨 2026-04-04
35
rudrankriyam/Foundation-Models-Framework-Lab

Apple의 파운데이션 모델 프레임워크를 사용하여 앱을 구축, 테스트 및 평가하기 위한 실습 랩.

rudrankriyam
⭐ 1,194 Swift 👤 rudrankriyam User 🕐 업데이트됨 2026-11-07 📅 생성됨 2025-06-09
36
agents-io/PokeClaw

PokeClaw (PocketClaw) — 안드로이드 폰을 제어하는 최초의 온디바이스 AI. Gemma 4, 클라우드 없음, API 키 없음. Poke는 Pocket의 줄임말.

agents-io
⭐ 1,165 Kotlin 👤 agents-io Organization 🕐 업데이트됨 2026-06-02 📅 생성됨 2026-04-06
37
chongzhou96/EdgeSAM

"EdgeSAM: SAM의 온디바이스 배포를 위한 프롬프트 인더 루프 증류"의 공식 PyTorch 구현

chongzhou96
⭐ 1,152 Jupyter Notebook 👤 chongzhou96 User 🕐 업데이트됨 2025-05-24 📅 생성됨 2023-12-06
38
NativeMindBrowser/NativeMindExtension

NativeMind: 완벽하게 비공개이며 오픈 소스인 기기 내 AI 비서

NativeMindBrowser
⭐ 1,137 TypeScript 👤 NativeMindBrowser Organization 🕐 업데이트됨 2026-03-23 📅 생성됨 2025-06-05
39
google-ai-edge/litert-torch

LiteRT를 사용한 PyTorch 모델 변환을 지원합니다.

google-ai-edge
⭐ 1,112 Jupyter Notebook 👤 google-ai-edge Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2024-05-13
40
Helldez/BigMoeOnEdge

RAM 용량보다 큰 MoE 모델을 실행하세요. 스마트폰, 노트북, 엣지 기기에서 최첨단 규모의 MoE를 만나보세요. 손실 없이, 기본 llama.cpp에서 실행됩니다. 적응형 스트리밍 최적화기. 모든 하드웨어, OS, 모델, 양자화를 지원하며 로컬 OpenAI 호환 서버를 통해 제공합니다.

Helldez
⭐ 1,066 C++ 👤 Helldez User 🕐 업데이트됨 2026-11-21 📅 생성됨 2026-07-10
41
intel/AI-Playground

Intel® Arc™ GPU 기반 PC에서 AI 이미지 생성, 이미지 스타일 지정 및 챗봇을 위한 AI PC 시작 앱.

intel
⭐ 1,043 TypeScript 👤 intel Organization 🕐 업데이트됨 2026-10-30 📅 생성됨 2024-07-10
42
kennss/SiliconScope

sudo 없이 사용 가능한 Apple Silicon 시스템 모니터 (네이티브 SwiftUI GUI) - ANE / 미디어 엔진 / 메모리 대역폭 추적 지원

kennss
⭐ 1,026 Swift 👤 kennss User 🕐 업데이트됨 2026-11-20 📅 생성됨 2026-06-08
43
facebookresearch/EdgeTAM

[CVPR 2025] "EdgeTAM: On-Device Track Anything Model"의 공식 PyTorch 구현

facebookresearch
⭐ 1,024 Jupyter Notebook 👤 facebookresearch Organization 🕐 업데이트됨 2026-01-27 📅 생성됨 2024-12-13
44
feder-cr/jev

jevos: Jev 및 Microsoft-Decision-1의 오픈 소스 대안입니다. 노트북 CPU에서 확률을 포함한 예/아니요 판정, 선택 및 점수 산정을 수행합니다.

feder-cr
⭐ 970 C++ 👤 feder-cr User 🕐 업데이트됨 2026-10-18 📅 생성됨 2024-08-15
45
mit-han-lab/TinyChatEngine

TinyChatEngine: 온디바이스 LLM 추론 라이브러리

mit-han-lab
⭐ 934 C++ 👤 mit-han-lab Organization 🕐 업데이트됨 2024-07-04 📅 생성됨 2023-05-24
46
eclaire-labs/eclaire

사용자의 데이터를 위한 로컬 우선, 오픈 소스 AI 어시스턴트. 작업, 메모, 문서, 사진 및 북마크를 통합합니다. 비공개, 자체 호스팅되며 API를 통해 확장 가능합니다.

eclaire-labs
⭐ 925 TypeScript 👤 eclaire-labs Organization 🕐 업데이트됨 2026-11-08 📅 생성됨 2025-09-02
47
TheStageAI/TheWhisper

스트리밍 및 온디바이스 사용을 위한 최적화된 Whisper 모델

TheStageAI
⭐ 905 Python 👤 TheStageAI Organization 🕐 업데이트됨 2026-10-31 📅 생성됨 2025-10-19
48
gety-ai/apple-on-device-openai

Apple 온디바이스 모델을 위한 OpenAI 호환 API 서버

gety-ai
⭐ 891 Swift 👤 gety-ai Organization 🕐 업데이트됨 2025-10-02 📅 생성됨 2025-06-15
49
christopherkarani/Wax

모든 에이전트를 위한 공유 단일 파일 메모리 레이어. Apple Silicon에서 텍스트, 사진, 동영상에 대해 1밀리초 미만의 RAG 제공. 서버 불필요. API 불필요. 파일 하나. 순수 Swift.

christopherkarani
⭐ 816 Swift 👤 christopherkarani User 🕐 업데이트됨 2026-11-20 📅 생성됨 2026-01-20
50
tetherto/qvac

오픈 소스 로컬 AI SDK - 클라우드나 API 키 없이 디바이스에서 AI를 실행하세요. GGUF, RAG, 이미지·음악·동영상 생성, 음성-텍스트 변환, P2P 추론 등을 지원합니다. 크로스 플랫폼: Linux, macOS, Windows, Android, iOS.

tetherto
⭐ 806 TypeScript 👤 tetherto Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2026-01-03

자주 묻는 질문

1

GitHub에서 가장 인기 있는 #on-device-ai 저장소는 무엇인가요?

GitHub에서 가장 높은 순위의 오픈 소스 #on-device-ai 프로젝트는 14,864개의 스타를 받은 cactus-compute/cactus입니다. 소비자 기기를 위한 50MB 미만의 에이전트형·음성·시각 지능.

2

#on-device-ai 저장소에서 가장 많이 사용되는 프로그래밍 언어는 무엇인가요?

GitHub에서 순위가 가장 높은 #on-device-ai 프로젝트 중 가장 일반적으로 사용되는 프로그래밍 언어는 Python, Swift, C++, TypeScript입니다.

3

#on-device-ai 저장소 순위는 어떻게 계산되나요?

#on-device-ai 태그가 지정된 활성 오픈 소스 저장소(68개, 스타 500개 이상)를 추적하고 있습니다. 총 스타 수는 183,992개이며 저장소당 평균 2,705개입니다. 순위는 GitHub API를 통해 매일 업데이트됩니다.