#on-device-ai 저장소
#on-device-ai 태그가 지정된 GitHub의 활성 오픈 소스 저장소 68개를 확인해 보세요. 총 183,992개의 스타를 획득했으며 프로젝트당 평균 2,705개입니다. 이 주제를 이끄는 저장소는 14,864개의 스타를 받은 cactus-compute/cactus입니다.
저장소 총 69개
기기 네이티브 파운데이션 모델: 노트북에서 145B, 휴대폰에서 35B. 잠재 MoE, SSD에서 스트리밍되는 가중치, 한 단계 앞서 부하를 예측하는 라우터. Mac, iPhone, Android, Windows.
이 리포지토리에는 "FastVLM: Efficient Vision Encoding for Vision Language Models" - CVPR 2025의 공식 구현이 포함되어 있습니다.
LiteRT-LM은 에지 장치에서 거대 언어 모델을 배포하기 위한 Google의 프로덕션 준비가 완료된 고성능 오픈 소스 추론 프레임워크입니다.
엣지 컴퓨팅과 연합 학습을 위한 인간 중심적이고 리소스를 고려하는 Android 노드입니다. 개인정보 보호를 우선하는 로컬라이제이션과 세심한 하드웨어 관리를 통해 분산 인텔리전스를 조율합니다.
Claude Code 사용 한도에 도달했나요? 로컬 모델로 무료 오프라인 사용을 계속하세요. Qwen 3.8, Gemma 4, 그리고 출시 당일부터 사용할 수 있는 Qwen 4를 지원합니다. Apple Silicon Mac(MLX), Linux, Windows(llama.cpp)에서 API 키 없이 실행됩니다. 코드는 내 기기에 안전하게 보관됩니다.
Llama3.2 3B 및 Llava v1.6 모델과 Nexa SDK를 사용하여 로컬 텍스트, 이미지를 정리하여 개인 정보를 보장하는 AI 기반 파일 관리 도구입니다. 직관적으로 파일을 스캔, 재구성 및 정리하여 빠르고 원활한 액세스와 쉬운 검색을 제공합니다.
Mano-P: 엣지 디바이스용 오픈소스 GUI-VLA 에이전트. OSWorld에서 1위 (전문화, 58.2%). Apple M4 Mac mini/MacBook에서 로컬 실행 — 데이터가 기기 밖으로 나가지 않음. Mano-P는 오픈소스 GUI-VLA 프로젝트로, Mac mini/MacBook 또는 컴퓨트 스틱을 통해 로컬 추론을 지원하며, 순수 비전 기반의 크로스플랫폼 GUI 자동화 작업을 실현합니다. 데이터는 완전히 로컬에서 처리되며, 복잡한 다단계 작업 계획 및 실행을 지원합니다.
Sophon, Rockchip RKNN, x86를 지원하는 비디오 분석 및 온디바이스 VLM용 프로덕션급 C++ 엣지 AI 엔진으로, 시각적 오케스트레이션, 실시간 OSD, 이벤트 처리 및 재현 가능한 벤치마크를 제공합니다.
iOS/macOS용 Core ML 모델 저장소 — PyTorch 모델을 즉시 사용 가능한 .mlpackage로 변환했으며, 각 모델에는 변환 스크립트와 SwiftUI 샘플 앱이 포함되어 있습니다. 관련 저장소에서는 Apple의 Core AI 프레임워크(iOS/macOS 27) 및 온디바이스 LLM을 다룹니다.
PyTorch의 ExecuTorch 런타임으로 구동되는, React Native를 위한 고성능 프라이버시 우선 온디바이스 AI 추론 라이브러리
macOS 및 Windows용 무료 오픈 소스 음성 입력. Whisper와 Parakeet을 사용한 로컬 음성 텍스트 변환을 지원하며 오프라인에서도 작동합니다.
Apple Core ML 및 Neural Engine에서 로컬 Laya 타입 기반 의사결정. 포팅을 검증했으며, M3 Max에서 짧은 의사결정을 약 5ms에 수행하고 재현 가능한 속도 및 에너지 벤치마크를 확보했습니다.
Nativ은 Mac용 오픈 소스 로컬 AI 앱입니다. Apple Silicon에서 개방형 AI 모델을 실행하며, 어떤 데이터도 Mac 밖으로 나가지 않습니다.
Apple Silicon이 탑재된 Mac에서 LLM 미세 조정. SFT, DPO, GRPO, 비전, TTS, STT, 임베딩, OCR 미세 조정 — MLX에서 네이티브 지원. Unsloth 호환 API.
PhoneClaw는 기기 내 모델, 네이티브 모바일 스킬, LiveLand 및 선택적 Mac Gateway 추론을 통해 휴대폰을 로컬 AI 에이전트 런타임으로 전환합니다.
Apple의 파운데이션 모델 프레임워크를 사용하여 앱을 구축, 테스트 및 평가하기 위한 실습 랩.
PokeClaw (PocketClaw) — 안드로이드 폰을 제어하는 최초의 온디바이스 AI. Gemma 4, 클라우드 없음, API 키 없음. Poke는 Pocket의 줄임말.
RAM 용량보다 큰 MoE 모델을 실행하세요. 스마트폰, 노트북, 엣지 기기에서 최첨단 규모의 MoE를 만나보세요. 손실 없이, 기본 llama.cpp에서 실행됩니다. 적응형 스트리밍 최적화기. 모든 하드웨어, OS, 모델, 양자화를 지원하며 로컬 OpenAI 호환 서버를 통해 제공합니다.
sudo 없이 사용 가능한 Apple Silicon 시스템 모니터 (네이티브 SwiftUI GUI) - ANE / 미디어 엔진 / 메모리 대역폭 추적 지원
jevos: Jev 및 Microsoft-Decision-1의 오픈 소스 대안입니다. 노트북 CPU에서 확률을 포함한 예/아니요 판정, 선택 및 점수 산정을 수행합니다.
사용자의 데이터를 위한 로컬 우선, 오픈 소스 AI 어시스턴트. 작업, 메모, 문서, 사진 및 북마크를 통합합니다. 비공개, 자체 호스팅되며 API를 통해 확장 가능합니다.
모든 에이전트를 위한 공유 단일 파일 메모리 레이어. Apple Silicon에서 텍스트, 사진, 동영상에 대해 1밀리초 미만의 RAG 제공. 서버 불필요. API 불필요. 파일 하나. 순수 Swift.
오픈 소스 로컬 AI SDK - 클라우드나 API 키 없이 디바이스에서 AI를 실행하세요. GGUF, RAG, 이미지·음악·동영상 생성, 음성-텍스트 변환, P2P 추론 등을 지원합니다. 크로스 플랫폼: Linux, macOS, Windows, Android, iOS.
자주 묻는 질문
GitHub에서 가장 인기 있는 #on-device-ai 저장소는 무엇인가요?
GitHub에서 가장 높은 순위의 오픈 소스 #on-device-ai 프로젝트는 14,864개의 스타를 받은 cactus-compute/cactus입니다. 소비자 기기를 위한 50MB 미만의 에이전트형·음성·시각 지능.
#on-device-ai 저장소에서 가장 많이 사용되는 프로그래밍 언어는 무엇인가요?
GitHub에서 순위가 가장 높은 #on-device-ai 프로젝트 중 가장 일반적으로 사용되는 프로그래밍 언어는 Python, Swift, C++, TypeScript입니다.
#on-device-ai 저장소 순위는 어떻게 계산되나요?
#on-device-ai 태그가 지정된 활성 오픈 소스 저장소(68개, 스타 500개 이상)를 추적하고 있습니다. 총 스타 수는 183,992개이며 저장소당 평균 2,705개입니다. 순위는 GitHub API를 통해 매일 업데이트됩니다.