#edge-ai 저장소
저장소 총 84개
RAM 용량보다 큰 MoE 모델을 실행하세요. 스마트폰, 노트북, 엣지 기기에서 최첨단 규모의 MoE를 만나보세요. 손실 없이, 기본 llama.cpp에서 실행됩니다. 적응형 스트리밍 최적화기. 모든 하드웨어, OS, 모델, 양자화를 지원하며 로컬 OpenAI 호환 서버를 통해 제공합니다.
CPU에서 Kimi K3를 로컬로 실행하십시오(측정된 런타임 RAM 약 55GB). cPilot Runtime으로 구동되는 단일 파일 Linux 추론 서버입니다.
jevos: Jev 및 Microsoft-Decision-1의 오픈 소스 대안입니다. 노트북 CPU에서 확률을 포함한 예/아니요 판정, 선택 및 점수 산정을 수행합니다.
100% 온디바이스로 실행되는 AI 에이전트를 구축하세요. Qualcomm NPU에서 100ms 미만의 지연 시간. 클라우드 의존성 제로.
:zap: Yolo의 저전력, 초경량 범용 타겟 감지 알고리즘을 기반으로 하며, 파라미터는 250k에 불과하며 스마트폰 모바일 터미널 속도는 ~300fps+에 도달할 수 있습니다.
AMD Ryzen™ AI 소프트웨어에는 AMD Ryzen™ AI 지원 PC에서 AI 추론을 최적화하고 배포하기 위한 도구 및 런타임 라이브러리가 포함되어 있습니다.
DefraDB는 Peer-to-Peer Edge-First 데이터베이스입니다. Source Ecosystem의 핵심 데이터 저장 시스템입니다.
Jetpack Compose와 ONNX Runtime을 사용한 Android 17 로컬 LLM 프로토타입으로, 오프라인 AI 추론 실험용입니다.
sanoTTS(सानो는 네팔어로 ‘작은’이라는 뜻): 29만 4천~227만 개의 파라미터를 가진 신경망 TTS로, 3달러짜리 칩이나 브라우저, Python에서 실행되며 지연 시간이 짧은 스트리밍을 지원합니다.
Vui Nano — 실제 대화로 학습한 작고 문맥을 인식하는 텍스트 음성 변환 모델입니다. 활성 파라미터 2억 1,900만 개(전체 3억 500만 개), Apache 2.0, 음성 복제 및 스트리밍을 지원하며 CPU에서 실행됩니다(종속성 없는 C 빌드). 완전한 실시간 음성 어시스턴트가 함께 제공됩니다: WebRTC, ASR, 로컬 LLM, OpenAI Realtime API 호환.
EfficientSAM3은 점진적 지식 증류를 통해 SAM3을 경량화되고 엣지 친화적인 모델로 압축하여 빠른 프롬프트 가능한 개념 세분화 및 추적을 수행합니다.
c++를 사용하여 rk3588/3588s에서 실행되는 yolov5s의 간단한 데모(초당 약 142프레임). / c++를 사용하여 rk3588/3588s에서 실행되는 yolov5s의 간단한 데모(초당 약 142프레임).
Flutter용 온디바이스 AI — Gemma 및 기타 LLM, 멀티모달, 함수 호출, 임베딩, RAG와 음성을 Android, iOS, Web, macOS, Windows 및 Linux에서 지원합니다.
AI-in-a-Box는 Microsoft의 전 세계적인 전문성을 활용하여 기술 커뮤니티에 AI 및 ML 솔루션을 개발하고 제공합니다. 저희의 의도는 엔지니어가 AI/ML 환경 및 솔루션을 빠르고 최소한의 마찰로 구축하는 데 도움이 되는 엄선된 솔루션 가속기 컬렉션을 제공하는 것입니다.