#edge-ai Dépôts
84 dépôts au total
Exécutez des modèles MoE plus volumineux que votre RAM. Des MoE de pointe sur un téléphone, un ordinateur portable ou un appareil edge. Sans perte, avec llama.cpp standard. Un optimiseur adaptatif en streaming. Tout matériel, tout système d’exploitation, tout modèle et toute quantification, via un serveur local compatible avec OpenAI.
LibreYOLO est une bibliothèque de vision par ordinateur open source sous licence MIT
Exécutez Kimi K3 localement sur CPU avec environ 55 Go de RAM d'exécution mesurée. Un serveur d'inférence Linux à fichier unique propulsé par cPilot Runtime.
jevos : une alternative open source à Jev et Microsoft-Decision-1. Des décisions par oui ou non, des choix et des scores avec des probabilités, sur le processeur de votre ordinateur portable.
Créez des agents d’IA qui s’exécutent à 100 % sur l’appareil. Latence inférieure à 100 ms sur le NPU de Qualcomm. Aucune dépendance au cloud.
:zap: Basé sur l'algorithme universel de détection de cibles basse consommation et ultra-léger de Yolo, le paramètre n'est que de 250k, et la vitesse du terminal mobile de smartphone peut atteindre ~300fps+.
AMD Ryzen™ AI Software comprend les outils et les bibliothèques d'exécution pour optimiser et déployer l'inférence IA sur les PC dotés de AMD Ryzen™ AI.
DefraDB est une base de données Peer-to-Peer Edge-First. C'est le système de stockage de données central de l'Écosystème Source.
Prototype de LLM local Android 17 avec Jetpack Compose et ONNX Runtime pour des expériences d'inférence IA hors ligne.
sanoTTS (सानो signifie « petit » en népalais) : un système neuronal de synthèse vocale comptant de 294 000 à 2,27 millions de paramètres, qui fonctionne sur une puce à 3 $, dans le navigateur ou en Python, avec une diffusion en continu à faible latence.
Vui Nano — un petit modèle de synthèse vocale sensible au contexte, entraîné sur des conversations réelles. 219 millions de paramètres actifs (305 millions au total), sous licence Apache 2.0, clonage vocal et diffusion en continu ; fonctionne sur CPU (build C sans dépendances). Inclut un assistant vocal temps réel complet : WebRTC, ASR, LLM local et compatibilité avec l’API Realtime d’OpenAI.
Le Zoo de Modèles Hailo comprend des modèles pré-entraînés et un environnement complet pour la construction et l'évaluation
EfficientSAM3 compresse SAM3 en des modèles légers et compatibles avec le bord via une distillation de connaissances progressive pour une segmentation et un suivi rapides de concepts promptables.
Une démo simple de yolov5s fonctionnant sur rk3588/3588s en utilisant c++ (environ 142 images/s). / Une démo simple de yolov5s fonctionnant sur rk3588/3588s en utilisant c++ (environ 142 images/s).
IA embarquée pour Flutter — Gemma et autres LLM, capacités multimodales, appels de fonctions, embeddings, RAG et voix sur Android, iOS, Web, macOS, Windows et Linux.
AI-in-a-Box met à profit l'expertise de Microsoft à travers le monde pour développer et fournir des solutions d'IA et de ML à la communauté technique. Notre intention est de présenter une collection organisée d'accélérateurs de solutions qui peuvent aider les ingénieurs à établir rapidement et avec une friction minimale leurs environnements et solutions d'IA/ML.
Une liste soigneusement sélectionnée d'excellentes ressources d'informatique de bord, incluant des frameworks, simulateurs, outils, etc.
Plateforme d’intelligence documentaire basée sur l’IA, privilégiant le stockage local, pour le journalisme d’investigation