#edge-ai Repositories
Insgesamt 84 Repositories
Führe MoE-Modelle aus, die größer sind als dein RAM. MoE-Modelle der Spitzenklasse auf einem Smartphone, Laptop oder Edge-Gerät. Verlustfrei, mit unverändertem llama.cpp. Ein adaptiver Streaming-Optimierer. Jede Hardware, jedes Betriebssystem, jedes Modell und jede Quantisierung – über einen lokalen OpenAI-kompatiblen Server.
LibreYOLO ist eine unter der MIT-Lizenz lizenzierte Open-Source-Computer-Vision-Bibliothek
Führen Sie Kimi K3 lokal auf der CPU mit ca. 55 GB gemessenem Laufzeit-RAM aus. Ein Einzeldatei-Linux-Inferenzserver, betrieben von cPilot Runtime.
jevos: eine Open-Source-Alternative zu Jev und Microsoft-Decision-1. Ja/Nein-Entscheidungen, Auswahlmöglichkeiten und Bewertungen mit Wahrscheinlichkeiten – auf der CPU Ihres Laptops.
Entwickeln Sie KI-Agenten, die zu 100 % auf dem Gerät laufen. Latenzzeiten von unter 100 ms auf der Qualcomm-NPU. Keine Abhängigkeit von der Cloud.
:zap: Basierend auf Yolos stromsparendem, ultraleichtem universellem Zielerkennungsalgorithmus beträgt der Parameter nur 250k, und die Geschwindigkeit des mobilen Smartphoneterminals kann ~300fps+ erreichen.
Die AMD Ryzen™ AI Software beinhaltet die Tools und Laufzeitbibliotheken für die Optimierung und Bereitstellung von KI-Inferenz auf AMD Ryzen™ AI-fähigen PCs.
DefraDB ist eine Peer-to-Peer Edge-First-Datenbank. Es ist das zentrale Datenspeichersystem für das Source-Ökosystem.
Android-17-Prototyp für lokale LLM mit Jetpack Compose und ONNX Runtime für Offline-KI-Inferenzexperimente.
sanoTTS (सानो bedeutet auf Nepalesisch „klein“): ein neuronales Text-to-Speech-System mit 294.000 bis 2,27 Millionen Parametern, das auf einem 3-Dollar-Chip, im Browser oder in Python läuft und Streaming mit geringer Latenz bietet.
Vui Nano – ein kleines, kontextbewusstes Text-to-Speech-Modell, das mit echten Gesprächen trainiert wurde. 219 Mio. aktive Parameter (305 Mio. insgesamt), Apache 2.0, Sprachklonung und Streaming; läuft auf der CPU (abhängigkeitsfreier C-Build). Enthält einen vollständigen Echtzeit-Sprachassistenten: WebRTC, ASR, lokales LLM und Kompatibilität mit der OpenAI Realtime API.
Der Hailo Model Zoo umfasst vortrainierte Modelle und eine vollständige Umgebungen für Erstellung und Evaluierung
EfficientSAM3 komprimiert SAM3 durch progressive Wissensdestillation in leichte, edge-freundliche Modelle für schnelle promptbare Konzeptsegmentierung und -verfolgung.
Ein einfaches Demo von yolov5s, das auf rk3588/3588s mit c++ läuft (ca. 142 Bilder/s). / Ein einfaches Demo von yolov5s, das auf rk3588/3588s mit c++ läuft (ca. 142 Bilder/s).
KI auf dem Gerät für Flutter – Gemma und andere LLMs, multimodale Funktionen, Funktionsaufrufe, Embeddings, RAG und Sprache auf Android, iOS, Web, macOS, Windows und Linux.
AI-in-a-Box nutzt die Expertise von Microsoft weltweit, um KI- und ML-Lösungen für die technische Gemeinschaft zu entwickeln und bereitzustellen. Unsere Absicht ist es, eine kuratierte Sammlung von Lösungsbeschleunigern zu präsentieren, die Ingenieuren helfen können, ihre KI/ML-Umgebungen und -Lösungen schnell und mit minimalen Schwierigkeiten einzurichten.
Eine sorgfältig zusammengestellte Liste von großartigen Edge-Computing-Ressourcen, einschließlich Frameworks, Simulatoren, Tools usw.
KI-gestützte Dokumentenintelligenz-Plattform mit lokalem Ansatz für investigativen Journalismus