#edge-ai Repository
84 repository in totale
Esegui modelli MoE piรน grandi della tua RAM. MoE di frontiera su smartphone, laptop o dispositivo edge. Senza perdita, con llama.cpp standard. Un ottimizzatore adattivo in streaming. Qualsiasi hardware, sistema operativo, modello e quantizzazione, tramite un server locale compatibile con OpenAI.
Esegui Kimi K3 localmente su CPU con circa 55 GB di RAM di runtime misurata. Un server di inferenza Linux a file singolo basato su cPilot Runtime.
jevos: un'alternativa open source a Jev e Microsoft-Decision-1. Decisioni sรฌ/no, scelte e punteggi con probabilitร , eseguiti sulla CPU del tuo laptop.
Crea agenti IA che funzionano al 100% sul dispositivo. Latenza inferiore a 100 ms sulla NPU Qualcomm. Nessuna dipendenza dal cloud.
:zap: Basato sull'algoritmo di rilevamento universale a basso consumo energetico e ultraleggero di Yolo, il parametro รจ di soli 250k, e la velocitร del terminale mobile dello smartphone puรฒ raggiungere circa 300fps+.
AMD Ryzenโข AI Software include gli strumenti e le librerie di runtime per ottimizzare e distribuire l'inferenza AI su PC basati su AMD Ryzenโข AI.
DefraDB รจ un Database Peer-to-Peer Edge-First. ร il sistema di archiviazione dati principale per l'Ecosistema Source.
Prototipo di LLM locale per Android 17 con Jetpack Compose e ONNX Runtime per esperimenti di inferenza AI offline.
sanoTTS (เคธเคพเคจเฅ significa ยซpiccoloยป in nepalese): un sistema neurale di sintesi vocale con un numero di parametri compreso tra 294 mila e 2,27 milioni, che funziona su un chip da 3 $, nel browser o in Python, con streaming a bassa latenza.
Vui Nano โ un piccolo modello di sintesi vocale consapevole del contesto, addestrato su conversazioni reali. 219 milioni di parametri attivi (305 milioni in totale), Apache 2.0, clonazione vocale e streaming; funziona su CPU (build in C priva di dipendenze). Include un assistente vocale completo in tempo reale: WebRTC, ASR, LLM locale e compatibilitร con lโAPI Realtime di OpenAI.
Il Model Zoo di Hailo include modelli pre-addestrati e un ambiente completo per la creazione e la valutazione
EfficientSAM3 comprime SAM3 in modelli leggeri e friendly per edge tramite distillazione di conoscenza progressiva per segmentazione e tracciamento rapidi di concetti promptabili.
Una semplice demo di yolov5s in esecuzione su rk3588/3588s tramite c++ (circa 142 frame/s). / Una semplice demo di yolov5s in esecuzione su rk3588/3588s tramite c++ (circa 142 frame/s).
IA on-device per Flutter: Gemma e altri LLM, multimodalitร , chiamate di funzione, embedding, RAG e voce su Android, iOS, Web, macOS, Windows e Linux.
AI-in-a-Box sfrutta l'esperienza di Microsoft a livello globale per sviluppare e fornire soluzioni AI e ML alla comunitร tecnica. La nostra intenzione รจ presentare una raccolta curata di acceleratori di soluzioni che possono aiutare gli ingegneri a stabilire rapidamente e con minimo attrito i propri ambienti e soluzioni AI/ML.
Un elenco curato di eccellenti risorse per l'edge computing, che include framework, simulatori, strumenti, ecc.
Piattaforma di intelligence documentale basata sullโIA e orientata allโelaborazione locale per il giornalismo investigativo