#npu Repository
Scopri 12 repository GitHub open source attivi contrassegnati con #npu, che raccolgono un totale di 23,063 stelle (con una media di 1,921 stelle per progetto). Il progetto leader di questo argomento è lemonade-sdk/lemonade, con 6,262 stelle.
12 repository in totale
Lemonade aiuta gli utenti a scoprire ed eseguire app AI locali fornendo LLM ottimizzati direttamente dalle loro GPU e NPU. Unisciti al nostro Discord: https://discord.gg/5xXzkMu8Zk
Tengine è un motore di inferenza leggero, ad alte prestazioni e modulare per dispositivi embedded.
CubeStudio è una piattaforma open source cloud-native all-in-one per machine learning/deep learning/grandi modelli AI/MaaS/MLOps/piattaforma di intelligenza artificiale/piattaforma di training e inferenza, che copre l'intero pipeline dell'algoritmo, multi-tenancy, piattaforma di noleggio di potenza di calcolo, relay di token, orchestrazione di pipeline di flussi di lavoro tramite trascinamento, training distribuito multi-macchina multi-scheda, ricerca di iperparametri, servizi di inferenza, virtualizzazione VGPU, collaborazione cloud-edge-dispositivo, edge computing, piattaforma di annotazione automatizzata, fine-tuning SFT/modello di ricompensa/training di apprendimento per rinforzo per grandi modelli come DeepSeek, inferenza multi-macchina per grandi modelli con vLLM/Ollama/MindIE, agenti intelligenti LLMOps con knowledge base privata, mercato di modelli AI, supporto per la pianificazione di potenza di calcolo eterogenea nazionale (Ascend, Cambricon, Hygon, Moore Threads, Muxi, ecc.), supporto per IB/RoCE/RDMA e supporto Xinchuang.
Esegui LLM sulle NPU AMD Ryzen™ AI in pochi minuti; appositamente sviluppati e profondamente ottimizzati per le NPU AMD.
Un progetto open-source per sviluppatori Windows per imparare ad aggiungere AI con modelli e API locali alle app Windows.
Toolkit per la quantizzazione (compressione) di modelli LLM, con supporto all’accelerazione hardware per Nvidia CUDA, AMD ROCm, Intel XPU, Tenstorrent, NPU Huawei Ascend e CPU Intel/AMD/Apple tramite HF, vLLM e SGLang.
Un Framework PyTorch per Modelli di Raccomandazione, Facile da usare e Facile da estendere.
Crea agenti IA che funzionano al 100% sul dispositivo. Latenza inferiore a 100 ms sulla NPU Qualcomm. Nessuna dipendenza dal cloud.
Un'API Python vicina all'hardware per la programmazione di NPU (motori IA) AMD Ryzen™ AI, basata su una toolchain di compilazione open source basata su MLIR.
Alternativa Ollama per Rockchip NPU: Una soluzione efficiente per eseguire modelli AI e di deep learning su dispositivi Rockchip con supporto NPU ottimizzato (rkllm)
Potenza di calcolo massima, larghezza di banda della memoria e latenza di CPU, GPU e NPU: gli stessi test tramite ogni API che consente di accedere a un dispositivo. Riga di comando e app per Windows, macOS, Linux e Android
Domande frequenti
Qual è il repository #npu più popolare su GitHub?
Il progetto open source #npu più alto in classifica su GitHub è lemonade-sdk/lemonade, con 6,262 stelle. Lemonade aiuta gli utenti a scoprire ed eseguire app AI locali fornendo LLM ottimizzati direttamente dalle loro GPU e NPU. Unisciti al nostro Discord: https://discord.gg/5xXzkMu8Zk
Quali linguaggi di programmazione sono più utilizzati nei repository #npu?
Tra i progetti #npu più alti in classifica su GitHub, i linguaggi di programmazione più comuni sono C++, Python, C#, Jupyter Notebook.
Come viene calcolata la classifica dei repository #npu?
Monitoriamo 12 repository open source attivi contrassegnati con #npu (500+ stelle), per un totale di 23,063 stelle e una media di 1,921 stelle per repository. Le classifiche vengono aggiornate quotidianamente tramite l’API di GitHub.