#npu Dépôts
Découvrez 12 dépôts GitHub open source actifs associés à #npu, cumulant 23,063 étoiles au total (soit une moyenne de 1,921 étoiles par projet). Le projet en tête de ce thème est lemonade-sdk/lemonade, avec 6,262 étoiles.
12 dépôts au total
Lemonade aide les utilisateurs à découvrir et à exécuter des applications d'IA locales en fournissant des LLM optimisés directement depuis leurs propres GPU et NPU. Rejoignez notre Discord : https://discord.gg/5xXzkMu8Zk
Tengine est un moteur d'inférence léger, haute performance et modulaire pour les appareils embarqués.
CubeStudio est une plateforme open source cloud-native tout-en-un pour l'apprentissage automatique/l'apprentissage profond/les grands modèles d'IA/MaaS/MLOps/plateforme d'intelligence artificielle/plateforme d'entraînement et d'inférence, couvrant le pipeline complet des algorithmes, la multi-location, la plateforme de location de puissance de calcul, le relais de tokens, l'orchestration de pipelines de flux de travail par glisser-déposer, l'entraînement distribué multi-machine multi-carte, la recherche d'hyperparamètres, les services d'inférence, la virtualisation VGPU, la collaboration cloud-edge-device, le calcul en périphérie, la plateforme d'annotation automatisée, le fine-tuning SFT/le modèle de récompense/l'entraînement par apprentissage par renforcement pour les grands modèles comme DeepSeek, l'inférence multi-machine pour les grands modèles avec vLLM/Ollama/MindIE, les agents intelligents LLMOps avec base de connaissances privée, le marché de modèles d'IA, le support pour l'ordonnancement de puissance de calcul hétérogène nationale (Ascend, Cambricon, Hygon, Moore Threads, Muxi, etc.), le support pour IB/RoCE/RDMA et le support Xinchuang.
Exécutez des LLM sur les NPU AMD Ryzen™ AI en quelques minutes ; spécialement conçus et profondément optimisés pour les NPU AMD.
Un projet open-source destiné aux développeurs Windows pour apprendre à ajouter l'IA avec des modèles et des API locaux aux applications Windows.
Boîte à outils de quantification (compression) de modèles LLM, avec prise en charge de l’accélération matérielle pour Nvidia CUDA, AMD ROCm, Intel XPU, Tenstorrent, les NPU Huawei Ascend et les processeurs Intel/AMD/Apple via HF, vLLM et SGLang.
Un Framework PyTorch pour les Modèles de Recommandation, Facile à utiliser et Facile à étendre.
Créez des agents d’IA qui s’exécutent à 100 % sur l’appareil. Latence inférieure à 100 ms sur le NPU de Qualcomm. Aucune dépendance au cloud.
Une API Python proche du matériel pour programmer les NPU (moteurs d'IA) AMD Ryzen™ AI, construite sur une chaîne d'outils de compilation open source basée sur MLIR.
Alternative Ollama pour Rockchip NPU : Une solution efficace pour exécuter des modèles d'IA et d'apprentissage profond sur des appareils Rockchip avec un support optimisé du NPU (rkllm)
Puissance de calcul maximale, bande passante mémoire et latence des CPU, GPU et NPU : les mêmes tests via chaque API permettant d’accéder à un appareil. Ligne de commande et application pour Windows, macOS, Linux et Android
Foire aux questions
Quel est le dépôt #npu le plus populaire sur GitHub ?
Le projet #npu open source le mieux classé sur GitHub est lemonade-sdk/lemonade, avec 6,262 étoiles. Lemonade aide les utilisateurs à découvrir et à exécuter des applications d'IA locales en fournissant des LLM optimisés directement depuis leurs propres GPU et NPU. Rejoignez notre Discord : https://discord.gg/5xXzkMu8Zk
Quels langages de programmation sont les plus utilisés dans les dépôts #npu ?
Parmi les projets #npu les mieux classés sur GitHub, les langages de programmation les plus courants sont C++, Python, C#, Jupyter Notebook.
Comment le classement des dépôts #npu est-il calculé ?
Nous suivons 12 dépôts open source actifs associés à #npu (500+ étoiles), totalisant 23,063 étoiles, avec une moyenne de 1,921 étoiles par dépôt. Les classements sont mis à jour quotidiennement à partir de l’API GitHub.