#npu Repositories
Entdecke 12 aktive Open-Source-GitHub-Repositories, die mit #npu getaggt sind und insgesamt 23,063 Sterne gesammelt haben (durchschnittlich 1,921 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist lemonade-sdk/lemonade mit 6,262 Sternen.
Insgesamt 12 Repositories
Lemonade hilft Benutzern, lokale KI-Apps zu entdecken und auszuführen, indem es optimierte LLMs direkt von ihren eigenen GPUs und NPUs bereitstellt. Treten Sie unserem Discord bei: https://discord.gg/5xXzkMu8Zk
Tengine ist ein leichter, hochperformanter, modularer Inferenz-Engine für eingebettete Geräte.
CubeStudio ist eine Open-Source-Cloud-native All-in-One-Plattform für maschinelles Lernen/Deep Learning/Großmodell-KI/MaaS/MLOps/KI-Plattform/Trainings- und Inferenzplattform, die den gesamten Algorithmus-Pipeline, Multi-Tenancy, Rechenleistungsvermietungsplattform, Token-Relay, Drag-and-Drop-Aufgabenfluss-Pipeline-Orchestrierung, Multi-Maschine-Multi-Karte verteiltes Training, Hyperparametersuche, Inferenzdienste, VGPU-Virtualisierung, Cloud-Edge-Gerät-Kooperation, Edge Computing, automatisierte Annotationsplattform, SFT-Feintuning/Belohnungsmodell/Verstärkungslernen-Training für große Modelle wie DeepSeek, Multi-Maschine-Inferenz für große Modelle mit vLLM/Ollama/MindIE, private Wissensdatenbank-LLMOps-Agenten, KI-Modellmarkt, Unterstützung für nationale heterogene Rechenleistungsplanung (Ascend, Cambricon, Hygon, Moore Threads, Muxi usw.), Unterstützung für IB/RoCE/RDMA und Xinchuang-Unterstützung umfasst.
Führen Sie LLMs auf AMD Ryzen™ AI NPUs in wenigen Minuten aus; speziell entwickelt und tiefgehend für die AMD NPUs optimiert.
Ein Open-Source-Projekt für Windows-Entwickler, um zu lernen, wie man KI mit lokalen Modellen und APIs zu Windows-Anwendungen hinzufügt.
Toolkit zur Quantisierung (Komprimierung) von LLM-Modellen mit Hardwarebeschleunigung für Nvidia CUDA, AMD ROCm, Intel XPU, Tenstorrent, Huawei-Ascend-NPUs und Intel-/AMD-/Apple-CPUs über HF, vLLM und SGLang.
Ein PyTorch-Framework für Empfehlungs-Modelle, einfach zu verwenden und erweiterbar.
Entwickeln Sie KI-Agenten, die zu 100 % auf dem Gerät laufen. Latenzzeiten von unter 100 ms auf der Qualcomm-NPU. Keine Abhängigkeit von der Cloud.
Eine hardwarenahe Python-API zur Programmierung von AMD Ryzen™ AI NPUs (KI-Engines), die auf einer Open-Source-Compiler-Toolchain auf MLIR-Basis aufbaut.
Ollama-Alternative für Rockchip NPU: Eine effiziente Lösung zum Ausführen von KI- und Deep-Learning-Modellen auf Rockchip-Geräten mit optimierter NPU-Unterstützung (rkllm)
Maximale Rechenleistung, Speicherbandbreite und Latenz von CPUs, GPUs und NPUs: dieselben Tests über jede API, die auf ein Gerät zugreift. Kommandozeile und App für Windows, macOS, Linux und Android
Häufig gestellte Fragen
Welches ist das beliebteste #npu-Repository auf GitHub?
Das am höchsten eingestufte Open-Source-#npu-Projekt auf GitHub ist lemonade-sdk/lemonade mit 6,262 Sternen. Lemonade hilft Benutzern, lokale KI-Apps zu entdecken und auszuführen, indem es optimierte LLMs direkt von ihren eigenen GPUs und NPUs bereitstellt. Treten Sie unserem Discord bei: https://discord.gg/5xXzkMu8Zk
Welche Programmiersprachen werden in #npu-Repositories am häufigsten verwendet?
Unter den am höchsten eingestuften #npu-Projekten auf GitHub sind C++, Python, C#, Jupyter Notebook die am häufigsten verwendeten Programmiersprachen.
Wie wird das Ranking der #npu-Repositories berechnet?
Wir verfolgen 12 aktive Open-Source-Repositories, die mit #npu getaggt sind (500+ Sterne), mit insgesamt 23,063 Sternen und durchschnittlich 1,921 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.