#npu Репозитории
Откройте для себя 12 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #npu, с общим числом 23,063 звёзд (в среднем 1,921 на проект). Лидером этой темы является lemonade-sdk/lemonade, набравший 6,262 звёзд.
Всего репозиториев: 12
Lemonade помогает пользователям находить и запускать локальные приложения ИИ, предоставляя оптимизированные LLM прямо с их собственных GPU и NPU. Присоединяйтесь к нашему Discord: https://discord.gg/5xXzkMu8Zk
Tengine — это легкий, высокопроизводительный, модульный движок вывода для встроенных устройств.
CubeStudio — это открытая облачная универсальная платформа для машинного обучения/глубокого обучения/больших моделей ИИ/MaaS/MLOps/платформа искусственного интеллекта/платформа обучения и вывода, охватывающая полный конвейер алгоритмов, мультитенантность, платформу аренды вычислительных мощностей, ретрансляцию токенов, оркестрацию конвейеров задач с помощью перетаскивания, распределенное обучение на нескольких машинах с несколькими картами, поиск гиперпараметров, сервисы вывода, виртуализацию VGPU, взаимодействие облако-край-устройство, периферийные вычисления, автоматизированную платформу аннотации, тонкую настройку SFT/модель вознаграждения/обучение с подкреплением для больших моделей, таких как DeepSeek, многомашинный вывод для больших моделей с vLLM/Ollama/MindIE, интеллектуальные агенты LLMOps с частной базой знаний, рынок моделей ИИ, поддержка планирования отечественных гетерогенных вычислительных мощностей (Ascend, Cambricon, Hygon, Moore Threads, Muxi и др.), поддержка IB/RoCE/RDMA и поддержка Xinchuang.
Запускайте LLM на NPU AMD Ryzen™ AI за считанные минуты; создано специально и глубоко оптимизировано для NPU AMD.
Проект с открытым исходным кодом для разработчиков Windows, чтобы научиться добавлять ИИ с локальными моделями и API в приложения Windows.
Инструментарий для квантования (сжатия) моделей LLM с поддержкой аппаратного ускорения для Nvidia CUDA, AMD ROCm, Intel XPU, Tenstorrent, NPU Huawei Ascend и процессоров Intel/AMD/Apple через HF, vLLM и SGLang.
Фреймворк PyTorch для моделей рекомендаций, простой в использовании и расширяемый.
Создавайте ИИ-агентов, работающих на 100% на устройстве. Задержка менее 100 мс на NPU Qualcomm. Нулевая зависимость от облака.
Низкоуровневый Python API для программирования NPU (AI-движков) AMD Ryzen™ AI, построенный на базе компиляторной цепочки с открытым исходным кодом на основе MLIR.
Альтернатива Ollama для Rockchip NPU: Эффективное решение для запуска моделей ИИ и глубокого обучения на устройствах Rockchip с оптимизированной поддержкой NPU (rkllm)
Пиковая вычислительная производительность, пропускная способность памяти и задержка CPU, GPU и NPU: одни и те же тесты через каждый API, обеспечивающий доступ к устройству. Командная строка и приложение для Windows, macOS, Linux и Android
Часто задаваемые вопросы
Какой репозиторий по теме #npu наиболее популярен на GitHub?
Самый высоко оценённый проект с открытым исходным кодом по теме #npu на GitHub — lemonade-sdk/lemonade, набравший 6,262 звёзд. Lemonade помогает пользователям находить и запускать локальные приложения ИИ, предоставляя оптимизированные LLM прямо с их собственных GPU и NPU. Присоединяйтесь к нашему Discord: https://discord.gg/5xXzkMu8Zk
Какие языки программирования чаще всего используются в репозиториях по теме #npu?
Среди наиболее высоко оценённых проектов по теме #npu на GitHub чаще всего используются языки программирования C++, Python, C#, Jupyter Notebook.
Как рассчитывается рейтинг репозиториев по теме #npu?
Мы отслеживаем 12 активных репозиториев с открытым исходным кодом, отмеченных тегом #npu (500 и более звёзд), с общим числом 23,063 звёзд и в среднем 1,921 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.