#cuda Репозитории
Всего репозиториев: 325
https://wavespeed.ai/ Лучший фреймворк для оптимизации производительности вывода HuggingFace Diffusers на GPU NVIDIA.
Инструментарий для квантования (сжатия) моделей LLM с поддержкой аппаратного ускорения для Nvidia CUDA, AMD ROCm, Intel XPU, Tenstorrent, NPU Huawei Ascend и процессоров Intel/AMD/Apple через HF, vLLM и SGLang.
Запускайте модели, превышающие объём вашей RAM или VRAM, загружая экспертов MoE с SSD в потоковом режиме. Основано на llama.cpp.
GraphVite: Общая и высокопроизводительная система встраивания графов
Скрипт сборки FFmpeg предоставляет простой способ создать статическую сборку FFmpeg на OSX и Linux с включенными несвободными кодеками.
Создайте свой собственный высокопроизводительный движок вывода LLM на C++ и CUDA - уменьшенная версия vLLM
CUDA Tile IR — это промежуточное представление и компиляторная инфраструктура на основе MLIR для оптимизации ядер CUDA, ориентированная на плиточные вычислительные шаблоны и оптимизации, нацеленные на блоки тензорных ядер NVIDIA.
cuTile Rust предоставляет безопасный DSL для программирования ядер на основе тайлов для языка программирования Rust. Он включает безопасный API на стороне хоста для передачи тензоров в асинхронно выполняемые функции ядра.
RAFT содержит фундаментальные широко используемые алгоритмы и примитивы для машинного обучения и информационного поиска. Алгоритмы ускорены с помощью CUDA и формируют строительные блоки для более легкой записи высокопроизводительных приложений.
Кроссплатформенная, настраиваемая среда для обработки мультимедиа/видео. Благодаря мощному ускорению на GPU, гетерогенной архитектуре, поддержке нескольких языков, простоте использования, совместимости с различными фреймворками и высокой производительности, эта среда идеально подходит для транскодирования, инференса ИИ, интеграции алгоритмов, прямой видеотрансляции и многого другого.
Библиотека машинного обучения с API на TypeScript и бэкендом на Rust. Совместимость с CUDA и WebGPU. Создана для понимания внутренней работы фреймворков и моделей ML.
реализация интерполяции кадров видео через адаптивную сепарабельную свертку с использованием PyTorch
UniLab: инфраструктура на основе контрактов для обучения роботов на различных физических движках и оборудовании
cuDNN Frontend — это современная open-source точка входа NVIDIA в библиотеку cuDNN и растущую коллекцию высокопроизводительных open-source ядер.
Встроенный в Python DSL, который позволяет легко писать быстрые, масштабируемые ядра машинного обучения с минимальным количеством шаблонного кода.
Ориентированный на пропускную способность высокопроизводительный фреймворк для обслуживания LLM
Причинно-следственная depthwise свертка conv1d в CUDA, с интерфейсом PyTorch
Узлы вывода глубокого обучения для ROS / ROS2 с поддержкой NVIDIA Jetson и TensorRT
Обучающие материалы, связанные с серией обучения CUDA от NVIDIA (www.olcf.ornl.gov/cuda-training-series/)
BitCracker — это первый инструмент для взлома паролей с открытым исходным кодом для модулей памяти, зашифрованных с помощью BitLocker.
Примеры, демонстрирующие доступные варианты для программирования нескольких GPU в одном узле или кластере
Цель: Предоставить отличные инструменты для пользователей Bazel из семейства языков C.