#cuda Репозитории
Всего репозиториев: 325
Платформа NVIDIA CUDA для Rust. Крейты среды выполнения для хоста, а также модели программирования ядер Tile (cutile-rs) и SIMT (cuda-oxide), реализованные на идиоматичном Rust.
Переориентируемый компилятор и набор инструментов времени выполнения на основе MLIR для машинного обучения.
[ICLR2025, ICML2025, NeurIPS2025 Spotlight] Квантованное внимание (Quantized Attention) обеспечивает ускорение в 2–5 раз по сравнению с FlashAttention, не снижая сквозных (end-to-end) метрик для языковых, графических и видеомоделей.
Локальное программное обеспечение NVR и компьютерного зрения с искусственным интеллектом, размещаемое самостоятельно. Благодаря таким функциям, как обнаружение объектов, обнаружение движения, распознавание лиц и многим другим, оно дает вам возможность следить за вашим домом, офисом или любым другим местом, которое вы хотите контролировать.
Библиотека для ускорения моделей Transformer на графических процессорах NVIDIA, включая использование точности с плавающей запятой 8 бит и 4 бит (FP8 и FP4) на графических процессорах Hopper, Ada и Blackwell, для обеспечения лучшей производительности при меньшем потреблении памяти как при обучении, так и при инференсе.
Основы ИИ — архитектура GPU, программирование на CUDA, основы больших языковых моделей и знания об ИИ-агентах.
LYGIA — это гранулированная и многоязычная (GLSL, HLSL, Metal, WGSL, WEGL и CUDA) библиотека шейдеров, разработанная для производительности и гибкости.
Открытый шахматный движок на основе нейронной сети с ускорением GPU и широкой поддержкой оборудования.
Одиночный файл C, профилировщик ЦП/ГП в реальном времени с удаленным веб-просмотрщиком
Jittor — это высокопроизводительный фреймворк для глубокого обучения, основанный на JIT-компиляции и мета-операторах.
Запускайте GLM-5.3 (744B), DeepSeek-V4.1-Flash (748B), MiniMax-M3.1-Flash (428B), GLM-5.3-Flash (321B) и Hy4-Flash (220B) на собственных GPU — от 8 ГБ видеопамяти, с поддержкой NVIDIA и AMD, единой панелью управления и API, совместимым с OpenAI и Anthropic.
RamaLama — это инструмент разработчика с открытым исходным кодом, который упрощает локальное развертывание моделей ИИ из любого источника и облегчает их использование для инференса в производственной среде, используя привычный язык контейнеров.
Компилятор PyTorch/TorchScript/FX для графических процессоров NVIDIA с использованием TensorRT
Minkowski Engine — это библиотека нейронных сетей с автоматическим дифференцированием для разреженных тензоров высокой размерности
:boom::computer::boom: Язык функционального программирования с параллелизмом данных
Быстро обслуживайте большие модели Qwen на тех GPU, которыми вы действительно располагаете. Qwen3.8-27B на одной карте объёмом 24 ГБ с vLLM: 127 ток/с для одного пользователя (381, когда ответ цитирует промпт), около 1 035 ток/с при 64 одновременных запросах, контекст 150k–262k. Патчи для vLLM, конвейер повторной квантизации и бенчмарки.
CV-CUDA™ — это библиотека с открытым исходным кодом с ускорением на GPU для обработки изображений в облачном масштабе и компьютерного зрения.
Проекты компьютерного зрения | Забавные ИИ-проекты, связанные с компьютерным зрением (Python, C++, встраиваемые системы)
Кросс-вендорный тренер 3D Gaussian Splatting — от видео к сплатам и от сплатов к сетке, Vulkan или CUDA.
LUPINE — это мост GPU over IP, позволяющий подключать GPU удаленных машин к машинам только с CPU.
Локальный ИИ-генератор песен с редактируемой партитурой — YuE2 на вашем GPU: полноценные песни с вокалом, ноты, кавер-версии и точное воспроизведение. Нативное приложение для Windows, Python не нужен, установщик с автообновлением.
Apache Mahout — среда для быстрого создания масштабируемых, высокопроизводительных приложений машинного обучения.
Официальный курс SGLang x Datawhale по инференсу LLM: разберитесь в инференсе, создайте мини-SGLang с нуля, затем изучите настоящий исходный код SGLang и отправьте свой первый PR. Доступен на английском и китайском языках.
Многие исследования показали, что производительность глубокого обучения значительно зависит от объема обучающих данных. Проект MedicalNet предоставляет серию предварительно обученных моделей 3D-ResNet и соответствующий код.
label-smooth, amsoftmax, partial-fc, focal-loss, triplet-loss, lovasz-softmax. Возможно полезно
Код для статьи ICLR 2023 "GPTQ: Accurate Post-training Quantization of Generative Pretrained Transformers".
Курируемая NVIDIA коллекция образовательных ресурсов, связанных с программированием GPU общего назначения.
Преобразуйте GPU-шейдеры и вычислительные ядра между GLSL, HLSL, Metal, SPIR-V, Slang, CUDA и HIP, а также в WGSL, с помощью CrossGL IR
Запускайте модели ИИ локально на вашем компьютере с помощью привязок Node.js для llama.cpp. Применяйте JSON-схему к выводу модели на уровне генерации.
Пакет глубокого обучения для представления энергии потенциала многих тел и молекулярной динамики