#cuda Репозитории
Всего репозиториев: 325
Xolotl: запускайте DeepSeek-V4.1-Flash со всеми 552B параметров как локального агента для программирования на одном игровом ПК (RTX 4090 + 110 ГБ ОЗУ): около 33 токенов/с в режиме агента, около 41 в быстром режиме, контекст 512K. Также доступны Inkling-2-Mini (Thinking Machines, собственный движок + модуль создания черновиков MTP), GLM-5.3-Flash, Qwen3.8 и LFM3-Omni. Эксперты MoE распределяются по уровням между VRAM, ОЗУ и NVMe (Xolotl Direct). API OpenAI + Anthropic.
Открытый сборник методологий для успешного обучения больших языковых моделей.
Пиковая вычислительная производительность, пропускная способность памяти и задержка CPU, GPU и NPU: одни и те же тесты через каждый API, обеспечивающий доступ к устройству. Командная строка и приложение для Windows, macOS, Linux и Android
Локальный мультимодальный ИИ-компаньон для рабочего стола Windows с распознаванием экрана и звука.
Визуализация данных и трассировка лучей на Python на основе фреймворка OptiX 9.1.
Docker-образ для Ubuntu Desktop с поддержкой аппаратно ускоренных GPU GUI-приложений. Вы можете получить доступ к контейнеру через SSH или удаленный рабочий стол, как к облачной VM.
ppl.cv — это высокопроизводительная библиотека обработки изображений openPPL, поддерживающая различные платформы.
реализация softmax splatting для дифференцируемого прямого преобразования с использованием PyTorch
Несколько методов оптимизации полуточной общей матричной умножения (HGEMM) с использованием тензорного ядра с API WMMA и инструкцией MMA PTX.
Сервер вывода языковых моделей с открытым исходным кодом, локальный и самостоятельно размещаемый, высоко оптимизированный, поддерживающий ASR/STT, TTS и LLM через WebRTC, REST и WS
ManagedCUDA нацелен на простую интеграцию CUDA от NVidia в приложения .NET, написанные на C#, Visual Basic или любом другом языке .NET.
Демонстрационный проект, показывающий, как единая кодовая база на Rust работает на CPU и напрямую на GPU
Библиотека аппаратного ускорения для вычислительно сложной криптографии :ice_cube:
Высокопроизводительная система вывода для больших языковых моделей, предназначенная для производственных сред.
🚀🚀🚀 В этом репозитории представлен список отличных публичных проектов, связанных с CUDA, cuda-python, cuBLAS, cuDNN, CUTLASS, TensorRT, TensorRT-LLM, Triton, TVM, MLIR, PTX и высокопроизводительными вычислениями (HPC).
Tilus — это язык программирования ядер на уровне тайлов с явным управлением разделяемой памятью и регистрами.