#cuda Repositorios
325 repositorios en total
Xolotl: ejecuta DeepSeek-V4.1-Flash, con sus 552B parámetros completos, como agente de programación local en un solo PC gaming (RTX 4090 + 110 GB de RAM): ~33 tok/s como agente, ~41 en modo rápido y contexto de 512K. Además, Inkling-2-Mini (Thinking Machines, motor propio + generador de borradores MTP), GLM-5.3-Flash, Qwen3.8 y LFM3-Omni. Expertos MoE distribuidos por niveles entre la VRAM, la RAM y NVMe (Xolotl Direct). API de OpenAI + Anthropic.
Una colección abierta de metodologías para ayudar en el entrenamiento exitoso de grandes modelos de lenguaje.
Rendimiento de cálculo máximo, ancho de banda de memoria y latencia de CPU, GPU y NPU: las mismas pruebas a través de cada API que accede a un dispositivo. Línea de comandos y aplicación para Windows, macOS, Linux y Android
Compañero de escritorio de IA multimodal local para Windows, con percepción de pantalla y audio.
Visualización de datos y trazado de rayos en Python basado en el framework OptiX 9.1.
Imagen Docker para Ubuntu Desktop que soporta aplicaciones GUI aceleradas por GPU HW. Puedes acceder al contenedor con SSH o escritorio remoto, como una VM en la nube.
ppl.cv es una biblioteca de procesamiento de imágenes de alto rendimiento de openPPL que admite varias plataformas.
una implementación de softmax splatting para deformación hacia adelante diferenciable utilizando PyTorch
Varios métodos de optimización de la multiplicación general de matrices de media precisión (HGEMM) utilizando el núcleo tensorial con la API WMMA y la instrucción MMA PTX.
Servidor de inferencia de lenguaje altamente optimizado de código abierto, local y autoalojado que soporta ASR/STT, TTS y LLM a través de WebRTC, REST y WS
ManagedCUDA tiene como objetivo una fácil integración de CUDA de NVidia en aplicaciones .NET escritas en C#, Visual Basic o cualquier otro lenguaje .NET.
Proyecto de demostración que muestra una única base de código Rust ejecutándose en CPU y directamente en GPU
Página principal de ejemplos de cuQuantum Python y del SDK C++ de NVIDIA cuQuantum
Una biblioteca de aceleración de hardware para criptografía intensiva en computación :ice_cube:
Un sistema de inferencia de alto rendimiento para modelos de lenguaje grandes, diseñado para entornos de producción.
🚀🚀🚀 Este repositorio enumera algunos proyectos públicos increíbles de CUDA, cuda-python, cuBLAS, cuDNN, CUTLASS, TensorRT, TensorRT-LLM, Triton, TVM, MLIR, PTX y Computación de Alto Rendimiento (HPC).
Tilus es un lenguaje de programación de kernels a nivel de tile con control explícito de la memoria compartida y los registros.