#cuda Repositorios
325 repositorios en total
La plataforma CUDA de NVIDIA para Rust. Crates de tiempo de ejecución para el host, además de modelos de programación de kernels Tile (cutile-rs) y SIMT (cuda-oxide) en un Rust idiomático.
Un compilador y kit de herramientas de tiempo de ejecución para aprendizaje automático basado en MLIR y retargetable.
[ICLR2025, ICML2025, NeurIPS2025 Spotlight] La Atención Cuantificada (Quantized Attention) logra una aceleración de 2 a 5 veces en comparación con FlashAttention, sin perder métricas de extremo a extremo en modelos de lenguaje, imagen y video.
Software NVR y de visión por computadora de IA autoalojado, solo local. Con funciones como detección de objetos, detección de movimiento, reconocimiento facial y más, le brinda el poder de vigilar su hogar, oficina o cualquier otro lugar que desee monitorear.
Una biblioteca para acelerar los modelos Transformer en GPU NVIDIA, incluido el uso de precisión de punto flotante de 8 y 4 bits (FP8 y FP4) en GPU Hopper, Ada y Blackwell, para proporcionar un mejor rendimiento con una menor utilización de memoria tanto en entrenamiento como en inferencia.
Fundamentos de IA: arquitectura de GPU, programación CUDA, conceptos básicos de grandes modelos y conocimientos relacionados con agentes de IA.
LYGIA, es una biblioteca de shaders granular y multilingüe (GLSL, HLSL, Metal, WGSL, WEGL y CUDA) diseñada para el rendimiento y la flexibilidad
Motor de ajedrez de red neuronal de código abierto con aceleración por GPU y amplio soporte de hardware.
Jittor es un framework de aprendizaje profundo de alto rendimiento basado en compilación JIT y meta-operadores.
Ejecuta GLM-5.3 (744B), DeepSeek-V4.1-Flash (748B), MiniMax-M3.1-Flash (428B), GLM-5.3-Flash (321B) y Hy4-Flash (220B) en tus propias GPU: desde 8 GB de VRAM, compatibles con NVIDIA y AMD, un solo panel de control y una API compatible con OpenAI y Anthropic.
RamaLama es una herramienta de desarrollo de código abierto que simplifica la provisión local de modelos de IA desde cualquier fuente y facilita su uso para inferencia en producción, todo a través del familiar lenguaje de los contenedores.
Minkowski Engine es una biblioteca de redes neuronales con diferenciación automática para tensores dispersos de alta dimensión
Ejecuta modelos Qwen grandes rápidamente en las GPU que realmente tienes. Qwen3.8-27B en una sola tarjeta de 24 GB con vLLM: 127 tok/s para un solo usuario (381 cuando la respuesta cita el prompt), aproximadamente 1.035 tok/s con 64 solicitudes concurrentes y un contexto de 150k–262k. Parches para vLLM, canalización de requantización y benchmarks.
CV-CUDA™ es una biblioteca de código abierto acelerada por GPU para el procesamiento de imágenes a escala de nube y la visión por computadora.
Proyectos de Visión por Computadora | Proyectos divertidos de IA relacionados con la visión por computadora (Python, C++, sistemas embebidos)
Entrenador de Gaussian Splatting 3D multiplataforma: de vídeo a splats y de splats a malla, con Vulkan o CUDA.
LUPINE es un puente GPU sobre IP que permite conectar GPUs de máquinas remotas a máquinas solo con CPU.
Generador local de canciones con IA y partitura editable: YuE2 en tu GPU. Crea canciones completas con voces, partituras y versiones, y reprodúcelas con exactitud. Aplicación nativa para Windows, sin Python, con instalador y actualizaciones automáticas.
Apache Mahout - un entorno para crear rápidamente aplicaciones de aprendizaje automático escalables y de alto rendimiento.
Curso oficial de SGLang x Datawhale sobre inferencia de LLM: comprende la inferencia, construye un mini-SGLang desde cero, luego lee el código fuente real de SGLang y consigue tu primer PR. Disponible en inglés y chino.
Muchos estudios han demostrado que el rendimiento en el aprendizaje profundo se ve significativamente afectado por el volumen de datos de entrenamiento. El proyecto MedicalNet proporciona una serie de modelos pre-entrenados 3D-ResNet y el código relativo.
label-smooth, amsoftmax, partial-fc, focal-loss, triplet-loss, lovasz-softmax. Tal vez útil
Código para el artículo de ICLR 2023 "GPTQ: Accurate Post-training Quantization of Generative Pretrained Transformers".
Colección seleccionada por NVIDIA de recursos educativos relacionados con la programación de GPU de propósito general.
Traduce sombreadores de GPU y kernels de cómputo entre GLSL, HLSL, Metal, SPIR-V, Slang, CUDA e HIP, y a WGSL, mediante la IR de CrossGL
Ejecuta modelos de IA localmente en tu máquina con enlaces de Node.js para llama.cpp. Aplica un esquema JSON a la salida del modelo en el nivel de generación.
Controladores de código abierto para el dispositivo Kinect para Windows v2
Un paquete de aprendizaje profundo para la representación de energía potencial de muchos cuerpos y dinámica molecular