#cuda Repositorios
325 repositorios en total
https://wavespeed.ai/ El mejor framework de optimización del rendimiento de inferencia para HuggingFace Diffusers en GPU NVIDIA.
Kit de herramientas para la cuantización (compresión) de modelos LLM, con aceleración por hardware para Nvidia CUDA, AMD ROCm, Intel XPU, Tenstorrent, NPU Huawei Ascend y CPU Intel/AMD/Apple mediante HF, vLLM y SGLang.
Ejecuta modelos que superan la capacidad de tu RAM o VRAM transmitiendo expertos MoE desde un SSD. Basado en llama.cpp.
GraphVite: Un sistema general y de alto rendimiento para el embedding de grafos
El script de compilación de FFmpeg proporciona una forma sencilla de compilar una FFmpeg estática en OSX y Linux con códecs no gratuitos incluidos.
Construye tu propio motor de inferencia LLM de alto rendimiento en C++ y CUDA - una versión más pequeña de vLLM
Framework de renderizado de alto rendimiento en arquitecturas de transmisión
CUDA Tile IR es una representación intermedia y una infraestructura de compilador basada en MLIR para la optimización de kernels CUDA, centrándose en patrones de computación basados en teselas y optimizaciones dirigidas a unidades de núcleo tensor de NVIDIA.
cuTile Rust proporciona un DSL seguro de programación de kernels basado en mosaicos para el lenguaje de programación Rust. Cuenta con una API segura del lado del host para pasar tensores a funciones de kernel ejecutadas de forma asíncrona.
RAFT contiene algoritmos y primitivos fundamentales y ampliamente utilizados para el aprendizaje automático y la recuperación de información. Los algoritmos están acelerados por CUDA y forman bloques de construcción para escribir aplicaciones de alto rendimiento de manera más sencilla.
Framework personalizable y multiplataforma para el procesamiento multimedia/de vídeo. Con una potente aceleración GPU, diseño heterogéneo, soporte multilingüe, facilidad de uso, compatibilidad con múltiples frameworks y alto rendimiento, el framework es ideal para transcodificación, inferencia de IA, integración de algoritmos, transmisión de video en vivo y más.
Biblioteca de machine learning con API de TypeScript y backend en Rust. Compatibilidad con CUDA y WebGPU. Construida para entender cómo funcionan internamente los frameworks y modelos de ML.
una implementación de Interpolación de Marcos de Video a través de Convolución Separable Adaptativa usando PyTorch
UniLab: Infraestructura basada en contratos para el aprendizaje robótico en distintos motores de física y hardware
cuDNN Frontend es el punto de entrada moderno y de código abierto de NVIDIA a la biblioteca cuDNN y a una creciente colección de kernels de código abierto de alto rendimiento.
Un DSL incrustado en Python que facilita la escritura de núcleos de ML rápidos y escalables con un código repetitivo mínimo.
Nodos de inferencia de aprendizaje profundo para ROS / ROS2 con soporte para NVIDIA Jetson y TensorRT
Entrenamiento rápido de campos de radiancia neuronal con trayectorias de cámara libres
Materiales de capacitación asociados con la Serie de Capacitación CUDA de NVIDIA (www.olcf.ornl.gov/cuda-training-series/)
BitCracker es la primera herramienta de cracking de contraseñas de código abierto para unidades de memoria encriptadas con BitLocker.
Ejemplos que demuestran las opciones disponibles para programar múltiples GPUs en un solo nodo o un clúster
Soluciones completas a Programación de Procesadores Masivamente Paralelos Edición 4
Objetivo: Habilitar herramientas impresionantes para los usuarios de Bazel de la familia de lenguajes C.
Un motor de aceleración de inferencia LLM altamente optimizado para Llama y sus variantes.