#cuda Repositórios
325 repositórios no total
A plataforma CUDA da NVIDIA para Rust. Crates de runtime para o host, além dos modelos de programação de kernels Tile (cutile-rs) e SIMT (cuda-oxide) em Rust idiomático.
Um kit de ferramentas de compilação e tempo de execução de aprendizado de máquina baseado em MLIR, com capacidade de retargeting.
[ICLR2025, ICML2025, NeurIPS2025 Spotlight] O Quantized Attention (Atenção Quantizada) alcança uma aceleração de 2 a 5 vezes em comparação com o FlashAttention, sem perder métricas de ponta a ponta em modelos de linguagem, imagem e vídeo.
Software NVR e Visão Computacional com IA de hospedagem própria e somente local. Com recursos como detecção de objetos, detecção de movimento, reconhecimento facial e mais, ele lhe dá o poder de ficar de olho em sua casa, escritório ou qualquer outro lugar que você queira monitorar.
Uma biblioteca para acelerar modelos Transformer em GPUs NVIDIA, incluindo o uso de precisão de ponto flutuante de 8 bits e 4 bits (FP8 e FP4) em GPUs Hopper, Ada e Blackwell, para fornecer melhor desempenho com menor utilização de memória tanto no treinamento quanto na inferência.
Fundamentos de IA - arquitetura de GPU, programação CUDA, noções básicas de grandes modelos e conhecimentos relacionados a agentes de IA.
LYGIA é uma biblioteca de shaders granular e multi-linguagem (GLSL, HLSL, Metal, WGSL, WEGL e CUDA) projetada para desempenho e flexibilidade.
Motor de xadrez de rede neural de código aberto com aceleração de GPU e amplo suporte de hardware.
Jittor é um framework de aprendizado profundo de alto desempenho baseado em compilação JIT e meta-operadores.
Execute GLM-5.3 (744B), DeepSeek-V4.1-Flash (748B), MiniMax-M3.1-Flash (428B), GLM-5.3-Flash (321B) e Hy4-Flash (220B) nas suas próprias GPUs — a partir de 8 GB de VRAM, com suporte para NVIDIA e AMD, um único painel e uma API compatível com OpenAI e Anthropic.
RamaLama é uma ferramenta de desenvolvimento de código aberto que simplifica o fornecimento local de modelos de IA de qualquer fonte e facilita o seu uso para inferência em produção, tudo através da linguagem familiar dos contêineres.
Minkowski Engine é uma biblioteca de rede neural de autodiferenciação para tensores esparsos de alta dimensão
Execute modelos Qwen grandes rapidamente nas GPUs que você realmente possui. Qwen3.8-27B em uma única placa de 24 GB com vLLM: 127 tok/s para um único usuário (381 quando a resposta cita o prompt), cerca de 1.035 tok/s com 64 requisições simultâneas e contexto de 150k–262k. Patches do vLLM, pipeline de requantização e benchmarks.
CV-CUDA™ é uma biblioteca de código aberto, acelerada por GPU, para processamento de imagens e visão computacional em escala de nuvem.
projetos de visão computacional | Projetos de IA divertidos e interessantes relacionados à visão computacional (Python, C++, sistemas embarcados)
Treinador de Gaussian Splatting 3D compatível com diferentes fornecedores — de vídeo para splats e de splats para malha, com Vulkan ou CUDA.
Extensão de linguagem de computação de alto desempenho multiplataforma para Rust.
LUPINE é uma ponte GPU sobre IP que permite conectar GPUs de máquinas remotas a máquinas apenas com CPU.
Gerador local de músicas com IA e partitura editável — YuE2 na sua GPU: músicas completas com vocais, partituras, versões cover e reprodução exata. Aplicativo nativo para Windows, sem Python, com instalador e atualização automática.
Apache Mahout – um ambiente para criar rapidamente aplicações de aprendizado de máquina escaláveis e performáticas.
Curso oficial da SGLang x Datawhale sobre inferência de LLM: entenda a inferência, construa um mini-SGLang do zero, depois leia o código-fonte real do SGLang e faça seu primeiro PR. Disponível em inglês e chinês.
Muitos estudos demonstraram que o desempenho em aprendizado profundo é significativamente afetado pelo volume de dados de treinamento. O projeto MedicalNet fornece uma série de modelos pré-treinados 3D-ResNet e o código relativo.
label-smooth, amsoftmax, partial-fc, focal-loss, triplet-loss, lovasz-softmax. Talvez útil
Código para o artigo da ICLR 2023 "GPTQ: Quantização Pós-Treinamento Precisa de Transformers Generativos Pré-treinados".
Coleção de recursos educacionais selecionados pela NVIDIA relacionados à programação de GPU de uso geral.
Traduza shaders de GPU e kernels de computação entre GLSL, HLSL, Metal, SPIR-V, Slang, CUDA e HIP, e para WGSL, por meio da IR do CrossGL
Execute modelos de IA localmente na sua máquina com bindings para llama.cpp em node.js. Imponha um schema JSON na saída do modelo no nível de geração
Um pacote de aprendizado profundo para representação de energia potencial de muitos corpos e dinâmica molecular