#cuda Repositórios
325 repositórios no total
Xolotl: execute o DeepSeek-V4.1-Flash, com todos os 552B parâmetros, como um agente local de programação em um único PC gamer (RTX 4090 + 110 GB de RAM): ~33 tok/s no modo agente, ~41 no modo rápido e contexto de 512K. Além disso, Inkling-2-Mini (Thinking Machines, mecanismo próprio + gerador de rascunhos MTP), GLM-5.3-Flash, Qwen3.8 e LFM3-Omni. Especialistas MoE distribuídos em camadas entre VRAM, RAM e NVMe (Xolotl Direct). API da OpenAI + Anthropic.
Uma coleção aberta de metodologias para auxiliar no treinamento bem-sucedido de grandes modelos de linguagem.
Poder computacional máximo, largura de banda da memória e latência de CPUs, GPUs e NPUs: os mesmos testes por meio de todas as APIs que acessam um dispositivo. Linha de comando e aplicativo para Windows, macOS, Linux e Android
uma reimplementação da Detecção de Bordas Holística e Aninhada (Holistically-Nested Edge Detection) em PyTorch
Companheiro de desktop com IA multimodal local para Windows, com percepção de tela e áudio.
Visualização de dados e ray tracing em Python baseado no framework OptiX 9.1.
Imagem Docker para Ubuntu Desktop que suporta aplicativos GUI acelerados por GPU HW. Você pode acessar o Contêiner com SSH ou desktop remoto, como uma VM em nuvem.
ppl.cv é uma biblioteca de processamento de imagem de alto desempenho do openPPL que suporta várias plataformas.
uma implementação de softmax splatting para warpagem direta diferenciável usando PyTorch
Vários métodos de otimização de multiplicação geral de matrizes de meia precisão (HGEMM) usando núcleo tensorial com a API WMMA e instrução MMA PTX.
Servidor de inferência de linguagem altamente otimizado de código aberto, local e auto-hospedado que suporta ASR/STT, TTS e LLM através de WebRTC, REST e WS
ManagedCUDA visa uma fácil integração do CUDA da NVidia em aplicações .NET escritas em C#, Visual Basic ou qualquer outra linguagem .NET.
Projeto de demonstração que mostra uma única base de código Rust sendo executada em CPUs e diretamente em GPUs
Página inicial dos exemplos em Python do cuQuantum e em C++ do NVIDIA cuQuantum SDK
Uma biblioteca de aceleração de hardware para criptografia computacionalmente intensiva :ice_cube:
Um sistema de inferência de alto desempenho para modelos de linguagem grandes, projetado para ambientes de produção.
🚀🚀🚀 Este repositório lista alguns projetos públicos incríveis de CUDA, cuda-python, cuBLAS, cuDNN, CUTLASS, TensorRT, TensorRT-LLM, Triton, TVM, MLIR, PTX e Computação de Alto Desempenho (HPC).
Tilus é uma linguagem de programação de kernels em nível de tile, com controle explícito sobre a memória compartilhada e os registradores.