#gpu-optimization Repositórios
Descubra 55 repositórios ativos de código aberto no GitHub marcados com #gpu-optimization, acumulando um total de 216,210 estrelas (uma média de 3,931 por projeto). O líder deste tópico é Dao-AILab/flash-attention, com 25,330 estrelas.
55 repositórios no total
gpt-oss-120b e gpt-oss-20b são dois modelos de linguagem de pesos abertos da OpenAI
Uma Extensão PyTorch: Ferramentas para treinamento fácil de precisão mista e distribuído em Pytorch
Implementação do modelo de linguagem LLaMA baseado no nanoGPT. Suporta flash attention, quantização Int8 e GPTQ de 4 bits, ajuste fino LoRA e LLaMA-Adapter, e pré-treinamento. Licenciado sob Apache 2.0.
Um algoritmo de paralelismo de pipeline bidirecional para sobreposição de computação-comunicação no treinamento do DeepSeek V3/R1.
📹 Uma estrutura mais flexível que pode gerar vídeos em qualquer resolução e criar vídeos a partir de imagens.
Código para o artigo da ICLR 2023 "GPTQ: Quantização Pós-Treinamento Precisa de Transformers Generativos Pré-treinados".
Código, laboratórios e recursos para O'Reilly AI Systems Performance Engineering: otimização de GPU, treinamento distribuído, escalonamento de inferência e ajuste full-stack.
Um projeto que demonstra soluções de IA relacionadas a Lidar, incluindo três redes de DL Lidar/câmera aceleradas por GPU (PointPillars, CenterPoint, BEVFusion) e as bibliotecas relacionadas (cuPCL, 3D SparseConvolution, YUV2RGB, cuOSD,).
NVIDIA DLSS é uma rede neural de aprendizado profundo nova e aprimorada que aumenta as taxas de quadros e gera imagens bonitas e nítidas para seus jogos
FB (Facebook) + GEMM (General Matrix-Matrix Multiplication) - https://code.fb.com/ml-applications/fbgemm/
Implementação oficial do artigo do SIGGRAPH 2024 "Uma Representação Gaussiana 3D Hierárquica para Renderização em Tempo Real de Conjuntos de Dados Muito Grandes"
CUDA Tile IR é uma representação intermediária e infraestrutura de compilador baseada em MLIR para otimização de kernels CUDA, focando em padrões de computação baseados em blocos (tiles) e otimizações direcionadas às unidades Tensor Core da NVIDIA.
Flash Attention em ~100 linhas de CUDA (apenas passagem para frente)
Checkpoint-engine é um middleware simples para atualizar os pesos do modelo em mecanismos de inferência de LLMs
Uma Atenção Distribuída para a Escalabilidade Linear em Contextos Ultralongos e Treinamento de Dados Heterogêneos
Exemplos demonstrando opções disponíveis para programar várias GPUs em um único nó ou em um cluster
Notebooks para a Especialização em Modelos de Linguagem Grandes (LLMs)
Super-Resolução de Vídeo em Streaming Baseada em Difusão em Tempo Real / Modelo de Super-Resolução de Vídeo em Streaming em Tempo Real Baseado na Arquitetura Diffusion
SDK de gráficos 3D multiplataforma C++. Inclui demonstrações e código auxiliar (carregamento de recursos, etc.) para acelerar o desenvolvimento de aplicativos Vulkan, OpenGL ES 2.0 e 3.x
JNeRF é um benchmark NeRF baseado em Jittor. JNeRF reimplementou o instant-ngp e alcançou o mesmo desempenho do artigo original.
Perguntas Frequentes
Qual é o repositório de #gpu-optimization mais popular no GitHub?
O projeto de código aberto de #gpu-optimization mais bem classificado no GitHub é Dao-AILab/flash-attention, com 25,330 estrelas. Atenção exata rápida e com eficiência de memória
Quais linguagens de programação são mais usadas nos repositórios de #gpu-optimization?
Entre os projetos de #gpu-optimization mais bem classificados no GitHub, as linguagens de programação mais comuns são Python, C++, Cuda, HTML.
Como é calculada a classificação dos repositórios de #gpu-optimization?
Acompanhamos 55 repositórios ativos de código aberto marcados com #gpu-optimization (com mais de 500 estrelas), totalizando 216,210 estrelas e uma média de 3,931 estrelas por repositório. As classificações são atualizadas diariamente a partir da API do GitHub.