#cuda Dépôts
325 dépôts au total
Xolotl : exécutez DeepSeek-V4.1-Flash, avec l’intégralité de ses 552B paramètres, comme agent de programmation local sur un seul PC gaming (RTX 4090 + 110 Go de RAM) : ~33 tok/s en mode agent, ~41 en mode rapide, avec un contexte de 512K. Également disponible : Inkling-2-Mini (Thinking Machines, moteur propriétaire + générateur d’ébauches MTP), GLM-5.3-Flash, Qwen3.8 et LFM3-Omni. Experts MoE répartis par niveaux entre la VRAM, la RAM et le NVMe (Xolotl Direct). API OpenAI + Anthropic.
Une collection ouverte de méthodologies pour aider à l'entraînement réussi de grands modèles de langage.
Puissance de calcul maximale, bande passante mémoire et latence des CPU, GPU et NPU : les mêmes tests via chaque API permettant d’accéder à un appareil. Ligne de commande et application pour Windows, macOS, Linux et Android
Compagnon de bureau IA multimodal local pour Windows, doté de la perception de l’écran et du son.
Visualisation de données et ray tracing en Python basé sur le framework OptiX 9.1.
Image Docker pour Ubuntu Desktop prenant en charge les applications GUI accélérées par GPU matériel. Vous pouvez accéder au conteneur via SSH ou bureau à distance, comme une VM cloud.
ppl.cv est une bibliothèque de traitement d'images haute performance d'openPPL prenant en charge diverses plates-formes.
une implémentation de softmax splatting pour le déformation avant différentiable à l'aide de PyTorch
Plusieurs méthodes d'optimisation de la multiplication générale de matrices en demi-précision (HGEMM) utilisant le cœur tensoriel avec l'API WMMA et l'instruction MMA PTX.
Serveur d'inférence linguistique hautement optimisé open source, local et auto-hébergé prenant en charge ASR/STT, TTS et LLM via WebRTC, REST et WS
ManagedCUDA vise une intégration facile de CUDA de NVidia dans les applications .NET écrites en C#, Visual Basic ou tout autre langage .NET.
Projet de démonstration montrant une même base de code Rust s’exécutant sur CPU et directement sur GPU
Une bibliothèque d'accélération matérielle pour la cryptographie à forte intensité de calcul :ice_cube:
Un système d'inférence haute performance pour les grands modèles de langage, conçu pour les environnements de production.
🚀🚀🚀 Ce dépôt répertorie quelques projets publics impressionnants liés à CUDA, cuda-python, cuBLAS, cuDNN, CUTLASS, TensorRT, TensorRT-LLM, Triton, TVM, MLIR, PTX et au calcul haute performance (HPC).
Tilus est un langage de programmation de kernels au niveau des tuiles, offrant un contrôle explicite de la mémoire partagée et des registres.