#cuda Dépôts
325 dépôts au total
La plateforme CUDA de NVIDIA pour Rust. Des crates d’exécution côté hôte, ainsi que les modèles de programmation de kernels Tile (cutile-rs) et SIMT (cuda-oxide), en Rust idiomatique.
Un compilateur et kit d'outils d'exécution pour l'apprentissage automatique basé sur MLIR et retargetable.
[ICLR2025, ICML2025, NeurIPS2025 Spotlight] L'attention quantifiée (Quantized Attention) atteint une accélération de 2 à 5 fois par rapport à FlashAttention, sans perte de métriques de bout en bout sur les modèles de langage, d'image et de vidéo.
Logiciel NVR et vision par ordinateur IA auto-hébergé, uniquement local. Avec des fonctionnalités telles que la détection d'objets, la détection de mouvement, la reconnaissance faciale et plus encore, il vous donne le pouvoir de surveiller votre maison, votre bureau ou tout autre endroit que vous souhaitez surveiller.
Une bibliothèque pour accélérer les modèles Transformer sur les GPU NVIDIA, y compris l'utilisation de la précision flottante 8 bits et 4 bits (FP8 et FP4) sur les GPU Hopper, Ada et Blackwell, afin d'offrir de meilleures performances avec une utilisation de mémoire réduite en entraînement et en inférence.
Fondamentaux de l'IA - architecture GPU, programmation CUDA, bases des grands modèles et connaissances liées aux agents IA.
LYGIA, est une bibliothèque de shaders granulaire et multilingue (GLSL, HLSL, Metal, WGSL, WEGL et CUDA) conçue pour la performance et la flexibilité
Moteur d'échecs à réseau de neurones open source avec accélération GPU et large support matériel.
Jittor est un framework d'apprentissage profond haute performance basé sur la compilation JIT et les méta-opérateurs.
Exécutez GLM-5.3 (744B), DeepSeek-V4.1-Flash (748B), MiniMax-M3.1-Flash (428B), GLM-5.3-Flash (321B) et Hy4-Flash (220B) sur vos propres GPU — à partir de 8 Go de VRAM, avec prise en charge de NVIDIA et AMD, un tableau de bord unique et une API compatible avec OpenAI et Anthropic.
RamaLama est un outil de développement open-source qui simplifie la mise à disposition locale de modèles d'IA provenant de n'importe quelle source et facilite leur utilisation pour l'inférence en production, le tout grâce au langage familier des conteneurs.
Minkowski Engine est une bibliothèque de réseaux de neurones avec auto-différenciation pour les tenseurs clairsemés de haute dimension
:boom::computer::boom: Un langage de programmation fonctionnel parallèle aux données
Exécutez rapidement de grands modèles Qwen sur les GPU que vous possédez réellement. Qwen3.8-27B sur une seule carte de 24 Go avec vLLM : 127 tok/s pour un seul utilisateur (381 lorsque la réponse cite le prompt), environ 1 035 tok/s avec 64 requêtes simultanées, et un contexte de 150k à 262k. Correctifs vLLM, pipeline de re-quantification et benchmarks.
CV-CUDA™ est une bibliothèque open-source accélérée par GPU pour le traitement d'images à l'échelle du cloud et la vision par ordinateur.
Projets de vision par ordinateur | Projets d'IA amusants liés à la vision par ordinateur (Python, C++, systèmes embarqués)
Entraîneur de Gaussian Splatting 3D multi-fournisseurs : de la vidéo aux splats, puis au maillage, avec Vulkan ou CUDA.
LUPINE est un pont GPU sur IP permettant d'attacher des GPU de machines distantes à des machines sans GPU.
Générateur local de chansons par IA avec partition modifiable — YuE2 sur votre GPU : chansons complètes avec voix, partitions, reprises et lecture exacte. Application native Windows, sans Python, avec installateur et mises à jour automatiques.
Apache Mahout - un environnement pour créer rapidement des applications d'apprentissage automatique évolutives et performantes.
Cours officiel SGLang x Datawhale sur l’inférence des LLM : comprenez l’inférence, construisez un mini-SGLang depuis zéro, puis lisez le véritable code source de SGLang et soumettez votre première PR. Disponible en anglais et en chinois.
De nombreuses études ont montré que les performances en apprentissage profond sont considérablement affectées par le volume des données d'entraînement. Le projet MedicalNet fournit une série de modèles pré-entraînés 3D-ResNet et le code relatif.
label-smooth, amsoftmax, partial-fc, focal-loss, triplet-loss, lovasz-softmax. Peut-être utile
Code pour le document ICLR 2023 "GPTQ: Accurate Post-training Quantization of Generative Pretrained Transformers".
Collection organisée par NVIDIA de ressources éducatives relatives à la programmation GPU à usage général.
Traduisez des shaders GPU et des noyaux de calcul entre GLSL, HLSL, Metal, SPIR-V, Slang, CUDA et HIP, ainsi que vers WGSL, grâce à l’IR CrossGL
Exécutez des modèles d'IA localement sur votre machine avec des liaisons Node.js pour llama.cpp. Appliquez un schéma JSON à la sortie du modèle au niveau de la génération.
Un package d'apprentissage profond pour la représentation de l'énergie potentielle à plusieurs corps et la dynamique moléculaire