#cuda 저장소
저장소 총 325개
https://wavespeed.ai/ NVIDIA GPU에서 HuggingFace Diffusers를 위한 최고의 추론 성능 최적화 프레임워크.
HF, vLLM, SGLang을 통해 Nvidia CUDA, AMD ROCm, Intel XPU, Tenstorrent, Huawei Ascend NPU 및 Intel/AMD/Apple CPU의 하드웨어 가속을 지원하는 LLM 모델 양자화(압축) 툴킷.
FFmpeg 빌드 스크립트는 비영리 코덱을 포함하여 OSX 및 Linux에서 정적 FFmpeg를 쉽게 빌드할 수 있는 방법을 제공합니다.
CUDA Tile IR은 CUDA 커널 최적화를 위한 MLIR 기반의 중간 표현 및 컴파일러 인프라로, 타일 기반 계산 패턴과 NVIDIA 텐서 코어 유닛을 대상으로 하는 최적화에 중점을 둡니다.
cuTile Rust는 Rust 프로그래밍 언어를 위한 안전한 타일 기반 커널 프로그래밍 DSL을 제공합니다. 비동기적으로 실행되는 커널 함수에 텐서를 전달하기 위한 안전한 호스트 측 API를 특징으로 합니다.
RAFT는 머신러닝과 정보 검색을 위한 기본적이고 널리 사용되는 알고리즘과 기본 요소를 포함합니다. 이 알고리즘들은 CUDA로 가속화되어 있으며, 고성능 애플리케이션을 더 쉽게 작성할 수 있는 빌딩 블록을 형성합니다.
크로스 플랫폼, 사용자 정의 가능한 멀티미디어/비디오 처리 프레임워크입니다. 강력한 GPU 가속, 이기종 설계, 다국어 지원, 사용 용이성, 멀티 프레임워크 호환성 및 고성능을 갖춘 이 프레임워크는 트랜스코딩, AI 추론, 알고리즘 통합, 실시간 비디오 스트리밍 등에 이상적입니다.
TypeScript API와 Rust 백엔드를 가진 머신러닝 라이브러리. CUDA 및 WebGPU 호환. ML 프레임워크와 모델의 내부 작동 방식을 이해하기 위해 제작.
cuDNN Frontend는 cuDNN 라이브러리에 대한 NVIDIA의 현대적인 오픈 소스 진입점이자 고성능 오픈 소스 커널의 증가하는 컬렉션입니다.
NVIDIA의 CUDA 교육 시리즈(www.olcf.ornl.gov/cuda-training-series/)와 관련된 훈련 자료