#cuda リポジトリ
リポジトリ合計325件
https://wavespeed.ai/ NVIDIA GPU上のHuggingFace Diffusersのための最高の推論パフォーマンス最適化フレームワーク。
HF、vLLM、SGLangを介して、Nvidia CUDA、AMD ROCm、Intel XPU、Tenstorrent、Huawei Ascend NPU、およびIntel/AMD/Apple CPUのハードウェアアクセラレーションに対応する、LLMモデルの量子化(圧縮)ツールキット。
FFmpeg ビルドスクリプトは、非フリーコーデックを含む静的FFmpegをOSXおよびLinuxで簡単にビルドする方法を提供します。
CUDA Tile IR は、CUDA カーネル最適化のための MLIR ベースの中間表現およびコンパイラインフラストラクチャであり、タイルベースの計算パターンと NVIDIA Tensor Core ユニットをターゲットとする最適化に焦点を当てています。
cuTile Rust は、Rust プログラミング言語向けの安全なタイルベースのカーネルプログラミング DSL を提供します。非同期に実行されるカーネル関数にテンソルを渡すための安全なホスト側 API を備えています。
RAFT は、機械学習および情報検索のための基本的な広く使用されているアルゴリズムとプリミティブを含みます。これらのアルゴリズムは CUDA で加速されており、高性能アプリケーションをより簡単に記述するためのビルディングブロックを形成します。
クロスプラットフォーム、カスタマイズ可能なマルチメディア/ビデオ処理フレームワーク。強力な GPU アクセラレーション、異種設計、多言語サポート、使いやすさ、マルチフレームワーク互換性、高性能により、このフレームワークは、トランスコーディング、AI 推論、アルゴリズム統合、ライブビデオストリーミングなどに最適です。
TypeScript APIとRustバックエンドを備えた機械学習ライブラリ。CUDAおよびWebGPU対応。MLフレームワークとモデルの内部動作を理解するために構築。
cuDNN Frontendは、cuDNNライブラリへのNVIDIAのモダンなオープンソース・エントリーポイントであり、高性能なオープンソース・カーネルの成長を続けるコレクションです。
NVIDIAのCUDAトレーニングシリーズ(www.olcf.ornl.gov/cuda-training-series/)に関連するトレーニング資料