#cuda リポジトリ
リポジトリ合計325件
Claude CodeやあらゆるMCPクライアントで使える、ローカルAIによるBGMと効果音。Apple Silicon(MLX)およびWindowsのNVIDIA GPU(PyTorch)でStable Audio 3を実行。クラウド不要、APIキー不要。
Windows、Linux、macOS、Google TV、Stremio、Home Assistant などを簡単に設定するためのアプリとガイド(WSL2、GPU ドライバーおよび開発ツールを含む)。UX と生産性を向上させます。
GGUFモデル向けのネイティブ.NET LLM推論エンジンおよびエージェントランタイムです。TensorSharpは、コンソールアプリケーション、Webベースのチャットボットインターフェース、iPhoneアプリ、そしてプログラムからアクセス可能なOllama/OpenAI互換HTTP APIを提供します。Windows、macOS、iOS、Linuxをサポートし、GPUの機能を完全に活用できます。
自分自身の知能で進もう——llama.cppを直接統合し、Linux、macOS、Windows、WebAssembly上でハードウェアアクセラレーションを利用したローカル推論を行うGoアプリケーションを開発しましょう。
🚀 200倍速!AI時代のダウンロードツール | Docker/PyPI/HuggingFace/CRANの全加速 | 並列分割+スマートキャッシュで、ダウンロードを飛ばせる.
nvCOMPのドキュメントと例のリポジトリ。nvCOMPは、GPUでの高速ロスレス圧縮/解凍のためのライブラリであり、https://developer.nvidia.com/nvcompからダウンロードできます。
[CVPR 2024 Highlight] Feature 3DGS: 蒸留特徴フィールドを可能にするための3Dガウススプラッティングの強化
NVIDIA NVSHMEM は、OpenSHMEM に基づく NVIDIA GPU 用の並列プログラミングインターフェースです。NVSHMEM は、プログラマーが CUDA カーネル内および CUDA ストリーム上で片側通信を実行できるようにすることで、多プロセス通信および調整のオーバーヘッドを大幅に削減できます。
Linux上でNVIDIA GPUのVRAMをスワップ領域として使用します。メモリがはんだ付けされていてアップグレードできないノートパソコン向けに作られています。8GBのVRAMを搭載したRTXカードがあり、SSDにスワップしている場合、このツールがそのVRAMを活用します。
校招、秋招、春招、インターンシップの優良プロジェクト、ゼロからLlama2/3とQwen2.5をサポートする大規模モデル推論フレームワークの実装をお手伝いします。
RTX PRO 6000 / RTX 5090(sm_120)で動作する最先端MoEモデル:4基のRTX PRO 6000でのDeepSeek-V4.1-Flash、4基のRTX 5090でのGPU+CPUハイブリッド構成、およびvLLM v0.24.0での2ビットエキスパート
大規模な新ビューヌレーションのためのオンザフライ再構成の公式実装(無ポーズ画像からの合成)。A. Meuleman, I. Shah, A. Lanvin, B. Kerbl, G. Drettakis, ACM TOG (proc. SIGGRAPH) 2025
NVIDIA GPU上でStartLux-Decisionモデルを高速かつ正確に推論:公開されたGGUFファイルは、/v1/systemone API経由でint8および4ビットのTensor Core上で動作し、FP8ではvLLMより最大5.3倍低いレイテンシを実現し、回答はビット単位で完全に一致します。
教師からタイルへ — ゼロから構築したLLM蒸留&サービングエンジン:カスタムTriton/CUDAカーネル、FSDP蒸留、ページングKV連続バッチ処理、投機的デコード、Rustゲートウェイ、JAXオラクル、解釈可能性ツール。