#cuda リポジトリ
リポジトリ合計325件
Xolotl:DeepSeek-V4.1-Flashを552Bパラメータすべてで、1台のゲーミングPC(RTX 4090 + RAM 110 GB)上のローカルコーディングエージェントとして実行。エージェント時は約33 tok/s、高速モードでは約41 tok/s、コンテキスト長は512K。さらに、Inkling-2-Mini(Thinking Machines独自エンジン + MTPドラフター)、GLM-5.3-Flash、Qwen3.8、LFM3-Omniにも対応。MoEエキスパートをVRAM、RAM、NVMeに階層的に配置(Xolotl Direct)。OpenAI + Anthropic API。
CPU、GPU、NPU のピーク演算性能、メモリ帯域幅、レイテンシ:デバイスにアクセスするすべての API を通じて同じテストを実行。Windows、macOS、Linux、Android 向けのコマンドラインツールとアプリ
Ubuntu Desktop用のDockerイメージで、HW GPUアクセラレーションをサポートしたGUIアプリに対応。sshまたはリモートデスクトップでコンテナにアクセス可能、Cloud VMのように。
オープンソース、ローカル、セルフホストの高性能最適化言語推論サーバー。WebRTC、REST、WS経由でASR/STT、TTS、LLMをサポート
ManagedCUDAは、C#、Visual Basic、またはその他の.NET言語で書かれた.NETアプリケーションへのNVidiaのCUDAの簡単な統合を目指しています。
🚀🚀🚀 このリポジトリは、CUDA、cuda-python、cuBLAS、cuDNN、CUTLASS、TensorRT、TensorRT-LLM、Triton、TVM、MLIR、PTX、およびハイパフォーマンスコンピューティング (HPC) に関する素晴らしい公開プロジェクトをリストアップしています。