#cuda 仓库
325
仓库总数
1.2M
总星标数
3,634
平均每个仓库星标数
共 325 个仓库
302
Indras-Mirror/Xolotl
Xolotl:在一台游戏 PC(RTX 4090 + 110 GB RAM)上,将完整的 552B 参数 DeepSeek-V4.1-Flash 作为本地编程代理运行:代理模式约 33 tok/s,快速模式约 41 tok/s,支持 512K 上下文。此外还有 Inkling-2-Mini(Thinking Machines,自有引擎 + MTP 草拟器)、GLM-5.3-Flash、Qwen3.8、LFM3-Omni。MoE 专家分层部署于 VRAM、RAM 和 NVMe 之间(Xolotl Direct)。支持 OpenAI + Anthropic API。
304
krrishnarraj/clpeak
CPU、GPU 和 NPU 的峰值算力、内存带宽与延迟:通过所有可访问设备的 API 运行相同的测试。支持 Windows、macOS、Linux 和 Android 的命令行工具与应用
311
gezp/docker-ubuntu-desktop
支持 HW GPU 加速 GUI 应用的 Ubuntu Desktop Docker 镜像。您可以通过 SSH 或远程桌面访问容器,就像云 VM 一样。
315
toverainc/willow-inference-server
开源、本地、自托管的高度优化的语言推理服务器,支持通过 WebRTC、REST 和 WS 的 ASR/STT、TTS 和 LLM
317
kunzmi/managedCuda
ManagedCUDA 旨在将 NVidia 的 CUDA 轻松集成到用 C#、Visual Basic 或任何其他 .net 语言编写的 .net 应用程序中。
323
coderonion/awesome-cuda-and-hpc
🚀🚀🚀 本仓库列出了一些出色的开源 CUDA、cuda-python、cuBLAS、cuDNN、CUTLASS、TensorRT、TensorRT-LLM、Triton、TVM、MLIR、PTX 以及高性能计算 (HPC) 项目。
⭐ 502
👤 coderonion User
🕐 已更新 2025-08-02
📅 创建时间 2023-02-23