#cuda 저장소
저장소 총 325개
Claude Code 및 모든 MCP 클라이언트에서 사용할 수 있는 로컬 AI 배경 음악과 효과음. Apple Silicon(MLX) 및 Windows NVIDIA GPU(PyTorch)에서 Stable Audio 3 실행. 클라우드와 API 키가 필요 없습니다.
Windows, Linux, macOS, Google TV, Stremio, Home Assistant 등을 쉽게 구성할 수 있는 앱과 가이드(WSL2, GPU 드라이버 및 개발 도구 포함). UX와 생산성을 향상시키세요.
GGUF 모델을 위한 네이티브 .NET LLM 추론 엔진이자 에이전트 런타임입니다. TensorSharp는 콘솔 애플리케이션, 웹 기반 챗봇 인터페이스, iPhone 앱, 그리고 프로그래밍 방식으로 사용할 수 있는 Ollama/OpenAI 호환 HTTP API를 제공합니다. Windows, macOS, iOS 및 Linux를 지원하며 GPU 기능을 완벽하게 활용할 수 있습니다.
자신만의 지능으로 나아가세요. llama.cpp를 직접 통합하여 Linux, macOS, Windows 및 WebAssembly에서 하드웨어 가속을 활용한 로컬 추론을 수행하는 Go 애플리케이션을 작성하세요.
🚀 200배 속도! AI 시대의 다운로드 도구 | Docker/PyPI/HuggingFace/CRAN 전체 가속화 | 병렬 분할 + 스마트 캐시, 다운로드를 날려라.
nvCOMP 문서 및 예제 리포지토리입니다. nvCOMP는 GPU에서 빠른 무손실 압축/압축 해제를 위한 라이브러리로, https://developer.nvidia.com/nvcomp에서 다운로드할 수 있습니다.
NVIDIA NVSHMEM은 OpenSHMEM을 기반으로 한 NVIDIA GPU용 병렬 프로그래밍 인터페이스입니다. NVSHMEM은 프로그래머가 CUDA 커널 내부 및 CUDA 스트림에서 일방향 통신을 수행할 수 있도록 하여 다중 프로세스 통신 및 조정 오버헤드를 크게 줄일 수 있습니다.
Linux에서 NVIDIA GPU의 VRAM을 스왑 공간으로 사용하세요. 메모리가 납땜되어 업그레이드가 불가능한 노트북을 위해 설계되었습니다. 8GB VRAM의 RTX 카드가 있고 SSD로 스왑이 발생하고 있다면, 이 도구가 VRAM을 활용하게 합니다.
학교 채용, 가을 채용, 봄 채용, 인턴십 좋은 프로젝트, 제로부터 Llama2/3와 Qwen2.5를 지원하는 대형 모델 추론 프레임워크를 직접 구현하도록 안내합니다.
RTX PRO 6000 / RTX 5090(sm_120)의 최첨단 MoE 모델: RTX PRO 6000 4개에서 실행하는 DeepSeek-V4.1-Flash, RTX 5090 4개에서의 GPU+CPU 하이브리드 구성, vLLM v0.24.0의 2비트 전문가 모델
무포즈 이미지에서 대규모 신규 뷰 합성을 위한 온더플라이 재구성의 공식 구현. A. Meuleman, I. Shah, A. Lanvin, B. Kerbl, G. Drettakis, ACM TOG (proc. SIGGRAPH) 2025
NVIDIA GPU에서 StartLux-Decision 모델을 빠르고 정확하게 추론하세요. 공개된 GGUF 파일은 /v1/systemone API를 통해 int8 및 4비트 텐서 코어에서 실행되며, FP8에서 vLLM보다 최대 5.3배 낮은 지연 시간을 제공하고 답변은 비트 단위로 동일합니다.
교사에서 타일까지 — 처음부터 구축한 LLM 증류 및 서빙 엔진: 맞춤형 Triton/CUDA 커널, FSDP 증류, 페이징 KV 연속 배치, 추측 디코딩, Rust 게이트웨이, JAX 오라클, 해석 가능성 도구.