#cuda 저장소
저장소 총 325개
Rust를 위한 NVIDIA의 CUDA 플랫폼입니다. 호스트 런타임 크레이트와 함께 관용적인 Rust로 구현된 Tile(cutile-rs) 및 SIMT(cuda-oxide) 커널 프로그래밍 모델을 제공합니다.
[ICLR2025, ICML2025, NeurIPS2025 Spotlight] Quantized Attention은 FlashAttention에 비해 2~5배의 속도 향상을 달성했으며, 언어, 이미지, 비디오 모델 전반에 걸쳐 엔드 투 엔드(end-to-end) 지표 손실이 없습니다.
자체 호스팅, 로컬 전용 NVR 및 AI 컴퓨터 비전 소프트웨어입니다. 객체 감지, 모션 감지, 얼굴 인식 등과 같은 기능을 통해 집, 사무실 또는 모니터링하려는 기타 모든 장소를 주시할 수 있는 기능을 제공합니다.
Hopper, Ada 및 Blackwell GPU에서 8비트 및 4비트 부동 소수점(FP8 및 FP4) 정밀도를 사용하여 훈련 및 추론 모두에서 더 나은 성능과 낮은 메모리 사용량을 제공하기 위한 NVIDIA GPU용 Transformer 모델 가속화 라이브러리입니다.
LYGIA는 성능과 유연성을 위해 설계된 세분화되고 다국어(GLSL, HLSL, Metal, WGSL, WEGL 및 CUDA) 셰이더 라이브러리입니다.
GLM-5.3(744B), DeepSeek-V4.1-Flash(748B), MiniMax-M3.1-Flash(428B), GLM-5.3-Flash(321B), Hy4-Flash(220B)를 자체 GPU에서 실행하세요. 8GB VRAM부터 지원하며, NVIDIA와 AMD를 모두 사용할 수 있고, 하나의 대시보드와 OpenAI 및 Anthropic 호환 API를 제공합니다.
RamaLama는 모든 소스의 AI 모델을 로컬에서 제공하는 것을 단순화하고 컨테이너라는 친숙한 언어를 통해 프로덕션에서 추론에 사용하도록 지원하는 오픈 소스 개발 도구입니다.
실제로 보유한 GPU에서 대형 Qwen 모델을 빠르게 서빙하세요. vLLM을 사용해 24GB 카드 한 장에서 Qwen3.8-27B 실행: 단일 사용자 기준 127 tok/s(응답이 프롬프트를 인용할 때는 381 tok/s), 동시 요청 64개에서 약 1,035 tok/s, 150k~262k 컨텍스트. vLLM 패치, 재양자화 파이프라인, 벤치마크.
벤더 간 호환 3D 가우시안 스플래팅 트레이너 - 비디오에서 스플랫으로, 스플랫에서 메시로, Vulkan 또는 CUDA 지원.
편집 가능한 악보를 제공하는 로컬 AI 노래 생성기 — GPU에서 실행되는 YuE2: 보컬이 포함된 완곡, 악보, 커버를 만들고 정확하게 다시 재생할 수 있습니다. 네이티브 Windows 앱, Python 불필요, 자동 업데이트 설치 프로그램 제공.
LLM 추론에 관한 SGLang x Datawhale 공식 강좌: 추론을 이해하고, 처음부터 미니 SGLang을 구축한 다음, 실제 SGLang 소스 코드를 읽고 첫 PR을 제출해 보세요. 영어와 중국어로 제공됩니다.
많은 연구에서 딥러닝 성능이 훈련 데이터 양에 크게 영향을 받는다는 것이 밝혀졌습니다. MedicalNet 프로젝트는 일련의 3D-ResNet 사전 훈련 모델과 관련 코드를 제공합니다.
label-smooth, amsoftmax, partial-fc, focal-loss, triplet-loss, lovasz-softmax. 아마 유용할 거야
ICLR 2023 논문 "GPTQ: Accurate Post-training Quantization of Generative Pretrained Transformers"의 코드입니다.
CrossGL IR을 통해 GLSL, HLSL, Metal, SPIR-V, Slang, CUDA, HIP 간 GPU 셰이더와 컴퓨트 커널을 변환하고 WGSL로도 변환합니다
llama.cpp용 node.js 바인딩을 사용하여 로컬 컴퓨터에서 AI 모델을 실행합니다. 생성 수준에서 모델 출력에 JSON 스키마를 적용합니다.