#flash-attention 저장소
#flash-attention 태그가 지정된 GitHub의 활성 오픈 소스 저장소 48개를 확인해 보세요. 총 156,291개의 스타를 획득했으며 프로젝트당 평균 3,256개입니다. 이 주제를 이끄는 저장소는 24,180개의 스타를 받은 deepseek-ai/DeepSeek-OCR입니다.
저장소 총 48개
초보자를 위한 최신 CUDA 학습 노트를 담은 오픈 소스 도서 — BF16/FP8/FP4, HGEMM, CuTe, Flash-Attention 등.
중국어 LLaMA-2 & Alpaca-2 대규모 언어 모델 2단계 + 64K 초장문 컨텍스트 모델 (Chinese LLaMA-2 & Alpaca-2 LLMs with 64K long context models)
이것은 흥미롭고 최첨단 기술 개념과 원리를 설명하는 데 초점을 맞춘 간단한 기술科普 튜토리얼 프로젝트입니다. 각 기사는 5분 안에 읽기를 완료하도록 노력합니다.
📚Flash-Attention, Paged-Attention, WINT8/4, Parallelism 등 Awesome LLM/VLM 추론 논문 및 코드 모음집🎉
Qwen3-ASR는 알리바바 클라우드의 Qwen 팀이 개발한 오픈소스 ASR 모델 시리즈이며, 안정적인 다국어 음성/음악/노래 인식, 언어 감지 및 타임스탬프 예측을 지원합니다。
"Self Forcing: Bridging Training and Inference in Autoregressive Video Diffusion" (NeurIPS 2025 Spotlight)의 공식 코드베이스
Linux와 Windows에서 GitHub Actions를 사용하여 미리 빌드된 flash-attention 2 및 3 패키지 휠을 제공합니다
SoulX-FlashTalk은 8xH800 노드에서 실시간 처리량 32 FPS를 유지하면서 1초 미만 시작 지연(0.87s)을 달성한 최초의 14B 모델입니다.
cuDNN Frontend는 cuDNN 라이브러리에 대한 NVIDIA의 현대적인 오픈 소스 진입점이자 고성능 오픈 소스 커널의 증가하는 컬렉션입니다.
[ICML 2024 우수 논문상] 데이터 분포의 비율을 추정하는 이산 확산 모델링 (https://arxiv.org/abs/2310.16834)
WeDLM: 표준 인과적 어텐션과 네이티브 KV 캐시 호환성을 갖춘 가장 빠른 확산 언어 모델로, vLLM 최적화 기준선 대비 실제 속도 향상을 제공합니다.
교사에서 타일까지 — 처음부터 구축한 LLM 증류 및 서빙 엔진: 맞춤형 Triton/CUDA 커널, FSDP 증류, 페이징 KV 연속 배치, 추측 디코딩, Rust 게이트웨이, JAX 오라클, 해석 가능성 도구.
자주 묻는 질문
GitHub에서 가장 인기 있는 #flash-attention 저장소는 무엇인가요?
GitHub에서 가장 높은 순위의 오픈 소스 #flash-attention 프로젝트는 24,180개의 스타를 받은 deepseek-ai/DeepSeek-OCR입니다. 컨텍스트 광학 압축
#flash-attention 저장소에서 가장 많이 사용되는 프로그래밍 언어는 무엇인가요?
GitHub에서 순위가 가장 높은 #flash-attention 프로젝트 중 가장 일반적으로 사용되는 프로그래밍 언어는 Python, Cuda, TeX, C++입니다.
#flash-attention 저장소 순위는 어떻게 계산되나요?
#flash-attention 태그가 지정된 활성 오픈 소스 저장소(48개, 스타 500개 이상)를 추적하고 있습니다. 총 스타 수는 156,291개이며 저장소당 평균 3,256개입니다. 순위는 GitHub API를 통해 매일 업데이트됩니다.