#attention-mechanism 저장소
#attention-mechanism 태그가 지정된 GitHub의 활성 오픈 소스 저장소 50개를 확인해 보세요. 총 274,514개의 스타를 획득했으며 프로젝트당 평균 5,490개입니다. 이 주제를 이끄는 저장소는 108,745개의 스타를 받은 rasbt/LLMs-from-scratch입니다.
저장소 총 50개
PyTorch에서 단일 트랜스포머 인코더만으로 비전 분류에서 SOTA를 달성하는 간단한 방법인 Vision Transformer의 구현
RWKV(RwaKuv라고 발음)는 GPT 트랜스포머처럼 직접 훈련할 수 있는(병렬화 가능) 훌륭한 LLM 성능을 갖춘 RNN입니다. 저희는 RWKV-7 "Goose"에 있습니다. 따라서 RNN과 트랜스포머의 장점을 결합했습니다. 뛰어난 성능, 선형 시간, 일정 공간(kv-캐시 없음), 빠른 훈련, 무한한 ctx_len, 무료 문장 임베딩입니다.
Vision Transformer/Attention에 대한 궁극적으로 포괄적인 논문 목록으로, 논문, 코드 및 관련 웹사이트 포함
RuVector는 고성능 실시간 의사 결정과 에이전트 메모리, 자기 학습형 AI, 그리고 Rust로 구축된 벡터 GNN 데이터베이스를 제공합니다.
우리의 ECCV 2018 논문 "Image Super-Resolution Using Very Deep Residual Channel Attention Networks"의 PyTorch 코드
트랜스포머 네트워크, 어텐션 메커니즘, GPT, BERT, ChatGPT, LLM 및 전이 학습에 초점을 맞춘 NLP 자원의 큐레이션된 목록.
[NeurIPS2025 Oral] 대규모 언어 모델을 위한 게이티드 어텐션: 비선형성, 희소성, 그리고 어텐션 싱크 프리(Attention-Sink-Free) 공식 구현
yolo-high-level 프로젝트(detect\pose\classify\segment\) 기반: yolov5\yolov7\yolov8\ core, 개선 연구, SwinTransformerV2 및 Attention Series 포함. 훈련 기술, 비즈니스 맞춤화, 엔지니어링 배포 C
llama3 추론 단계를 단계별로 달성하고 핵심 개념을 파악하며 프로세스 유도를 마스터하고 코드를 구현합니다.
논문 "SAITS: Self-Attention 기반 시간 시계열 보간"의 공식 PyTorch 구현. 빠르고 최첨단(SOTA) 딥러닝 신경망 모델로, 효율적인 시간 시계열 보간(NaN 누락 데이터/값을 포함한 다변량 불완전 시간 시계열을 머신러닝으로 보간)에 사용됩니다. https://arxiv.org/abs/2202.08516
자주 묻는 질문
GitHub에서 가장 인기 있는 #attention-mechanism 저장소는 무엇인가요?
GitHub에서 가장 높은 순위의 오픈 소스 #attention-mechanism 프로젝트는 108,745개의 스타를 받은 rasbt/LLMs-from-scratch입니다. PyTorch에서 ChatGPT와 유사한 LLM을 처음부터 단계별로 구현하기
#attention-mechanism 저장소에서 가장 많이 사용되는 프로그래밍 언어는 무엇인가요?
GitHub에서 순위가 가장 높은 #attention-mechanism 프로젝트 중 가장 일반적으로 사용되는 프로그래밍 언어는 Python, Jupyter Notebook, Rust, Swift입니다.
#attention-mechanism 저장소 순위는 어떻게 계산되나요?
#attention-mechanism 태그가 지정된 활성 오픈 소스 저장소(50개, 스타 500개 이상)를 추적하고 있습니다. 총 스타 수는 274,514개이며 저장소당 평균 5,490개입니다. 순위는 GitHub API를 통해 매일 업데이트됩니다.