Git Stars Git Stars

#attention-mechanisms 저장소

#attention-mechanisms 태그가 지정된 GitHub의 활성 오픈 소스 저장소 39개를 확인해 보세요. 총 77,773개의 스타를 획득했으며 프로젝트당 평균 1,994개입니다. 이 주제를 이끄는 저장소는 7,858개의 스타를 받은 lucidrains/PaLM-rlhf-pytorch입니다.

39
총 리포지토리
77,773
총 별점
1,994
리포지토리당 평균 스타 수

저장소 총 39개

1
lucidrains/PaLM-rlhf-pytorch

PaLM 아키텍처 위에 RLHF(인간 피드백 기반 강화학습) 구현. 기본적으로 ChatGPT와 같지만 PaLM 사용

lucidrains
⭐ 7,858 Python 👤 lucidrains User 🕐 업데이트됨 2026-09-20 📅 생성됨 2022-12-09
2
lllyasviel/Omost

이미지가 거의 완성되었습니다!

lllyasviel
⭐ 7,661 Python 👤 lllyasviel User 🕐 업데이트됨 2024-07-26 📅 생성됨 2024-05-29
3
mit-han-lab/streaming-llm

[ICLR 2024] Attention Sink를 활용한 효율적인 스트리밍 언어 모델

mit-han-lab
⭐ 7,165 Python 👤 mit-han-lab Organization 🕐 업데이트됨 2024-07-11 📅 생성됨 2023-09-29
5
cmhungsteve/Awesome-Transformer-Attention

Vision Transformer/Attention에 대한 궁극적으로 포괄적인 논문 목록으로, 논문, 코드 및 관련 웹사이트 포함

cmhungsteve
⭐ 4,987 👤 cmhungsteve User 🕐 업데이트됨 2024-07-30 📅 생성됨 2021-09-15
6
fundamentalvision/Deformable-DETR

Deformable DETR: End-to-End 객체 탐지를 위한 변형 가능한 트랜스포머.

fundamentalvision
⭐ 3,846 Python 👤 fundamentalvision Organization 🕐 업데이트됨 2024-05-16 📅 생성됨 2020-11-30
7
Everlyn-Labs/Everlyn-1

최초의 개방형 자기회귀 기반 비디오 AI 모델.

Everlyn-Labs
⭐ 2,891 👤 Everlyn-Labs Organization 🕐 업데이트됨 2026-10-07 📅 생성됨 2024-10-13
8
MenghaoGuo/Awesome-Vision-Attentions

시각적 주의에 관한 관련 논문 요약. Jittor 기반 관련 코드가 점진적으로 공개될 예정입니다.

MenghaoGuo
⭐ 2,844 Python 👤 MenghaoGuo User 🕐 업데이트됨 2024-10-20 📅 생성됨 2021-09-01
9
lucidrains/audiolm-pytorch

Google Research의 오디오 생성 SOTA 언어 모델링 접근 방식인 AudioLM을 PyTorch로 구현

lucidrains
⭐ 2,620 Python 👤 lucidrains User 🕐 업데이트됨 2025-01-12 📅 생성됨 2022-09-09
10
heykeetae/Self-Attention-GAN

Self-Attention Generative Adversarial Networks (SAGAN)의 PyTorch 구현

heykeetae
⭐ 2,603 Python 👤 heykeetae User 🕐 업데이트됨 2024-04-22 📅 생성됨 2018-05-28
11
lucidrains/toolformer-pytorch

MetaAI의 툴포머(Toolformer) 구현: 도구를 사용할 수 있는 언어 모델

lucidrains
⭐ 2,055 Python 👤 lucidrains User 🕐 업데이트됨 2024-07-22 📅 생성됨 2023-02-10
12
lucidrains/make-a-video-pytorch

Meta AI의 새로운 SOTA 텍스트-비디오 생성기 Make-A-Video를 Pytorch로 구현

lucidrains
⭐ 1,983 Python 👤 lucidrains User 🕐 업데이트됨 2024-05-03 📅 생성됨 2022-09-29
13
lehaifeng/T-GCN

도시 교통 흐름 예측을 위한 시간적 그래프 컨볼루션 네트워크 방법

lehaifeng
⭐ 1,782 Jupyter Notebook 👤 lehaifeng User 🕐 업데이트됨 2025-09-01 📅 생성됨 2018-11-12
14
lucidrains/alphafold3-pytorch

Google Deepmind의 Alphafold 3를 Pytorch로 구현

lucidrains
⭐ 1,700 Python 👤 lucidrains User 🕐 업데이트됨 2026-08-10 📅 생성됨 2024-05-08
15
franciszzj/Leffa

[CVPR 2025] 제어 가능한 사람 이미지 생성을 위한 어텐션 내 흐름 필드 학습

franciszzj
⭐ 1,675 Python 👤 franciszzj User 🕐 업데이트됨 2025-09-12 📅 생성됨 2024-12-05
16
AIFengheshu/Plug-play-modules

2025년 전체 네트워크를 위한 최고의 플러그 앤 플레이 모듈, 무료 공유! CVPR2025, AAAI2025, ICLR2025, TNNLS2025, arXiv2025...... 기계 학습, 딥 러닝 등 인공지능 전 분야 포함, 이미지 분류, 객체 탐지, 인스턴스 분할, 의미 분할, 파놉틱 분할, 자세 추정, 의료 영상 분할, 비디오 객체 분할, 이미지 배경 제거, 이미지 편집, 단일 객체 추적, 다중 객체 추적, 보행자 재식별, RGBT, 이미지 노이즈 제거, 비 제거, 안개 제거, 그림자 제거, 흐림 제거, 초해상도, 반사 제거, 모아레 패턴 제거, 이미지 복원, 이미지 복구, 초분광 이미지 복원, 이미지 융합, 이미지 채색, HDR(High Dynamic Range) 이미징, 비디오 및 이미지 압축, 3D 포인트 클라우드, 3D 객체 탐지, 3D 의미 분할, 3D 자세 추정 등 다양한 컴퓨터 비전 및 이미지 처리 작업, 그리고 자연어 처리, 대규모 언어 모델, 멀티모달 등 기타 인공지능 관련 작업. 지속적으로 업데이트 중......

AIFengheshu
⭐ 1,547 Python 👤 AIFengheshu User 🕐 업데이트됨 2025-05-24 📅 생성됨 2024-10-09
17
XPixelGroup/HAT

CVPR2023 - 이미지 초해상도 트랜스포머에서 더 많은 픽셀 활성화 TPAMI - HAT: 이미지 복원을 위한 하이브리드 어텐션 트랜스포머

XPixelGroup
⭐ 1,455 Python 👤 XPixelGroup Organization 🕐 업데이트됨 2024-06-02 📅 생성됨 2022-04-27
18
facebookresearch/llm-transparency-tool

LLM Transparency Tool (LLM-TT)은 트랜스포머 기반 언어 모델의 내부 작동을 분석하기 위한 오픈 소스 대화형 툴킷입니다. *데모 보기:* https://huggingface.co/spaces/facebook/llm-transparency-tool-demo

facebookresearch
⭐ 1,228 Python 👤 facebookresearch Organization 🕐 업데이트됨 2024-12-03 📅 생성됨 2023-12-21
19
DAMO-NLP-SG/VideoLLaMA3

이미지 및 비디오 이해를 위한 프론티어 멀티모달 기반 모델

DAMO-NLP-SG
⭐ 1,174 Jupyter Notebook 👤 DAMO-NLP-SG Organization 🕐 업데이트됨 2025-08-14 📅 생성됨 2025-01-19
20
gpu-mode/awesomeMLSys

ML 시스템 온보딩 목록

gpu-mode
⭐ 1,154 👤 gpu-mode Organization 🕐 업데이트됨 2026-02-19 📅 생성됨 2024-05-06
21
zhuzilin/ring-flash-attention

플래시 어텐션을 사용한 링 어텐션 구현

zhuzilin
⭐ 1,054 Python 👤 zhuzilin User 🕐 업데이트됨 2025-09-10 📅 생성됨 2024-02-21
22
lucidrains/BS-RoFormer

ByteDance AI Labs의 음악 소스 분리를 위한 SOTA 어텐션 네트워크인 Band Split Roformer 구현

lucidrains
⭐ 1,030 Python 👤 lucidrains User 🕐 업데이트됨 2026-11-04 📅 생성됨 2023-09-09
23
microsoft/Samba

[ICLR 2025] Samba: 효율적인 무제한 컨텍스트 언어 모델링을 위한 간단한 하이브리드 상태 공간 모델

microsoft
⭐ 981 Python 👤 microsoft Organization 🕐 업데이트됨 2025-11-16 📅 생성됨 2024-06-05
24
daixiangzi/Awesome-Token-Compress

Vit 및 VLM에 대한 토큰 압축에 관한 일부 최근 작업 목록

daixiangzi
⭐ 966 👤 daixiangzi User 🕐 업데이트됨 2026-11-13 📅 생성됨 2024-09-06
25
lucidrains/muse-maskgit-pytorch

PyTorch의 Masked Generative Transformers를 통한 Muse 구현: 텍스트-이미지 생성

lucidrains
⭐ 920 Python 👤 lucidrains User 🕐 업데이트됨 2024-02-29 📅 생성됨 2023-01-03
26
lucidrains/meshgpt-pytorch

Pytorch에서 Attention을 이용한 SOTA 메시 생성을 위한 MeshGPT 구현

lucidrains
⭐ 858 Python 👤 lucidrains User 🕐 업데이트됨 2024-12-24 📅 생성됨 2023-11-29
27
mystorm16/FastVGGT

[ICLR 2026] FastVGGT: 빠른 시각 지오메트리 트랜스포머

mystorm16
⭐ 826 Python 👤 mystorm16 User 🕐 업데이트됨 2026-01-28 📅 생성됨 2025-09-01
28
lucidrains/phenaki-pytorch

Pytorch에서 최대 2분 길이의 텍스트 안내 동영상을 제작하기 위해 Mask GIT을 사용하는 Phenaki Video 구현

lucidrains
⭐ 792 Python 👤 lucidrains User 🕐 업데이트됨 2024-07-29 📅 생성됨 2022-09-29
29
D-Keqi/mtla

MTLA: Multi-head Temporal Latent Attention

D-Keqi
⭐ 761 Python 👤 D-Keqi User 🕐 업데이트됨 2025-10-06 📅 생성됨 2025-05-19
31
kyegomez/LongNet

"LongNet: Scaling Transformers to 1,000,000,000 Tokens"의 플러그인 및 플레이 어텐션 구현

kyegomez
⭐ 715 Python 👤 kyegomez User 🕐 업데이트됨 2024-01-07 📅 생성됨 2023-07-06
32
JulesBelveze/time-series-autoencoder

다변량 시계열을 위한 PyTorch 듀얼 어텐션 LSTM-오토인코더

JulesBelveze
⭐ 715 Python 👤 JulesBelveze User 🕐 업데이트됨 2025-11-11 📅 생성됨 2020-06-05
33
lucidrains/magvit2-pytorch

Pytorch에서 MagViT2 토크나이저 구현

lucidrains
⭐ 664 Python 👤 lucidrains User 🕐 업데이트됨 2025-01-12 📅 생성됨 2023-10-10
34
LeapLabTHU/Agent-Attention

Agent Attention (ECCV2024) 공식 저장소

LeapLabTHU
⭐ 657 Python 👤 LeapLabTHU User 🕐 업데이트됨 2024-11-17 📅 생성됨 2023-12-12
35
lucidrains/MEGABYTE-pytorch

PyTorch에서 멀티스케일 트랜스포머를 사용한 백만 바이트 시퀀스 예측, MEGABYTE 구현

lucidrains
⭐ 655 Python 👤 lucidrains User 🕐 업데이트됨 2024-12-27 📅 생성됨 2023-05-15
36
lucidrains/mmdit

Stable Diffusion 3에서 제안된 MMDiT의 단일 레이어를 Pytorch로 구현

lucidrains
⭐ 564 Python 👤 lucidrains User 🕐 업데이트됨 2026-01-18 📅 생성됨 2024-05-04
37
lucidrains/iTransformer

Tsinghua / Ant group의 Attention 네트워크를 이용한 SOTA 시계열 예측의 비공식 구현

lucidrains
⭐ 535 Python 👤 lucidrains User 🕐 업데이트됨 2025-06-12 📅 생성됨 2023-10-11
38
changzy00/pytorch-attention

🦖인기 있는 어텐션 메커니즘, 비전 트랜스포머, MLP 유사 모델 및 CNN의 Pytorch 구현.🔥🔥🔥

changzy00
⭐ 530 Python 👤 changzy00 User 🕐 업데이트됨 2024-01-11 📅 생성됨 2023-05-26
39
lucidrains/local-attention

언어 모델링을 위한 로컬 윈도우 어텐션 구현

lucidrains
⭐ 502 Python 👤 lucidrains User 🕐 업데이트됨 2025-07-16 📅 생성됨 2020-07-05

자주 묻는 질문

1

GitHub에서 가장 인기 있는 #attention-mechanisms 저장소는 무엇인가요?

GitHub에서 가장 높은 순위의 오픈 소스 #attention-mechanisms 프로젝트는 7,858개의 스타를 받은 lucidrains/PaLM-rlhf-pytorch입니다. PaLM 아키텍처 위에 RLHF(인간 피드백 기반 강화학습) 구현. 기본적으로 ChatGPT와 같지만 PaLM 사용

2

#attention-mechanisms 저장소에서 가장 많이 사용되는 프로그래밍 언어는 무엇인가요?

GitHub에서 순위가 가장 높은 #attention-mechanisms 프로젝트 중 가장 일반적으로 사용되는 프로그래밍 언어는 Python, Jupyter Notebook, TypeScript입니다.

3

#attention-mechanisms 저장소 순위는 어떻게 계산되나요?

#attention-mechanisms 태그가 지정된 활성 오픈 소스 저장소(39개, 스타 500개 이상)를 추적하고 있습니다. 총 스타 수는 77,773개이며 저장소당 평균 1,994개입니다. 순위는 GitHub API를 통해 매일 업데이트됩니다.