#llm-optimization 저장소
#llm-optimization 태그가 지정된 GitHub의 활성 오픈 소스 저장소 18개를 확인해 보세요. 총 56,346개의 스타를 획득했으며 프로젝트당 평균 3,130개입니다. 이 주제를 이끄는 저장소는 11,898개의 스타를 받은 OpenBMB/MiniCPM입니다.
저장소 총 18개
양자화, 증류, 가지치기(pruning), 신경 아키텍처 검색, 추론적 디코딩 등 SOTA 모델 최적화 기술을 통합한 라이브러리입니다. TensorRT-LLM, TensorRT, vLLM과 같은 다운스트림 배포 프레임워크를 위해 딥러닝 모델을 압축하여 추론 속도를 최적화합니다.
Stanford CME 295 트랜스포머 및 대규모 언어 모델 VIP 치트 시트
100개 이상의 회사에서 제공하는 500개 이상의 실제 ML 및 LLM 시스템 설계 사례 연구 모음입니다. 최고의 기술 회사들이 프로덕션에서 GenAI를 구현하는 방법을 알아보세요.
🐳 "Native Sparse Attention: Hardware-Aligned and Natively Trainable Sparse Attention"에 대한 효율적인 Triton 구현
ICML 2023 논문 "SparseGPT: Massive Language Models Can Be Accurately Pruned in One-Shot"에 대한 코드입니다.
자주 묻는 질문
GitHub에서 가장 인기 있는 #llm-optimization 저장소는 무엇인가요?
GitHub에서 가장 높은 순위의 오픈 소스 #llm-optimization 프로젝트는 11,898개의 스타를 받은 OpenBMB/MiniCPM입니다. MiniCPM5: 온디바이스 최고 수준 LLM, 작지만 강력합니다.
#llm-optimization 저장소에서 가장 많이 사용되는 프로그래밍 언어는 무엇인가요?
GitHub에서 순위가 가장 높은 #llm-optimization 프로젝트 중 가장 일반적으로 사용되는 프로그래밍 언어는 Python, Jupyter Notebook, TypeScript, Swift입니다.
#llm-optimization 저장소 순위는 어떻게 계산되나요?
#llm-optimization 태그가 지정된 활성 오픈 소스 저장소(18개, 스타 500개 이상)를 추적하고 있습니다. 총 스타 수는 56,346개이며 저장소당 평균 3,130개입니다. 순위는 GitHub API를 통해 매일 업데이트됩니다.