#model-quantization 저장소
#model-quantization 태그가 지정된 GitHub의 활성 오픈 소스 저장소 59개를 확인해 보세요. 총 217,873개의 스타를 획득했으며 프로젝트당 평균 3,692개입니다. 이 주제를 이끄는 저장소는 41,224개의 스타를 받은 zai-org/ChatGLM-6B입니다.
저장소 총 59개
양자화, 증류, 가지치기(pruning), 신경 아키텍처 검색, 추론적 디코딩 등 SOTA 모델 최적화 기술을 통합한 라이브러리입니다. TensorRT-LLM, TensorRT, vLLM과 같은 다운스트림 배포 프레임워크를 위해 딥러닝 모델을 압축하여 추론 속도를 최적화합니다.
이것은 AI/LLM 대규모 모델 입문자를 위한 단계별 가이드로, 튜토리얼과 데모 코드를 포함합니다. API부터 로컬 대규모 모델 배포 및 미세 조정까지 안내하며, 코드 파일은 Kaggle 또는 Colab 온라인 버전을 제공하여 그래픽 카드 없이도 학습할 수 있습니다. 또한, 흥미로운 AI 스크립트를 실험해볼 수 있는 작은 코드 놀이터🎡도 마련되어 있습니다. 동시에, 이홍의 (HUNG-YI LEE) 2024년 생성형 AI 입문 강의의 전체 중국어 미러 버전 과제도 포함되어 있습니다.
모델 양자화에 관한 논문, 벤치마크, 서베이 및 도구를 엄선한 모음으로, 저비트 네트워크, LLM, 멀티모달 및 생성 모델, 벡터 및 격자 양자화, 효율적인 배포를 다룹니다.
Extreme Compression of Large Language Models via Additive Quantization https://arxiv.org/pdf/2401.06118.pdf 및 PV-Tuning: Beyond Straight-Through Estimation for Extreme LLM Compression https://arxiv.org/abs/2405.14852를 위한 공식 Pytorch 저장소
Cosmos-Reason1 모델은 물리적 상식을 이해하고, 긴 사고 연쇄 추론 과정을 통해 자연어로 적절한 구현된 결정을 생성합니다.
미세한 MoE 아키텍처를 기반으로 구축된 혁신적이고 오픈 소스인 LLM인 Tencent Hunyuan A13B(Hunyuan-A13B 약칭).
자주 묻는 질문
GitHub에서 가장 인기 있는 #model-quantization 저장소는 무엇인가요?
GitHub에서 가장 높은 순위의 오픈 소스 #model-quantization 프로젝트는 41,224개의 스타를 받은 zai-org/ChatGLM-6B입니다. ChatGLM-6B: 오픈 소스 이중 언어 대화 언어 모델 | 오픈 소스 이중 언어 대화 언어 모델
#model-quantization 저장소에서 가장 많이 사용되는 프로그래밍 언어는 무엇인가요?
GitHub에서 순위가 가장 높은 #model-quantization 프로젝트 중 가장 일반적으로 사용되는 프로그래밍 언어는 Python, Jupyter Notebook, C, Makefile입니다.
#model-quantization 저장소 순위는 어떻게 계산되나요?
#model-quantization 태그가 지정된 활성 오픈 소스 저장소(59개, 스타 500개 이상)를 추적하고 있습니다. 총 스타 수는 217,873개이며 저장소당 평균 3,692개입니다. 순위는 GitHub API를 통해 매일 업데이트됩니다.