Git Stars Git Stars

#llm-inference 저장소

202
총 리포지토리
1.0M
총 별점
5,180
리포지토리당 평균 스타 수
프로그래밍 언어: Python C++

저장소 총 202개

201
Chen-zexi/vllm-cli

vLLM을 사용하여 LLM을 서빙하기 위한 명령줄 인터페이스 도구.

Chen-zexi
⭐ 507 Python 👤 Chen-zexi User 🕐 업데이트됨 2026-01-25 📅 생성됨 2025-08-14
202
vectorch-ai/ScaleLLM

대규모 언어 모델을 위한 고성능 추론 시스템으로, 프로덕션 환경에 최적화하여 설계되었습니다.

vectorch-ai
⭐ 502 C++ 👤 vectorch-ai Organization 🕐 업데이트됨 2025-12-19 📅 생성됨 2023-07-24