#llama 저장소
저장소 총 225개
TensorFlow를 사용하여 텍스트 전처리부터, Topic Models, BERT, GPT, LLM과 같은 최신 모델의 다운스트림 태스크들을 정리한 Deep Learning NLP 저장소입니다.
LLM 모델 기반 엔드 투 엔드 생성 AI 산업 프로젝트: Deployment_Awesome LLM 프로젝트
Continue 확장 프로그램과 함께 Visual Studio Code에서 Code Llama를 사용하세요. GitHub Copilot의 로컬 LLM 대안입니다.
Open Model Engine(OME) — LLM 서빙, GPU 스케줄링 및 모델 수명 주기 관리를 위한 Kubernetes 오퍼레이터입니다. SGLang, vLLM, TensorRT-LLM 및 Triton을 지원합니다
Ollama, ChatGPT, Gemini, Claude, Mistral 및 기타 AI를 사용하여 Git 및 Jujutsu용 커밋 메시지를 생성하는 반응형 CLI
RESTai는 오픈소스 AIaaS(AI as a Service) 플랫폼입니다. Ollama/vLLM 등에 의해 지원되는 많은 공공 및 로컬 LLM을 지원합니다. 정밀한 임베딩 사용, 튜닝, 분석 등. 동적 로딩 생성기를 사용한 내장 이미지/오디오 생성. 실시간 채팅 배포. 내장 블록 기반 그래픽 언어. 프롬프트 버전 관리 및 더 많은 기능...
오픈 소스, 로컬, 자체 호스팅 고도로 최적화된 언어 추론 서버로 WebRTC, REST, WS를 통해 ASR/STT, TTS, LLM 지원
🚀🚀🚀 이 저장소는 CUDA, cuda-python, cuBLAS, cuDNN, CUTLASS, TensorRT, TensorRT-LLM, Triton, TVM, MLIR, PTX 및 고성능 컴퓨팅(HPC)과 관련된 멋진 공개 프로젝트들을 나열합니다.