#local-inference 저장소
#local-inference 태그가 지정된 GitHub의 활성 오픈 소스 저장소 19개를 확인해 보세요. 총 116,603개의 스타를 획득했으며 프로젝트당 평균 6,137개입니다. 이 주제를 이끄는 저장소는 47,736개의 스타를 받은 oobabooga/textgen입니다.
저장소 총 19개
로컬 LLM을 위한 오픈 소스 데스크톱 앱. 텍스트, 비전, 도구 호출, OpenAI/Anthropic 호환 API 지원. 100% 개인 정보 보호.
Mano-P: 엣지 디바이스용 오픈소스 GUI-VLA 에이전트. OSWorld에서 1위 (전문화, 58.2%). Apple M4 Mac mini/MacBook에서 로컬 실행 — 데이터가 기기 밖으로 나가지 않음. Mano-P는 오픈소스 GUI-VLA 프로젝트로, Mac mini/MacBook 또는 컴퓨트 스틱을 통해 로컬 추론을 지원하며, 순수 비전 기반의 크로스플랫폼 GUI 자동화 작업을 실현합니다. 데이터는 완전히 로컬에서 처리되며, 복잡한 다단계 작업 계획 및 실행을 지원합니다.
CORTEX RAG는 인용, 권한 인식 검색 및 빠른 배포를 통해 팀이 회사 데이터에서 정확한 답변을 찾을 수 있도록 지원하는 엔터프라이즈 검색 및 지식 어시스턴트입니다.
개방형 의사결정 모델을 위한 Jev 호환 API 서버. 의사결정 모델용 Ollama: 29개 모델 계열(Laya, pplx-decider, Clef, Winnow, coba 등)을 로컬에서 내려받아 실행하거나 /v1/systemone 뒤에서 직접 호스팅할 수 있습니다. TypeSafe SDK는 변경 없이 사용할 수 있습니다. 기본 URL을 설정하고 개방형 모델을 선택하세요. CLI, 데스크톱 앱, Docker, MCP 서버, 공개 벤치마크 제공.
Ollama(llama3, mistral, gemma2 phi3)를 사용한 Microsoft Graphrag용 로컬 모델 지원 – LLM 및 임베딩 추출
나만의 지능으로 나아가세요! Go를 사용하면 llama.cpp, whisper.cpp, stable-diffusion.cpp를 Go 애플리케이션에 직접 통합하여 하드웨어 가속 로컬 추론을 수행할 수 있습니다. Kronk는 고수준 API와 프로덕션 환경에 바로 사용할 수 있는 모델 서버를 제공합니다.
점박이물범 — Phocinae-Largha-150M-v1: 1억 4,430만 규모의 이중 언어 의사결정 모델. 작은 모델. 큰 결정. 작은 물범, 큰 결단.
자주 묻는 질문
GitHub에서 가장 인기 있는 #local-inference 저장소는 무엇인가요?
GitHub에서 가장 높은 순위의 오픈 소스 #local-inference 프로젝트는 47,736개의 스타를 받은 oobabooga/textgen입니다. 로컬 LLM을 위한 오픈 소스 데스크톱 앱. 텍스트, 비전, 도구 호출, OpenAI/Anthropic 호환 API 지원. 100% 개인 정보 보호.
#local-inference 저장소에서 가장 많이 사용되는 프로그래밍 언어는 무엇인가요?
GitHub에서 순위가 가장 높은 #local-inference 프로젝트 중 가장 일반적으로 사용되는 프로그래밍 언어는 Python, C++, TypeScript, Swift입니다.
#local-inference 저장소 순위는 어떻게 계산되나요?
#local-inference 태그가 지정된 활성 오픈 소스 저장소(19개, 스타 500개 이상)를 추적하고 있습니다. 총 스타 수는 116,603개이며 저장소당 평균 6,137개입니다. 순위는 GitHub API를 통해 매일 업데이트됩니다.