Git Stars Git Stars

#local-llm 저장소

122
총 리포지토리
383,928
총 별점
3,146
리포지토리당 평균 스타 수

저장소 총 122개

101
travisvn/chatterbox-tts-api

Chatterbox를 사용한 로컬 OpenAI 호환 텍스트-투-스피치(TTS) API로, 사용자가 OpenAI API가 사용되는 어디서든 음성 클로닝 음성을 생성할 수 있도록 합니다(예: Open WebUI, AnythingLLM 등).

travisvn
⭐ 700 Python 👤 travisvn User 🕐 업데이트됨 2025-12-23 📅 생성됨 2025-05-31
102
gensyn-ai/codeassist

Gensyn이 개발한, 완전히 비공개적이며 로컬로 작동하는 AI 코딩 어시스턴트입니다. 프로그래밍 문제 연습을 돕고 코딩을 지원하는 새로운 어시스턴트를 훈련시킬 수 있습니다.

gensyn-ai
⭐ 699 Python 👤 gensyn-ai Organization 🕐 업데이트됨 2026-11-16 📅 생성됨 2025-10-31
103
codingmoh/open-codex

OpenAI Codex에서 영감을 받은 완전한 오픈 소스 명령줄 AI 어시스턴트로, 로컬 언어 모델을 지원합니다.

codingmoh
⭐ 696 Python 👤 codingmoh User 🕐 업데이트됨 2026-10-20 📅 생성됨 2025-03-29
104
carloslfu/slotstream

105GB 모델을 저장할 수 없는 Mac에서도 AI 모델을 실행하세요. 4비트 Qwen3.8-Flash-Next를 SSD에서 스트리밍해 메모리 16~64GB의 Apple Silicon Mac에서 구동합니다. Swift, MLX, Metal 기반의 완전 네이티브 구현입니다. 오프라인으로 작동하며 Python이 필요 없습니다. CLI, Swift 라이브러리, Ollama/OpenAI/Anthropic API를 제공합니다. Claude Code 및 Codex와 호환됩니다.

carloslfu
⭐ 674 Swift 👤 carloslfu User 🕐 업데이트됨 2026-11-17 📅 생성됨 2026-08-28
105
leonickson1/Swiftlet

Swiftlet은 Swift 및 Metal 런타임으로, 스토리지에서 전문가 가중치를 스트리밍하여 Apple 기기에서 대규모 Qwen Mixture-of-Experts 모델을 로컬로 실행합니다. 이를 통해 iPhone을 포함한 낮은 RAM 환경에서도 35B 및 80B 모델을 실행할 수 있습니다.

leonickson1
⭐ 667 Swift 👤 leonickson1 User 🕐 업데이트됨 2026-11-17 📅 생성됨 2026-08-03
106
Nehanth/pooled

브라우저에서의 P2P LLM 추론: 기기를 함께 묶어 대규모 오픈 모델을 실행하고, 채팅 및 코딩 에이전트에 활용하세요.

Nehanth
⭐ 658 JavaScript 👤 Nehanth User 🕐 업데이트됨 2026-11-03 📅 생성됨 2026-09-01
107
NightMean/OlliteRT

Android 휴대전화를 OpenAI 호환 LLM 추론 서버로 바꾸세요 - 완전한 로컬 환경, 비공개 및 오픈 소스

NightMean
⭐ 645 Kotlin 👤 NightMean User 🕐 업데이트됨 2026-11-07 📅 생성됨 2026-04-06
108
ServiceStack/llms

LLM 클라이언트, 서버 API 및 UI

ServiceStack
⭐ 631 JavaScript 👤 ServiceStack Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2025-09-23
109
runebookai/tome

LLM과 MCP를 *누구나* 쉽게 사용할 수 있게 해주는 마법 같은 LLM 데스크톱 클라이언트

runebookai
⭐ 630 Svelte 👤 runebookai Organization 🕐 업데이트됨 2025-10-20 📅 생성됨 2025-04-25
110
jaylfc/taOS

자체 호스팅 AI 에이전트 OS. 메모리, 채팅, 에이전트 및 파일은 사용자가 소유한 하드웨어에 저장되며, 기본적으로 오프라인 상태를 유지하고 필요 시 클라우드를 선택할 수 있습니다. 오프라인 AI 메모리(taOSmd), 자체 호스팅 멀티 프레임워크 그룹 채팅, 전체 웹 데스크톱 + 앱 스토어, 그리고 기존에 보유한 소비자용 하드웨어(Orange/Raspberry Pi, Mac mini, 게이밍 PC) 간의 자동 클러스터링 기능을 제공합니다.

jaylfc
⭐ 609 Python 👤 jaylfc User 🕐 업데이트됨 2026-11-20 📅 생성됨 2026-04-05
111
abacusai/abacusai-bot

메시징 앱, 도구 및 서비스를 위한 100% 무료 오픈 소스 개인 에이전트

abacusai
⭐ 601 TypeScript 👤 abacusai Organization 🕐 업데이트됨 2026-11-20 📅 생성됨 2026-09-11
112
heider-x/vela

소설 집필을 위한 AI 기반 IDE — 로컬 LLM + RAG, 개인정보 보호 우선, BYOK 지원. 웹 소설 작가 및 창작자를 위한 도구입니다.

heider-x
⭐ 593 TypeScript 👤 heider-x User 🕐 업데이트됨 2026-10-19 📅 생성됨 2026-04-21
113
vstorm-co/agenticos

회사의 AI 팀원을 위한 오픈 소스 셀프 호스팅 AI 에이전트 플랫폼입니다. 자체 서버와 모델에서 에이전트를 구축, 실행 및 거버넌스할 수 있습니다. 공유 채팅, RAG, 스킬, 실제 브라우저, 4,700개 이상의 MCP 서버, 예산, 승인 및 감사 추적 기능을 제공합니다. ChatGPT Enterprise와 Grok Bot의 대안입니다. Apache-2.0 라이선스를 따르며 Pydantic AI를 기반으로 구축되었습니다.

vstorm-co
⭐ 589 Python 👤 vstorm-co Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2026-07-31
114
aristoapp/awesome-second-brain

자기 진화하는 두 번째 뇌를 구축하기 위한 선별된 솔루션으로, AI 에이전트가 개인 및 팀 컨텍스트를 이해하도록 돕습니다.

aristoapp
⭐ 586 👤 aristoapp Organization 🕐 업데이트됨 2026-07-13 📅 생성됨 2026-01-12
115
DilawarShafiq/nietzschian-debugger

버그를 고쳐 주지 않습니다. 당신을 고쳐 줍니다. 답 대신 질문을 돌려주는 디버거.

DilawarShafiq
⭐ 562 Python 👤 DilawarShafiq User 🕐 업데이트됨 2026-10-27 📅 생성됨 2026-02-24
116
ibrahimcetin/reins

iPhone, iPad 및 Mac용 로컬 AI 채팅. Ollama, LM Studio 또는 OpenAI 호환 서버에 연결하거나 기기에서 MLX 모델을 실행할 수 있습니다. 도구와 웹 검색 기능도 포함되어 있습니다.

ibrahimcetin
⭐ 561 Dart 👤 ibrahimcetin User 🕐 업데이트됨 2026-10-14 📅 생성됨 2024-11-11
117
FrigadeHQ/hob

내 컴퓨터에서 AI를 더 쉽게 사용하는 방법. Claude와 ChatGPT를 대체하는 무료 오픈 소스 프로그램으로, Mac, Windows, Linux에서 Gemma와 gpt-oss 같은 오픈 웨이트 모델을 로컬로 실행합니다. 개인정보를 보호하며 오프라인에서도 작동합니다.

FrigadeHQ
⭐ 556 TypeScript 👤 FrigadeHQ Organization 🕐 업데이트됨 2026-10-30 📅 생성됨 2026-10-14
118
Indras-Mirror/Xolotl

Xolotl: DeepSeek-V4.1-Flash의 552B 파라미터 전체를 단 한 대의 게이밍 PC(RTX 4090 + RAM 110GB)에서 로컬 코딩 에이전트로 실행합니다. 에이전트 모드에서는 약 33 tok/s, 고속 모드에서는 약 41 tok/s이며, 512K 컨텍스트를 지원합니다. 또한 Inkling-2-Mini(Thinking Machines, 자체 엔진 + MTP 초안 작성기), GLM-5.3-Flash, Qwen3.8, LFM3-Omni도 지원합니다. MoE 전문가를 VRAM, RAM, NVMe에 계층적으로 배치합니다(Xolotl Direct). OpenAI + Anthropic API.

Indras-Mirror
⭐ 549 C++ 👤 Indras-Mirror User 🕐 업데이트됨 2026-11-21 📅 생성됨 2026-10-06
119
Yzw202011/OmniSpace

로컬 우선 풀스택 AI 창작 워크스테이션: AI 대화, AI 만화, 만화 드라마 제작, 글쓰기 공간, 지식 학습의 5개 모듈을 제공합니다. vLLM / llama.cpp / Transformers 멀티 엔진 로컬 추론, VRAM 지능형 스케줄링, 벌크헤드 격리 및 자동 복구를 지원합니다. 학습 목적으로만 사용해 주세요. 의견과 제안을 환영합니다. (플러그인 시스템을 제외한 최신 진행 사항은 프로토콜 제한으로 인해 현재 저장소에 커밋할 수 없습니다.)

Yzw202011
⭐ 536 Python 👤 Yzw202011 User 🕐 업데이트됨 2026-09-20 📅 생성됨 2026-08-23
120
mantisfury/ArkhamMirror

탐사 저널리즘을 위한 로컬 우선 AI 기반 문서 인텔리전스 플랫폼

mantisfury
⭐ 507 Python 👤 mantisfury User 🕐 업데이트됨 2026-01-25 📅 생성됨 2025-11-25
121
dineshsoudagar/local-llms-on-android

LiteRT와 ONNX Runtime을 사용해 Android에서 Gemma, Qwen, LLaMA와 같은 로컬 LLM을 실행하고, 오프라인에서 개인정보를 보호하며 실시간 채팅과 질문 답변을 이용하세요.

dineshsoudagar
⭐ 501 Kotlin 👤 dineshsoudagar User 🕐 업데이트됨 2026-11-21 📅 생성됨 2025-05-04
122
withcatai/catai

간단한 Node.js용 API로 AI ✨ 어시스턴트를 로컬에서 실행하세요! 🚀

withcatai
⭐ 500 TypeScript 👤 withcatai Organization 🕐 업데이트됨 2025-11-16 📅 생성됨 2023-03-25