#llama 저장소
저장소 총 225개
⚡ 순수 Rust 기반 WebGPU 추론 엔진 — OpenAI API 호환, GGUF 네이티브 지원, 모든 GPU에서 실행 가능. Python 불필요. llama.cpp 불필요. 단일 바이너리.
MedicalGPT: ChatGPT Training Pipeline으로 자체 의료 GPT 모델 훈련. 증분 사전 훈련(PT), 지도 미세 조정(SFT), RLHF, DPO, ORPO, GRPO를 포함한 의료 대규모 모델 훈련.
AI 연구자들이 로컬 하드웨어에서 GPU 클러스터까지 모델을 매끄럽게 학습, 평가, 확장할 수 있는 오픈 소스 연구 환경.
H2O LLM Studio - LLM 미세 조정을 위한 프레임워크 및 노코드 GUI. 문서: https://docs.h2o.ai/h2o-llmstudio/
BenCao [원래 이름: HuaTuo (华驼)] 저장소, 중국 의학 지식을 사용한 대형 언어 모델 지시 조정. 본초(원래 이름: 화타오) 모델 저장소, 중국 의학 지식 기반 대형 언어 모델 지시 미세 조정
Python 기본만 있으면 0부터 대규모 언어 모델 구축; 0부터 GLM4\Llama3\RWKV6를 점진적으로 구축하고 대규모 모델의 원리를 깊이 이해합니다.
LightLLM은 경량 설계, 쉬운 확장성 및 고속 성능으로 주목받는 LLM(대규모 언어 모델) 추론 및 서빙을 위한 Python 기반 프레임워크입니다.
Chinese-Vicuna: 중국어 지시사항 준수 LLaMA 기반 모델 - 구조 참조 alpaca를 갖춘 중국어 저자원 llama+lora 방식
Mac에 다른 소프트웨어 설치 없이 파일, 폴더 및 웹사이트의 정보로 응답할 수 있는 로컬 LLM과 채팅할 수 있는 네이티브 macOS 앱입니다. llama.cpp로 구동됩니다.
InternGPT (iGPT)는 AI 모델을 쉽게 선보일 수 있는 오픈 소스 데모 플랫폼입니다. 현재 DragGAN, ChatGPT, ImageBind, GPT-4와 같은 멀티모달 채팅, SAM, 인터랙티브 이미지 편집 등을 지원합니다. igpt.opengvlab.com에서 체험해 보세요(DragGAN, ChatGPT, ImageBind, SAM 지원 온라인 데모 시스템).
AGiXT는 다양한 AI 공급자 간의 지침 관리 및 복잡한 작업 실행을 원활하게 조정하는 동적인 AI 에이전트 자동화 플랫폼입니다. 적응형 메모리, 스마트 기능 및 다목적 플러그인 시스템을 결합한 AGiXT는 효율적이고 포괄적인 AI 솔루션을 제공합니다.
LSP-AI는 AI 기반 기능을 위한 백엔드 역할을 하는 오픈 소스 언어 서버이며, 소프트웨어 엔지니어를 대체하는 것이 아니라 지원하고 역량을 강화하도록 설계되었습니다.
Chinese-LLaMA 1&2, Chinese-Falcon 기본 모델; ChatFlow 중국어 대화 모델; 중국어 OpenLLaMA 모델; NLP 사전 훈련/지시 미세 조정 데이터셋
Maid는 로컬에서 llama.cpp 모델과 상호작용하고 Anthropic, DeepSeek, Ollama, Mistral, OpenAI 모델과 원격으로 연결할 수 있는 무료 오픈 소스 애플리케이션입니다.
Zotero를 위한 전문 AI 연구 도구: PDF와 채팅하고, 전체 라이브러리를 검색하고, 문헌 레이더와 오토파일럿을 사용하세요. 30개 이상의 LLM 또는 로컬 모델 지원, MCP 서버 내장. iPhone에서 손안의 Zotero와 채팅 → https://www.docsagent.app
자신만의 LLM을 구축, 개인화 및 제어하세요. 데이터 사전 처리부터 미세 조정까지 xTuring은 오픈 소스 LLM을 개인화하는 쉬운 방법을 제공합니다. Discord 커뮤니티에 참여하세요: https://discord.gg/TgHXuSJEk6
쉬운 대규모 언어 모델(LLM), EasyLM은 JAX/Flax에서 LLM의 사전 학습, 미세 조정, 평가 및 서비스 제공을 위한 원스톱 솔루션입니다.
ChatGPT와 동일하게 LLM을 사용하는 OpenAI 스타일 API, LLaMA, LLaMA-2, BLOOM, Falcon, Baichuan, Qwen, Xverse, SqlCoder, CodeLLaMA, ChatGLM, ChatGLM2, ChatGLM3 등을 지원합니다. 오픈 소스 대형 언어 모델의 통합 백엔드 인터페이스
대규모 언어 모델과 상호 작용하기 위한 빠릿한 키보드 중심 터미널 사용자 인터페이스. ChatGPT, Claude, Llama 3, Phi 3, Mistral, Gemma 등과 채팅하세요.
ComfyUI의 LLM 에이전트 프레임워크는 MCP 서버, Omost, GPT-sovits, ChatTTS, GOT-OCR2.0 및 FLUX 프롬프트 노드를 포함하며, Feishu, discord에 액세스하고 o1, ollama, gemini, grok, qwen, GLM, deepseek, kimi, doubao와 같은 유사한 openai / aisuite 인터페이스를 가진 모든 LLM에 적응합니다. llama-3.3 Janus-Pro, Linkage GraphRAG와 같은 로컬 LLM, VLM, gguf에 적응되었습니다.
llama.cpp용 node.js 바인딩을 사용하여 로컬 컴퓨터에서 AI 모델을 실행합니다. 생성 수준에서 모델 출력에 JSON 스키마를 적용합니다.
FinGLM: "AI+금융"을 촉진하기 위해 오픈 소스와 개방성을 활용하여 개방적이고 공익적이며 지속 가능한 금융 대규모 모델 프로젝트 구축에 전념합니다.
C++로 작성된 ONNX 파일용 경량 추론 라이브러리입니다. RPI Zero 2 (또는 298MB RAM)에서 Stable Diffusion XL 1.0을 실행할 수 있을 뿐만 아니라 데스크톱 및 서버에서 Mistral 7B도 실행할 수 있습니다. ARM, x86, WASM, RISC-V를 지원합니다. XNNPACK으로 가속됩니다. Python, C# 및 JS(WASM) 바인딩을 사용할 수 있습니다.