#llama 仓库
共 225 个仓库
⚡ 纯 Rust 编写的 WebGPU 推理引擎 — 兼容 OpenAI API,原生支持 GGUF,可在任何 GPU 上运行。无需 Python。无需 llama.cpp。单一二进制文件。
MedicalGPT: 使用ChatGPT训练流水线训练您自己的医疗GPT模型。训练医疗大模型,实现了包括增量预训练(PT)、有监督微调(SFT)、RLHF、DPO、ORPO、GRPO。
Chinese-Vicuna: A Chinese Instruction-following LLaMA-based Model —— 一个中文低资源的llama+lora方案,结构参考alpaca
一款原生的 macOS 应用,可让用户与本地 LLM 聊天,该 LLM 能够使用您 Mac 上的文件、文件夹和网站信息进行响应,无需安装任何其他软件。由 llama.cpp 提供支持。
InternGPT (iGPT) 是一个开源演示平台,您可以在其中轻松展示您的AI模型。现在它支持DragGAN、ChatGPT、ImageBind、类似GPT-4的多模态聊天、SAM、交互式图像编辑等。请在igpt.opengvlab.com进行体验(支持DragGAN、ChatGPT、ImageBind、SAM的在线Demo系统)。
AGiXT是一个动态的人工智能代理自动化平台,可跨不同的AI提供商无缝协调指令管理和复杂任务执行。AGiXT结合了自适应记忆、智能功能和多功能插件系统,可提供高效且全面的AI解决方案。
Maid 是一个免费且开源的应用程序,用于本地与 llama.cpp 模型互动,并与 Anthropic、DeepSeek、Ollama、Mistral 以及 OpenAI 模型进行远程交互。
Zotero 专业 AI 研究工具:与 PDF 对话、搜索整个文献库、文献雷达、自动驾驶。支持 30 多种大语言模型或本地模型;内置 MCP 服务器。在 iPhone 上随时与 Zotero 对话 → https://www.docsagent.app
构建、个性化和控制您自己的 LLM。从数据预处理到微调,xTuring 提供了一种轻松个性化开源 LLM 的方法。加入我们的 Discord 社区:https://discord.gg/TgHXuSJEk6
适用于开源大语言模型的 OpenAI 风格 API,使用 LLM 就像使用 ChatGPT 一样!支持 LLaMA, LLaMA-2, BLOOM, Falcon, Baichuan, Qwen, Xverse, SqlCoder, CodeLLaMA, ChatGLM, ChatGLM2, ChatGLM3 等。开源大模型的统一后端接口
一个响应迅速、以键盘为中心、用于与大型语言模型交互的终端用户界面。与 ChatGPT、Claude、Llama 3、Phi 3、Mistral、Gemma 等进行聊天。
ComfyUI中的LLM Agent框架包含MCP服务器、Omost、GPT-sovits、ChatTTS、GOT-OCR2.0和FLUX prompt节点,可访问Feishu、discord,并适应所有具有类似openai / aisuite接口的LLM,例如o1、ollama、gemini、grok、qwen、GLM、deepseek、kimi、doubao。适配了llama-3.3 Janus-Pro、Linkage GraphRAG等本地LLM、VLM、gguf。
适用于ONNX文件的轻量级推理库,用C++编写。它可以在RPI Zero 2(或298MB内存)上运行Stable Diffusion XL 1.0,也可以在台式机和服务器上运行Mistral 7B。支持ARM、x86、WASM、RISC-V。由XNNPACK加速。提供Python、C#和JS(WASM)绑定。