Git Stars Git Stars

#llm 仓库

2,308
仓库总数
14.8M
总星标数
6,391
平均每个仓库星标数

共 2,314 个仓库

701
b4rtaz/distributed-llama

分布式LLM推理。将家用设备连接成强大的集群,以加速LLM推理。设备越多,推理越快。

b4rtaz
⭐ 3,141 C++ 👤 b4rtaz User 🕐 已更新 2026-11-17 📅 创建时间 2023-12-04
702
mw00/project-maya

在您自己的 GPU 上运行 GLM-5.3(744B)、DeepSeek-V4.1-Flash(748B)、MiniMax-M3.1-Flash(428B)、GLM-5.3-Flash(321B)和 Hy4-Flash(220B)——最低仅需 8 GB 显存,支持 NVIDIA 和 AMD,统一仪表板,并提供兼容 OpenAI 和 Anthropic 的 API。

mw00
⭐ 3,140 C++ 👤 mw00 User 🕐 已更新 2026-11-21 📅 创建时间 2026-10-06
703
itsdecodingai/second-brain-ai-assistant-course

学习如何使用 LLM、代理、RAG、微调、LLMOps 和 AI 系统技术构建您的 Second Brain AI 助手。

itsdecodingai
⭐ 3,138 Jupyter Notebook 👤 itsdecodingai Organization 🕐 已更新 2026-04-06 📅 创建时间 2024-12-30
704
LLMQuant/quant-mind

QuantMind 是一个面向智能体的开源量化金融知识提取与检索框架。

LLMQuant
⭐ 3,137 Python 👤 LLMQuant Organization 🕐 已更新 2026-08-15 📅 创建时间 2025-03-14
705
vllm-project/vllm-ascend

社区维护的华为昇腾 vLLM 硬件插件

vllm-project
⭐ 3,128 Python 👤 vllm-project Organization 🕐 已更新 2026-11-21 📅 创建时间 2025-01-29
706
containers/ramalama

RamaLama 是一款开源开发工具,可通过熟悉的容器语言,简化来自任何来源的 AI 模型在本地的部署,并促进其在生产环境中的推理使用。

containers
⭐ 3,116 Python 👤 containers Organization 🕐 已更新 2026-11-14 📅 创建时间 2024-07-24
707
ridgerchu/matmulfreellm

无矩阵乘法语言模型实现。

ridgerchu
⭐ 3,102 Python 👤 ridgerchu User 🕐 已更新 2026-09-06 📅 创建时间 2024-04-23
708
cheshire-cat-ai/core

AI代理微服务

cheshire-cat-ai
⭐ 3,095 Python 👤 cheshire-cat-ai Organization 🕐 已更新 2026-07-29 📅 创建时间 2023-02-08
709
openlake-project/openlake

OpenLake 是一个用于高效 LLM 推理和 GPU 训练的高性能存储引擎

openlake-project
⭐ 3,089 Rust 👤 openlake-project Organization 🕐 已更新 2026-11-19 📅 创建时间 2026-04-27
710
MemMachine/MemMachine

面向AI智能体的通用内存层。它提供可伸缩、可扩展和可互操作的内存存储和检索,以简化下一代自主系统的AI智能体状态管理。

MemMachine
⭐ 3,089 Python 👤 MemMachine Organization 🕐 已更新 2026-11-21 📅 创建时间 2025-08-15
711
run-llama/LlamaIndexTS

LLM 应用的数据框架。专注于服务器端解决方案。

run-llama
⭐ 3,081 TypeScript 👤 run-llama Organization 🕐 已更新 2026-03-11 📅 创建时间 2023-06-13
712
chrisryugj/kordoc

📄 让 AI 读取和撰写韩国公文。将 HWP、HWPX、PDF、Office 文档和扫描图像转换为 Markdown,也可将 Markdown 转回 HWPX 公文。支持填写表格、新旧版本对照以及保留格式编辑。提供库、CLI 和 MCP 服务器 | 面向 AI 的韩国文档处理:将 HWP、HWPX、PDF、Office 文档和扫描件转换为 Markdown,并将 Markdown 转回 HWPX。提供库、CLI 和 MCP 服务器。

chrisryugj
⭐ 3,079 TypeScript 👤 chrisryugj User 🕐 已更新 2026-11-21 📅 创建时间 2026-03-28
713
rafska/awesome-local-llm

一份精选的优秀平台、工具、实践和资源列表,有助于在本地运行大型语言模型(LLMs)

rafska
⭐ 3,079 👤 rafska User 🕐 已更新 2026-11-16 📅 创建时间 2025-06-03
714
MiniMax-AI/Mini-Agent

一个极简但专业的单智能体演示项目,展示了智能体的核心执行管道和生产级特性。

MiniMax-AI
⭐ 3,078 Python 👤 MiniMax-AI Organization 🕐 已更新 2026-02-14 📅 创建时间 2025-10-31
715
QiuYannnn/Local-File-Organizer

一个由 AI 驱动的文件管理工具,通过组织本地文本、图像来确保隐私。使用 Llama3.2 3B 和 Llava v1.6 模型及 Nexa SDK,它能够直观地扫描、重构和整理文件,实现快速、无缝的访问和轻松的检索。

QiuYannnn
⭐ 3,069 Python 👤 QiuYannnn User 🕐 已更新 2024-10-21 📅 创建时间 2024-09-21
716
Simon-He95/markstream-vue

适用于 AI 应用的多框架流式 Markdown 渲染器:Vue/Nuxt、React/Next.js、Octane、SolidJS、Svelte、Angular 和 Vue 2。支持 Mermaid、KaTeX、流式代码块、SSR 和虚拟化历史记录。

Simon-He95
⭐ 3,058 Vue 👤 Simon-He95 User 🕐 已更新 2026-11-21 📅 创建时间 2025-05-22
717
pinecone-io/examples

Jupyter Notebook,帮助您上手 Pinecone 向量数据库

pinecone-io
⭐ 3,047 Jupyter Notebook 👤 pinecone-io Organization 🕐 已更新 2026-10-23 📅 创建时间 2021-03-09
718
Pinvou/pinvou-agent

开源桌面AI代理,用于工具、文件、知识、工作流程和实际交付物。

Pinvou
⭐ 3,043 Rust 👤 Pinvou Organization 🕐 已更新 2026-11-21 📅 创建时间 2026-07-24
719
vercel-labs/opensrc

获取 npm 包的源代码,以便为 AI 编程代理提供更深入的上下文

vercel-labs
⭐ 3,040 Rust 👤 vercel-labs Organization 🕐 已更新 2026-09-16 📅 创建时间 2026-01-06
720
datawhalechina/diy-llm

涵盖预训练数据、分词器、Transformer、MoE、分布式训练、缩放定律、推理与对齐,6 项渐进式代码作业,掌握 LLM 全栈知识。

datawhalechina
⭐ 3,035 Jupyter Notebook 👤 datawhalechina Organization 🕐 已更新 2026-11-20 📅 创建时间 2025-11-24
721
zinja-coder/jadx-ai-mcp

用于集成MCP服务器的JADX插件

zinja-coder
⭐ 3,023 Java 👤 zinja-coder User 🕐 已更新 2026-10-19 📅 创建时间 2025-04-07
722
Dicklesworthstone/llm_aided_ocr

使用 LLM(本地或 API)增强 Tesseract OCR 输出,进行错误校正、智能分块以及扫描 PDF 的 Markdown 格式化

Dicklesworthstone
⭐ 3,012 Python 👤 Dicklesworthstone User 🕐 已更新 2026-11-01 📅 创建时间 2023-07-26
723
ElricLiu/AutoGPT-Next-Web

在您的浏览器中组装、配置和部署自主AI代理。一键免费部署你的私人AutoGPT网页应用

ElricLiu
⭐ 3,006 TypeScript 👤 ElricLiu User 🕐 已更新 2025-02-10 📅 创建时间 2023-04-15
724
thu-pacman/chitu

面向大型语言模型的高性能推理框架,专注于效率、灵活性和可用性。

thu-pacman
⭐ 3,005 Python 👤 thu-pacman Organization 🕐 已更新 2026-11-21 📅 创建时间 2025-02-20
725
Zleap-AI/SAG

RAG 的新 SOTA——一种用于人类和智能体的原创检索架构及开源知识库。

Zleap-AI
⭐ 3,004 Python 👤 Zleap-AI Organization 🕐 已更新 2026-11-13 📅 创建时间 2025-11-07
726
Alisa0808/vox-director

将一个主题转化为完成的Vox风格纸拼贴解说/广告视频——在Atlas Cloud + ffmpeg上全自动端到端完成。一项代理技能。

Alisa0808
⭐ 2,999 Python 👤 Alisa0808 User 🕐 已更新 2026-10-05 📅 创建时间 2026-07-10
727
codedogQBY/ReadAny

基于AI的跨平台电子书阅读器,具备语义搜索、RAG聊天、本地向量存储、笔记、TTS和WebDAV同步功能。

codedogQBY
⭐ 2,994 TypeScript 👤 codedogQBY User 🕐 已更新 2026-11-19 📅 创建时间 2026-02-25
728
sherlockchou86/VideoPipe

一个基于CV模型和mLLM的跨平台视频结构化(视频分析)框架。

sherlockchou86
⭐ 2,994 C++ 👤 sherlockchou86 User 🕐 已更新 2026-02-25 📅 创建时间 2022-08-26
729
NeptuneHub/AudioMuse-AI

AudioMuse-AI 利用声音分析技术重新发现被遗忘的歌曲,揭示音乐库中的隐藏联系,并为 Navidrome、Jellyfin、LMS、Lyrion、Emby 和 Plex 生成智能播放列表:无需元数据或外部服务。

NeptuneHub
⭐ 2,988 Python 👤 NeptuneHub User 🕐 已更新 2026-11-21 📅 创建时间 2025-05-24
730
michaelfeil/infinity

Infinity 是一个用于文本嵌入、重排模型、clip、clap 和 colpali 的高吞吐量、低延迟服务引擎

michaelfeil
⭐ 2,988 C++ 👤 michaelfeil User 🕐 已更新 2026-11-12 📅 创建时间 2023-10-11
731
ax-llm/ax

Typescript 几乎是 "官方" 的 DSPy 框架

ax-llm
⭐ 2,987 TypeScript 👤 ax-llm Organization 🕐 已更新 2026-11-20 📅 创建时间 2023-02-23
732
moltis-org/moltis

一个用Rust编写的安全持久化个人代理服务器。一个二进制文件,沙箱执行,多提供商LLM、语音、记忆、Telegram、WhatsApp、Discord、Teams和MCP工具。从设计上安全,运行在您的硬件上。

moltis-org
⭐ 2,978 Rust 👤 moltis-org Organization 🕐 已更新 2026-10-23 📅 创建时间 2026-01-29
733
ashishpatel26/LLM-Finetuning

使用 peft 进行 LLM 微调

ashishpatel26
⭐ 2,970 Jupyter Notebook 👤 ashishpatel26 User 🕐 已更新 2025-08-01 📅 创建时间 2023-06-08
734
OpenMind/OM1

用于机器人的模块化 AI HAL(硬件抽象层)

OpenMind
⭐ 2,967 Go 👤 OpenMind Organization 🕐 已更新 2026-11-12 📅 创建时间 2025-01-08
735
supabase-community/database-build

带AI辅助的浏览器内Postgres沙盒(原postgres.new)

supabase-community
⭐ 2,948 TypeScript 👤 supabase-community Organization 🕐 已更新 2026-06-03 📅 创建时间 2024-07-22
736
lightseekorg/tokenspeed

TokenSpeed 是光速的 LLM 推理引擎。

lightseekorg
⭐ 2,944 Python 👤 lightseekorg Organization 🕐 已更新 2026-11-21 📅 创建时间 2026-05-06
737
gmpetrov/databerry

用于构建自定义 LLM 智能体的无代码平台

gmpetrov
⭐ 2,942 👤 gmpetrov User 🕐 已更新 2024-06-17 📅 创建时间 2023-03-27
738
qingchencloud/clawpanel

🦞 OpenClaw & Hermes Agent 多引擎 AI 管理面板 — 内置 AI 助手(工具调用 + 图片识别 + 多模态),一键安装 | Tauri v2 跨平台桌面应用 | 11 种语言

qingchencloud
⭐ 2,936 JavaScript 👤 qingchencloud Organization 🕐 已更新 2026-11-18 📅 创建时间 2026-02-26
739
jeremylongshore/tons-of-skills-marketplace

与模型无关的智能体技能平台,提供无运行框架依赖的规范层、经过验证的适配器以及 ccpi 包管理器。欢迎访问 tonsofskills.com 探索。

jeremylongshore
⭐ 2,935 Python 👤 jeremylongshore User 🕐 已更新 2026-11-21 📅 创建时间 2025-10-10
740
InternLM/InternLM-XComposer

InternLM-XComposer2.5-OmniLive:一款用于长期流媒体音视频交互的综合性多模态系统

InternLM
⭐ 2,925 Python 👤 InternLM Organization 🕐 已更新 2025-05-26 📅 创建时间 2023-09-26
741
jnsahaj/lumen

美观的 Git diff 查看器,使用 AI 生成提交,获取更改摘要,所有操作均在 CLI 中完成

jnsahaj
⭐ 2,924 Rust 👤 jnsahaj User 🕐 已更新 2026-09-17 📅 创建时间 2024-10-28
742
n8n-io/nod

拥有专属电脑的开源个人智能代理。它会跟进发票、为你的通话做准备,还能在真实网站上取消试用,并且会先征求你的同意再采取行动。使用你选择的模型,在你的设备上运行。由 n8n 打造。

n8n-io
⭐ 2,920 TypeScript 👤 n8n-io Organization 🕐 已更新 2026-11-21 📅 创建时间 2026-09-25
743
sahibzada-allahyar/Formal-Verification-RSI

面向 AI 的形式化验证:一个基于 Lean 4 + Dafny 的证明检查器,可识别虚假的 AI 证明(奖励操纵),并为编程智能体实现经验证的递归式自我改进(RSI)。用于数学、物理和软件工程的 AI。

sahibzada-allahyar
⭐ 2,910 Python 👤 sahibzada-allahyar User 🕐 已更新 2026-10-22 📅 创建时间 2025-02-22
744
xzf-thu/VoiceMem

为下一代语音智能体打造的基础设施,旨在提供通用记忆。系统分为左脑和右脑,分别存储信息与情感;同时,完全流式的架构从根本上消除了延迟。

xzf-thu
⭐ 2,905 Python 👤 xzf-thu User 🕐 已更新 2026-09-14 📅 创建时间 2026-08-17
745
microsoft/genaiscript

可自动化的生成式AI脚本

microsoft
⭐ 2,897 TypeScript 👤 microsoft Organization 🕐 已更新 2026-05-21 📅 创建时间 2023-08-17
746
luo-junyu/Awesome-Agent-Papers

[最新] 大语言模型Agent:方法、应用与挑战综述

luo-junyu
⭐ 2,877 👤 luo-junyu User 🕐 已更新 2026-11-12 📅 创建时间 2025-03-21
747
Gentleman-Programming/gentle-shell

Gentle Shell 是一款原生适配 Pi 的 AI 辅助开发工作区,将并行编码智能体、实时任务、Git 差异、持久化记忆和权限控制整合到一个终端界面中。由 Gentle AI 和有机驱动开发(ODD)提供支持。

Gentleman-Programming
⭐ 2,864 TypeScript 👤 Gentleman-Programming Organization 🕐 已更新 2026-11-21 📅 创建时间 2026-05-10
748
jgravelle/jcodemunch-mcp

面向 AI 智能体的符号级代码检索:只获取你需要的函数,无需读取整个文件。在本地运行。在我们的 15 次检索基准测试中,平均每次检索比 grep-and-read 少用 96.2% 的 token。兼容 Claude Code、Cursor、Codex 和任何 MCP 客户端。非商业用途免费;商业用途需购买一次性许可证。

jgravelle
⭐ 2,856 Python 👤 jgravelle User 🕐 已更新 2026-11-21 📅 创建时间 2026-02-09
749
spcl/graph-of-thoughts

“图思维:用大语言模型解决复杂问题”的官方实现

spcl
⭐ 2,848 Python 👤 spcl Organization 🕐 已更新 2026-03-24 📅 创建时间 2023-08-18
750
icereed/paperless-gpt

使用LLMs和LLM Vision (OCR)处理paperless-ngx - 由AI驱动的文档数字化

icereed
⭐ 2,847 Go 👤 icereed User 🕐 已更新 2026-11-21 📅 创建时间 2024-09-23