#llm 仓库
共 2,313 个仓库
🔥 Rankify: 一个用于检索、重排序和检索增强生成的综合性Python工具包🔥 。我们的工具包集成了40个预检索的基准数据集,并支持7+种检索技术、24+种最先进的重排序模型以及多种RAG方法。
企业级 AI 智能体 Agent 平台,覆盖智能对话、文档知识问答、联网搜索、RAG 检索、MCP 工具协议、Skills 扩展等完整能力。三层执行器体系、双通道混合检索、组合式切块引擎、会话记忆管理、全链路可观测,每个环节都经过深度设计和工程化打磨。
面向 GGUF 模型的原生 .NET 大语言模型推理引擎和智能体运行时。TensorSharp 提供控制台应用、基于 Web 的聊天机器人界面、iPhone 应用,以及兼容 Ollama/OpenAI 的 HTTP API,支持以编程方式访问。它支持 Windows、macOS、iOS 和 Linux,并具备完整的 GPU 能力。
✨为 Gemini 网页应用逆向工程开发的 API。可作为 OpenAI、Gemini 和 Claude 的真实 API 密钥使用。
面向 AI 编程代理的上下文压缩:在工具输出进入模型之前对其进行压缩,并将重复内容去重为 13 个 token 的引用。支持 Claude Code、Cursor、Codex、Kiro、Zed 以及任何 MCP 客户端。使用 Rust 编写,零次 LLM 调用。
用你自己的智能前行——编写 Go 应用,直接集成 llama.cpp,在 Linux、macOS、Windows 和 WebAssembly 上利用硬件加速进行本地推理。
OpenChatBI 是一款由大型语言模型驱动的智能基于聊天的 BI 工具,旨在帮助用户通过自然语言对话来查询、分析和可视化数据。它使用 LangGraph 和 LangChain 来构建聊天代理和工作流,支持将自然语言转换为 SQL 并进行数据分析。
在无法容纳 105 GB 模型的 Mac 上运行它。Qwen3.8-Flash-Next 4-bit,可从 SSD 流式加载,在配备 16–64 GB 内存的 Apple Silicon Mac 上运行。完全采用原生 Swift、MLX 和 Metal。离线运行,无需 Python。提供 CLI、Swift 库以及 Ollama/OpenAI/Anthropic API。兼容 Claude Code 和 Codex。
UTCP 的官方 Python 实现。UTCP 是一种开放标准,允许 AI 代理直接调用任何 API,无需额外的中间件。
适用于任何项目的 AI 驱动 README 和交互式 Wiki 生成工具。面向中文开源项目的 AI 驱动 README 及交互式 Wiki 生成工具 DeepWiki。
开源 AI 面试助手和会议副驾:在 Zoom、Google Meet 和 Teams 通话中实时提供答案,支持设备端转录,并可隐藏于屏幕共享画面之外。适用于 Windows、macOS 和 Linux,是 Cluely、Interview Coder 和 Final Round AI 的免费替代方案。
Flutter 端侧 AI——Gemma 及其他大型语言模型、多模态、函数调用、嵌入、RAG 和语音,支持 Android、iOS、Web、macOS、Windows 和 Linux。
提供源代码的 LLM 路由器和 AI 成本优化器。自动将简单提示路由到廉价或本地模型,将复杂提示路由到高级模型。可直接替换使用的 OpenAI 兼容代理,适用于 Claude Code、Codex、Cursor 和 OpenClaw。支持自托管,无中间商。
适用于 Dart 和 Flutter 的非官方 OpenAI SDK。完整的 API 覆盖 + 兼容 OpenAI 的提供商(Azure、DeepSeek、LM Studio、Ollama):Responses、Chat、Realtime、Videos、Batch、Fine-tuning。
llama-cpp-agent 框架是一款专为方便与大型语言模型 (LLM) 交互而设计的工具。它允许用户与 LLM 模型进行聊天,执行结构化函数调用并获得结构化输出。也适用于未经 JSON 输出和函数调用微调的模型。
斯坦福 Stanford CS329Z Engineering AI Agents 中文教程:面向 Python 开发者的 AI 智能体课程,包含 19 讲与 4 项实践,涵盖 LLM、RAG、工具调用、记忆、多智能体、评测与安全。提供完整 Markdown、在线与离线 HTML。中文课程笔记。
面向 AI 秋招的中英双语 ML / LLM / diffusion / agent 面试速查表——由 ARIS /interview-cheatsheet 生成,通过 /render-html 渲染为可随处阅读的单文件 HTML——另有经 CV→DBLP 事实核查的学术主页生成器,以及亲自撰写的长篇博客 🌱
减少 Claude Code 在会话开始时加载的 token。这个 CLI 会创建一个精简的 CLAUDE.md,按需提供文档、测量启动时的 token 数量,并将其控制在较低水平。