Git Stars Git Stars

#llama 仓库

225
仓库总数
1.6M
总星标数
7,102
平均每个仓库星标数

共 225 个仓库

201
andrewkchan/yalm

另一个语言模型:C++/CUDA中的LLM推理,除I/O外无任何库

andrewkchan
⭐ 597 C++ 👤 andrewkchan User 🕐 已更新 2025-09-13 📅 创建时间 2024-10-02
202
ai-ng/swift

由 Groq、Cartesia 和 Vercel 提供支持的快速语音助手。

ai-ng
⭐ 590 TypeScript 👤 ai-ng Organization 🕐 已更新 2025-12-04 📅 创建时间 2024-05-19
203
FoundationVision/Groma

[ECCV2024] 具有局部化视觉标记的基础多模态大型语言模型

FoundationVision
⭐ 582 Python 👤 FoundationVision Organization 🕐 已更新 2024-06-07 📅 创建时间 2024-04-21
204
likenneth/honest_llama

推理时干预:从语言模型中引出真实答案

likenneth
⭐ 581 Python 👤 likenneth User 🕐 已更新 2025-01-28 📅 创建时间 2023-05-19
205
ukairia777/tensorflow-nlp-tutorial

一个使用TensorFlow整理文本预处理、主题模型、BERT、GPT、LLM等最新模型的下游任务的深度学习NLP仓库。

ukairia777
⭐ 580 Jupyter Notebook 👤 ukairia777 User 🕐 已更新 2026-06-05 📅 创建时间 2021-12-30
206
SeanLee97/AnglE

使用 AnglE 训练和推理强大的句子嵌入 | 🔥 STS 和 MTEB 排行榜 SOTA

SeanLee97
⭐ 576 Python 👤 SeanLee97 User 🕐 已更新 2026-03-22 📅 创建时间 2023-10-17
207
TsinghuaC3I/MARTI

[ICLR 2026] 基于大语言模型的多智能体强化训练与推理框架

TsinghuaC3I
⭐ 575 Python 👤 TsinghuaC3I Organization 🕐 已更新 2026-08-20 📅 创建时间 2025-05-10
208
ictnlp/LLaVA-Mini

LLaVA-Mini 是一个统一的大型多模态模型 (LMM),能够高效地支持图像、高分辨率图像和视频的理解。

ictnlp
⭐ 575 Python 👤 ictnlp Organization 🕐 已更新 2025-06-29 📅 创建时间 2025-01-07
209
GURPREETKAURJETHRA/END-TO-END-GENERATIVE-AI-PROJECTS

基于LLM模型的端到端生成式AI产业项目,包含Deployment_Awesome LLM Projects

GURPREETKAURJETHRA
⭐ 570 👤 GURPREETKAURJETHRA User 🕐 已更新 2025-01-24 📅 创建时间 2024-03-21
210
xNul/code-llama-for-vscode

将 Code Llama 与 Visual Studio Code 和 Continue 扩展程序结合使用。GitHub Copilot 的本地 LLM 替代方案。

xNul
⭐ 569 Python 👤 xNul User 🕐 已更新 2024-07-31 📅 创建时间 2023-08-25
211
kaarthik108/snowChat

Chat snowflake - Text to SQL

kaarthik108
⭐ 553 Python 👤 kaarthik108 User 🕐 已更新 2025-02-16 📅 创建时间 2023-04-10
212
Noeda/rllama

Rust+OpenCL+AVX2 实现的 LLaMA 推理代码

Noeda
⭐ 551 Rust 👤 Noeda User 🕐 已更新 2024-02-12 📅 创建时间 2023-03-11
213
kaito-project/aikit

🏗️ 轻松微调、构建和部署开源 LLM!

kaito-project
⭐ 545 Go 👤 kaito-project Organization 🕐 已更新 2026-11-16 📅 创建时间 2023-09-20
214
microsoft/sarathi-serve

用于大语言模型(LLM)的低延迟、高吞吐量服务引擎

microsoft
⭐ 539 Python 👤 microsoft Organization 🕐 已更新 2026-11-17 📅 创建时间 2023-11-02
215
DachengLi1/LongChat

LongChat 和 LongEval 官方仓库

DachengLi1
⭐ 533 Python 👤 DachengLi1 User 🕐 已更新 2024-05-24 📅 创建时间 2023-04-21
216
ome-projects/ome

Open Model Engine (OME) —— 用于大语言模型服务部署、GPU 调度和模型生命周期管理的 Kubernetes Operator。支持 SGLang、vLLM、TensorRT-LLM 和 Triton

ome-projects
⭐ 529 Go 👤 ome-projects Organization 🕐 已更新 2026-11-21 📅 创建时间 2025-05-19
217
nrl-ai/llama-assistant

由 Llama 3、DeepSeek R1 以及 HuggingFace 上的众多模型驱动的 AI 助手,可帮助您处理日常任务。

nrl-ai
⭐ 529 Python 👤 nrl-ai Organization 🕐 已更新 2025-12-06 📅 创建时间 2024-09-26
218
tak-bro/aicommit2

一个使用 Ollama、ChatGPT、Gemini、Claude、Mistral 和其他 AI 为 Git 和 Jujutsu 生成提交消息的响应式 CLI

tak-bro
⭐ 529 TypeScript 👤 tak-bro User 🕐 已更新 2026-10-28 📅 创建时间 2024-01-30
219
apocas/restai

RESTai 是一个开源的 AIaaS(人工智能即服务)平台。支持由 Ollama/vLLM 等支持的众多公共和本地 LLM。精确的嵌入使用、调优、分析等。内置图像/音频生成,支持动态加载生成器。实时聊天部署。内置基于块的图形语言。提示版本控制以及更多功能...

apocas
⭐ 520 Python 👤 apocas User 🕐 已更新 2026-11-13 📅 创建时间 2023-05-18
220
TencentARC/LLaMA-Pro

[ACL 2024] 渐进式LLaMA和块扩展。

TencentARC
⭐ 514 Python 👤 TencentARC Organization 🕐 已更新 2024-05-20 📅 创建时间 2024-01-02
221
princeton-nlp/LESS

[ICML 2024] LESS:为定向指令微调选择有影响力的数据

princeton-nlp
⭐ 511 Jupyter Notebook 👤 princeton-nlp Organization 🕐 已更新 2024-10-20 📅 创建时间 2024-01-24
222
toverainc/willow-inference-server

开源、本地、自托管的高度优化的语言推理服务器,支持通过 WebRTC、REST 和 WS 的 ASR/STT、TTS 和 LLM

toverainc
⭐ 511 Python 👤 toverainc Organization 🕐 已更新 2026-02-12 📅 创建时间 2023-02-03
223
DonTizi/ReMind

您设备上的本地人工智能记忆。

DonTizi
⭐ 507 TypeScript 👤 DonTizi User 🕐 已更新 2024-12-26 📅 创建时间 2024-05-22
224
vectorch-ai/ScaleLLM

一种针对大语言模型的高性能推理系统,专为生产环境设计。

vectorch-ai
⭐ 502 C++ 👤 vectorch-ai Organization 🕐 已更新 2025-12-19 📅 创建时间 2023-07-24
225
coderonion/awesome-cuda-and-hpc

🚀🚀🚀 本仓库列出了一些出色的开源 CUDA、cuda-python、cuBLAS、cuDNN、CUTLASS、TensorRT、TensorRT-LLM、Triton、TVM、MLIR、PTX 以及高性能计算 (HPC) 项目。

coderonion
⭐ 502 👤 coderonion User 🕐 已更新 2025-08-02 📅 创建时间 2023-02-23