Git Stars Git Stars

#llama Repository

225
Totale Repository
1.6M
Totale stelle
7,102
Media Stelle/Repo
201
andrewkchan/yalm

Un altro modello linguistico: inferenza LLM in C++/CUDA, nessuna libreria tranne I/O

andrewkchan
โญ 597 C++ ๐Ÿ‘ค andrewkchan User ๐Ÿ• Aggiornato 2025-09-13 ๐Ÿ“… Creato 2024-10-02
202
ai-ng/swift

Assistente vocale veloce alimentato da Groq, Cartesia e Vercel.

ai-ng
โญ 590 TypeScript ๐Ÿ‘ค ai-ng Organization ๐Ÿ• Aggiornato 2025-12-04 ๐Ÿ“… Creato 2024-05-19
203
FoundationVision/Groma

[ECCV2024] Modello linguistico multimodale ampio e fondato con tokenizzazione visiva localizzata

FoundationVision
โญ 582 Python ๐Ÿ‘ค FoundationVision Organization ๐Ÿ• Aggiornato 2024-06-07 ๐Ÿ“… Creato 2024-04-21
204
likenneth/honest_llama

Intervento al momento dell'inferenza: Ottenere risposte veritiere da un modello linguistico

likenneth
โญ 581 Python ๐Ÿ‘ค likenneth User ๐Ÿ• Aggiornato 2025-01-28 ๐Ÿ“… Creato 2023-05-19
205
ukairia777/tensorflow-nlp-tutorial

Un repository di Deep Learning NLP che riassume l'elaborazione del testo, Topic Models e attivitร  downstream di modelli all'avanguardia come BERT, GPT e LLM utilizzando TensorFlow.

ukairia777
โญ 580 Jupyter Notebook ๐Ÿ‘ค ukairia777 User ๐Ÿ• Aggiornato 2026-06-05 ๐Ÿ“… Creato 2021-12-30
206
SeanLee97/AnglE

Addestra e inferisci potenti embedding di frasi con AnglE | ๐Ÿ”ฅ SOTA sulla classifica STS e MTEB

SeanLee97
โญ 576 Python ๐Ÿ‘ค SeanLee97 User ๐Ÿ• Aggiornato 2026-03-22 ๐Ÿ“… Creato 2023-10-17
207
TsinghuaC3I/MARTI

[ICLR 2026] Un framework per l'addestramento con rinforzo e l'inferenza multi-agente basati su LLM

TsinghuaC3I
โญ 575 Python ๐Ÿ‘ค TsinghuaC3I Organization ๐Ÿ• Aggiornato 2026-08-20 ๐Ÿ“… Creato 2025-05-10
208
ictnlp/LLaVA-Mini

LLaVA-Mini รจ un modello multimodale ampio e unificato (LMM) che puรฒ supportare la comprensione di immagini, immagini ad alta risoluzione e video in modo efficiente.

ictnlp
โญ 575 Python ๐Ÿ‘ค ictnlp Organization ๐Ÿ• Aggiornato 2025-06-29 ๐Ÿ“… Creato 2025-01-07
209
GURPREETKAURJETHRA/END-TO-END-GENERATIVE-AI-PROJECTS

Progetti industriali generativi di AI end-to-end su modelli LLM con Deployment_Awesome LLM Projects

GURPREETKAURJETHRA
โญ 570 ๐Ÿ‘ค GURPREETKAURJETHRA User ๐Ÿ• Aggiornato 2025-01-24 ๐Ÿ“… Creato 2024-03-21
210
xNul/code-llama-for-vscode

Utilizza Code Llama con Visual Studio Code e l'estensione Continue. Un'alternativa LLM locale a GitHub Copilot.

xNul
โญ 569 Python ๐Ÿ‘ค xNul User ๐Ÿ• Aggiornato 2024-07-31 ๐Ÿ“… Creato 2023-08-25
211
kaarthik108/snowChat

Chat Snowflake - Testo in SQL

kaarthik108
โญ 553 Python ๐Ÿ‘ค kaarthik108 User ๐Ÿ• Aggiornato 2025-02-16 ๐Ÿ“… Creato 2023-04-10
212
Noeda/rllama

Implementazione del codice di inferenza LLaMA con Rust+OpenCL+AVX2

Noeda
โญ 551 Rust ๐Ÿ‘ค Noeda User ๐Ÿ• Aggiornato 2024-02-12 ๐Ÿ“… Creato 2023-03-11
213
kaito-project/aikit

๐Ÿ—๏ธ Affina, crea e distribuisci facilmente LLM open-source!

kaito-project
โญ 545 Go ๐Ÿ‘ค kaito-project Organization ๐Ÿ• Aggiornato 2026-11-16 ๐Ÿ“… Creato 2023-09-20
214
microsoft/sarathi-serve

Un motore di serving a bassa latenza e alto throughput per LLM

microsoft
โญ 539 Python ๐Ÿ‘ค microsoft Organization ๐Ÿ• Aggiornato 2026-11-17 ๐Ÿ“… Creato 2023-11-02
215
DachengLi1/LongChat

Repository ufficiale per LongChat e LongEval

DachengLi1
โญ 533 Python ๐Ÿ‘ค DachengLi1 User ๐Ÿ• Aggiornato 2024-05-24 ๐Ÿ“… Creato 2023-04-21
216
ome-projects/ome

Open Model Engine (OME) โ€” operatore Kubernetes per il serving degli LLM, la pianificazione delle GPU e la gestione del ciclo di vita dei modelli. Compatibile con SGLang, vLLM, TensorRT-LLM e Triton

ome-projects
โญ 529 Go ๐Ÿ‘ค ome-projects Organization ๐Ÿ• Aggiornato 2026-11-21 ๐Ÿ“… Creato 2025-05-19
217
nrl-ai/llama-assistant

Assistente basato sull'intelligenza artificiale per aiutarti nelle tue attivitร  quotidiane, basato su Llama 3, DeepSeek R1 e molti altri modelli su HuggingFace.

nrl-ai
โญ 529 Python ๐Ÿ‘ค nrl-ai Organization ๐Ÿ• Aggiornato 2025-12-06 ๐Ÿ“… Creato 2024-09-26
218
tak-bro/aicommit2

Un CLI reattivo che genera messaggi di commit per Git e Jujutsu con Ollama, ChatGPT, Gemini, Claude, Mistral e altre IA

tak-bro
โญ 529 TypeScript ๐Ÿ‘ค tak-bro User ๐Ÿ• Aggiornato 2026-10-28 ๐Ÿ“… Creato 2024-01-30
219
apocas/restai

RESTai รจ una piattaforma open-source AIaaS (AI as a Service). Supporta molti LLM pubblici e locali supportati da Ollama/vLLM/etc. Utilizzo preciso degli embedding, tuning, analisi ecc. Generazione integrata di immagini/audio con caricamento dinamico dei generatori. Distribuzione di chat live. Linguaggio grafico basato su blocchi integrato. Versionamento dei prompt e molto altro...

apocas
โญ 520 Python ๐Ÿ‘ค apocas User ๐Ÿ• Aggiornato 2026-11-13 ๐Ÿ“… Creato 2023-05-18
220
TencentARC/LLaMA-Pro

[ACL 2024] Progressive LLaMA con espansione di blocchi.

TencentARC
โญ 514 Python ๐Ÿ‘ค TencentARC Organization ๐Ÿ• Aggiornato 2024-05-20 ๐Ÿ“… Creato 2024-01-02
221
princeton-nlp/LESS

[ICML 2024] LESS: Selezione di dati influenti per il tuning mirato delle istruzioni

princeton-nlp
โญ 511 Jupyter Notebook ๐Ÿ‘ค princeton-nlp Organization ๐Ÿ• Aggiornato 2024-10-20 ๐Ÿ“… Creato 2024-01-24
222
toverainc/willow-inference-server

Server di inferenza linguistica altamente ottimizzato open source, locale e auto-ospitato che supporta ASR/STT, TTS e LLM su WebRTC, REST e WS

toverainc
โญ 511 Python ๐Ÿ‘ค toverainc Organization ๐Ÿ• Aggiornato 2026-02-12 ๐Ÿ“… Creato 2023-02-03
223
DonTizi/ReMind

La tua memoria artificiale locale sul tuo dispositivo.

DonTizi
โญ 507 TypeScript ๐Ÿ‘ค DonTizi User ๐Ÿ• Aggiornato 2024-12-26 ๐Ÿ“… Creato 2024-05-22
224
vectorch-ai/ScaleLLM

Un sistema di inferenza ad alte prestazioni per modelli linguistici di grandi dimensioni, progettato per ambienti di produzione.

vectorch-ai
โญ 502 C++ ๐Ÿ‘ค vectorch-ai Organization ๐Ÿ• Aggiornato 2025-12-19 ๐Ÿ“… Creato 2023-07-24
225
coderonion/awesome-cuda-and-hpc

๐Ÿš€๐Ÿš€๐Ÿš€ Questo repository elenca alcuni fantastici progetti pubblici su CUDA, cuda-python, cuBLAS, cuDNN, CUTLASS, TensorRT, TensorRT-LLM, Triton, TVM, MLIR, PTX e High Performance Computing (HPC).

coderonion
โญ 502 ๐Ÿ‘ค coderonion User ๐Ÿ• Aggiornato 2025-08-02 ๐Ÿ“… Creato 2023-02-23