#llama Repository
225 repository in totale
Un altro modello linguistico: inferenza LLM in C++/CUDA, nessuna libreria tranne I/O
[ECCV2024] Modello linguistico multimodale ampio e fondato con tokenizzazione visiva localizzata
Intervento al momento dell'inferenza: Ottenere risposte veritiere da un modello linguistico
Un repository di Deep Learning NLP che riassume l'elaborazione del testo, Topic Models e attivitร downstream di modelli all'avanguardia come BERT, GPT e LLM utilizzando TensorFlow.
Addestra e inferisci potenti embedding di frasi con AnglE | ๐ฅ SOTA sulla classifica STS e MTEB
[ICLR 2026] Un framework per l'addestramento con rinforzo e l'inferenza multi-agente basati su LLM
LLaVA-Mini รจ un modello multimodale ampio e unificato (LMM) che puรฒ supportare la comprensione di immagini, immagini ad alta risoluzione e video in modo efficiente.
Progetti industriali generativi di AI end-to-end su modelli LLM con Deployment_Awesome LLM Projects
Utilizza Code Llama con Visual Studio Code e l'estensione Continue. Un'alternativa LLM locale a GitHub Copilot.
Open Model Engine (OME) โ operatore Kubernetes per il serving degli LLM, la pianificazione delle GPU e la gestione del ciclo di vita dei modelli. Compatibile con SGLang, vLLM, TensorRT-LLM e Triton
Assistente basato sull'intelligenza artificiale per aiutarti nelle tue attivitร quotidiane, basato su Llama 3, DeepSeek R1 e molti altri modelli su HuggingFace.
Un CLI reattivo che genera messaggi di commit per Git e Jujutsu con Ollama, ChatGPT, Gemini, Claude, Mistral e altre IA
RESTai รจ una piattaforma open-source AIaaS (AI as a Service). Supporta molti LLM pubblici e locali supportati da Ollama/vLLM/etc. Utilizzo preciso degli embedding, tuning, analisi ecc. Generazione integrata di immagini/audio con caricamento dinamico dei generatori. Distribuzione di chat live. Linguaggio grafico basato su blocchi integrato. Versionamento dei prompt e molto altro...
[ICML 2024] LESS: Selezione di dati influenti per il tuning mirato delle istruzioni
Server di inferenza linguistica altamente ottimizzato open source, locale e auto-ospitato che supporta ASR/STT, TTS e LLM su WebRTC, REST e WS
Un sistema di inferenza ad alte prestazioni per modelli linguistici di grandi dimensioni, progettato per ambienti di produzione.
๐๐๐ Questo repository elenca alcuni fantastici progetti pubblici su CUDA, cuda-python, cuBLAS, cuDNN, CUTLASS, TensorRT, TensorRT-LLM, Triton, TVM, MLIR, PTX e High Performance Computing (HPC).