#llama Dépôts
225 dépôts au total
Encore un autre modèle linguistique : inférence LLM en C++/CUDA, aucune bibliothèque à l'exception de l'E/S
[ECCV2024] Grand modèle linguistique multimodal fondé avec tokenisation visuelle localisée
Intervention au moment de l'inférence : Obtenir des réponses véridiques d'un modèle linguistique
Un dépôt NLP d'apprentissage profond qui résume le prétraitement du texte, les modèles de sujets et les tâches en aval de modèles de pointe tels que BERT, GPT et LLM à l'aide de TensorFlow.
Entraînez et déduisez de puissants plongements de phrases avec AnglE | 🔥 SOTA sur le classement STS et MTEB
[ICLR 2026] Un cadre pour l'entraînement renforcé et l'inférence multi-agents fondés sur les LLM
LLaVA-Mini est un grand modèle multimodal (LMM) unifié qui peut prendre en charge la compréhension des images, des images haute résolution et des vidéos de manière efficace.
Projets industriels de génération d'IA de bout en bout sur modèles LLM avec Deployment_Awesome LLM Projects
Utilisez Code Llama avec Visual Studio Code et l'extension Continue. Une alternative LLM locale à GitHub Copilot.
Open Model Engine (OME) — opérateur Kubernetes pour le déploiement de services de LLM, l’ordonnancement des GPU et la gestion du cycle de vie des modèles. Compatible avec SGLang, vLLM, TensorRT-LLM et Triton
Assistant alimenté par l'IA pour vous aider dans vos tâches quotidiennes, propulsé par Llama 3, DeepSeek R1 et de nombreux autres modèles sur HuggingFace.
Un CLI réactif qui génère des messages de commit pour Git et Jujutsu avec Ollama, ChatGPT, Gemini, Claude, Mistral et d'autres IA
RESTai est une plateforme open-source AIaaS (IA en tant que service). Prend en charge de nombreux LLM publics et locaux supportés par Ollama/vLLM/etc. Utilisation précise des embeddings, réglage, analyses, etc. Génération d'images/audio intégrée avec chargement dynamique des générateurs. Déploiement de chat en direct. Langage graphique basé sur blocs intégré. Versionnage des prompts et bien plus...
[ICML 2024] LESS : Sélectionner des données influentes pour l'ajustement ciblé des instructions
Serveur d'inférence linguistique hautement optimisé open source, local et auto-hébergé prenant en charge ASR/STT, TTS et LLM via WebRTC, REST et WS
Un système d'inférence haute performance pour les grands modèles de langage, conçu pour les environnements de production.
🚀🚀🚀 Ce dépôt répertorie quelques projets publics impressionnants liés à CUDA, cuda-python, cuBLAS, cuDNN, CUTLASS, TensorRT, TensorRT-LLM, Triton, TVM, MLIR, PTX et au calcul haute performance (HPC).