#llama Dépôts
225 dépôts au total
⚡ Moteur d'inférence WebGPU en Rust pur — Compatible avec l'API OpenAI, natif GGUF, fonctionne sur n'importe quel GPU. Pas de Python. Pas de llama.cpp. Binaire unique.
[ICLR 2024] Fine-tuning de LLaMA pour suivre les instructions en 1 heure et 1,2 million de paramètres
MedicalGPT: Entraînez votre propre modèle GPT médical avec le pipeline d'entraînement de ChatGPT. Entraînement d'un grand modèle médical, comprenant le pré-entraînement incrémental (PT), le réglage fin supervisé (SFT), RLHF, DPO, ORPO, GRPO.
Une interface web pour discuter avec Alpaca via llama.cpp. Entièrement dockerisée, avec une API facile à utiliser.
Un modèle linguistique de pré-entraînement à grande échelle de 7 milliards développé par BaiChuan-Inc.
[ICLR'24 Spotlight] Une plateforme ouverte pour l'entraînement, le service et l'évaluation de grands modèles linguistiques pour l'apprentissage d'outils.
L'environnement de recherche open source pour les chercheurs en IA, permettant de former, d'évaluer et de mettre à l'échelle des modèles sans interruption, depuis le matériel local jusqu'aux clusters GPU.
H2O LLM Studio - un framework et une interface graphique sans code pour le fine-tuning des LLM. Documentation : https://docs.h2o.ai/h2o-llmstudio/
"Guide de construction d'une boîte blanche pour grands modèles" : Un Tiny-Universe entièrement assemblé à la main
Dépôt pour BenCao [nom original : HuaTuo (华驼)], Ajustement d'instructions de grands modèles de langage avec des connaissances médicales chinoises. Dépôt du modèle BenCao (nom original : HuaTuo), ajustement d'instructions de grands modèles de langage basé sur des connaissances médicales chinoises
Seules des bases de Python sont nécessaires, construisez des grands modèles linguistiques à partir de zéro ; Construisez progressivement GLM4\Llama3\RWKV6 à partir de zéro, pour comprendre en profondeur les principes des grands modèles.
LightLLM est un framework basé sur Python pour l'inférence et le service des LLM (grands modèles linguistiques), remarquable pour sa conception légère, sa facilité de mise à l'échelle et ses performances à haute vitesse.
Construisez un LLM moderne de zéro. Chaque ligne commentée. Expliqué comme à des enfants de cinq ans.
Chinese-Vicuna : Un modèle chinois basé sur LLaMA pour le suivi des instructions – un schéma llama+lora chinois à faibles ressources, référence structurelle alpaca
Solutions NLP chinoises (grands modèles, données, modèles, entraînement, inférence)
Une bibliothèque C#/.NET pour exécuter efficacement des LLM (🦙LLaMA/LLaVA) sur votre appareil local.
Une application macOS native qui permet aux utilisateurs de discuter avec un LLM local capable de répondre avec des informations provenant de fichiers, de dossiers et de sites Web sur votre Mac sans installer d'autres logiciels. Propulsé par llama.cpp.
Questions-réponses automatiques pour les bases de connaissances locales basées sur des LLM tels que LangChain et ChatGLM-6B
InternGPT (iGPT) est une plateforme de démonstration open source où vous pouvez facilement présenter vos modèles d'IA. Il prend désormais en charge DragGAN, ChatGPT, ImageBind, les discussions multimodales comme GPT-4, SAM, l'édition interactive d'images, etc. Essayez-le sur igpt.opengvlab.com (système de démonstration en ligne prenant en charge DragGAN, ChatGPT, ImageBind, SAM).
AGiXT est une plateforme dynamique d'automatisation d'agents IA qui orchestre de manière transparente la gestion des instructions et l'exécution de tâches complexes sur divers fournisseurs d'IA. En combinant une mémoire adaptative, des fonctionnalités intelligentes et un système de plugins polyvalent, AGiXT offre des solutions d'IA efficaces et complètes.
LSP-AI est un serveur de langage open-source qui sert de backend pour les fonctionnalités alimentées par l'IA, conçu pour aider et autonomiser les ingénieurs logiciels, et non pour les remplacer.
[EMNLP 2023 Demo] Video-LLaMA : Un modèle linguistique audiovisuel réglé sur instruction pour la compréhension vidéo
Framework de données pour vos applications LLM. Axé sur la solution côté serveur.
Modèles de base Chinese-LLaMA 1&2, Chinese-Falcon ; Modèle de dialogue chinois ChatFlow ; Modèle Chinese-OpenLLaMA ; Jeux de données de pré-entraînement/ajustement fin des instructions NLP
[ACL 2024] Un framework facile da usare per la modifica della conoscenza per LLMs.
Maid est une application gratuite et open source permettant d’interagir avec les modèles llama.cpp localement, ainsi qu’avec les modèles Anthropic, DeepSeek, Ollama, Mistral et OpenAI à distance.
Outil professionnel de recherche par IA pour Zotero : dialoguez avec vos PDF, recherchez dans toute votre bibliothèque, Radar bibliographique et Pilote automatique. Plus de 30 LLM ou modèles locaux ; serveur MCP intégré. Discutez avec votre Zotero de poche sur iPhone → https://www.docsagent.app
Créez, personnalisez et contrôlez vos propres LLM. Du prétraitement des données au réglage fin, xTuring offre un moyen simple de personnaliser les LLM open-source. Rejoignez notre communauté Discord : https://discord.gg/TgHXuSJEk6
[EMNLP-2024] Construire des agents de langage multimodaux pour un prototypage et une production rapides
Les grands modèles linguistiques (LLM) simplifiés, EasyLM est une solution tout-en-un pour le pré-entraînement, le réglage fin, l'évaluation et le service des LLM en JAX/Flax.
API de style OpenAI pour les grands modèles de langage ouverts, utilisant les LLM tout comme chatgpt ! Prise en charge de LLaMA, LLaMA-2, BLOOM, Falcon, Baichuan, Qwen, Xverse, SqlCoder, CodeLLaMA, ChatGLM, ChatGLM2, ChatGLM3 etc. Interface backend unifiée pour les grands modèles de langage open source
Une interface utilisateur de terminal rapide et centrée sur le clavier pour interagir avec de grands modèles linguistiques. Discutez avec ChatGPT, Claude, Llama 3, Phi 3, Mistral, Gemma et plus encore.
Le framework d'agent LLM dans ComfyUI comprend les nœuds serveur MCP, Omost, GPT-sovits, ChatTTS, GOT-OCR2.0 et prompt FLUX, un accès à Feishu, discord et s'adapte à tous les LLM avec des interfaces similaires à openai / aisuite, tels que o1, ollama, gemini, grok, qwen, GLM, deepseek, kimi, doubao. Adapté aux LLM locaux, VLM, gguf tels que llama-3.3 Janus-Pro, Linkage GraphRAG
Un framework runtime de tromperie à faible code sécurisé, exploitant l'IA pour la virtualisation système.
Exécutez des modèles d'IA localement sur votre machine avec des liaisons Node.js pour llama.cpp. Appliquez un schéma JSON à la sortie du modèle au niveau de la génération.
FinGLM : S'engage à construire un projet de grand modèle financier ouvert, d'intérêt public et durable, en exploitant l'open source et l'ouverture pour promouvoir « l'IA + la finance ».
Bibliothèque d'inférence légère pour fichiers ONNX, écrite en C++. Elle peut exécuter Stable Diffusion XL 1.0 sur un RPI Zero 2 (ou dans 298 Mo de RAM) mais aussi Mistral 7B sur les ordinateurs de bureau et les serveurs. Support ARM, x86, WASM, RISC-V. Accéléré par XNNPACK. Bindings Python, C# et JS (WASM) disponibles.
llama et autres grands modèles de langage sur iOS et MacOS hors ligne à l'aide de la bibliothèque GGML.