#transformers Dépôts
273 dépôts au total
Une base de code flexible et efficace pour l'entraînement de modèles linguistiques conditionnés visuellement (VLM)
Une bibliothèque PyTorch de modèles Transformer sélectionnés et de leurs composants composables
Dépôt officiel de mon livre "Un guide pratique pour le réglage fin des LLM avec PyTorch et Hugging Face"
MOMENT : Une famille de modèles fondamentaux ouverts pour séries temporelles, ICML'24
Le meilleur dépôt montrant pourquoi les transformeurs pourraient ne pas être la réponse pour la prévision de séries chronologiques et présentant les meilleurs modèles SOTA non transformeurs.
Halo est un framework open source développé par White Circle pour entraîner des modèles de langage de grande taille et des modèles multimodaux
Implémentation officielle du papier "MiniGPT-5: Interleaved Vision-and-Language Generation via Generative Vokens"
Les Transformers sont des modèles mondiaux économes en échantillons. ICLR 2023, remarquable top 5%.
Code pour l'article ICML 2023 "SparseGPT: Massive Language Models Can Be Accurately Pruned in One-Shot".
Implémentation de MeshGPT, génération de maillage SOTA utilisant l'Attention, en Pytorch
Dépôt Github avec des tutoriels pour affiner les transformeurs pour différentes tâches NLP
Ceci est un projet pour entraîner des modèles linguistiques de grande taille à partir de zéro, y compris le pré-entraînement, le fine-tuning et l'optimisation directe des préférences, le modèle ayant 1 milliard de paramètres et prenant en charge le chinois et l'anglais.
Un ordinateur compilé dans les poids d’un modèle de langage. Un processeur exact intégré à Qwen3.5-4B, avec l’état de Gated DeltaNet comme RAM.
🤖✨ChatMLX est une application de chat moderne, open-source et haute performance pour MacOS basée sur de grands modèles linguistiques.
PhoBERT : modèles de langue pré-entraînés pour le vietnamien (EMNLP-2020 Findings)
Prévalidation de l’affinage d’un LLM sur un seul GPU : estimations de mémoire, recettes LoRA/QLoRA exécutables et mesures locales.
Implémentation de Phenaki Video, qui utilise Mask GIT pour produire des vidéos guidées par texte d'une durée maximale de 2 minutes en Pytorch
Transformers PHP est une boîte à outils permettant aux développeurs PHP d'ajouter facilement de la magie d'apprentissage automatique à leurs projets.
Ce dépôt est une collection organisée des articles les plus passionnants et influents de la CVPR 2024. 🔥 [Paper + Code + Demo]
LLM-PowerHouse : Libérez le potentiel des LLM grâce à des tutoriels organisés, des meilleures pratiques et du code prêt à l'emploi pour l'entraînement personnalisé et l'inférence.
Étendez les LLM existants bien au-delà de la longueur d'entraînement d'origine avec une utilisation constante de la mémoire, sans réentraînement
Revisiter les modèles pré-entraînés pour le traitement du langage naturel chinois (MacBERT)
Implémentation PyTorch de JointBERT : "BERT for Joint Intent Classification and Slot Filling"
L'implémentation PyTorch des Generative Pre-trained Transformers (GPTs) utilisant les Kolmogorov-Arnold Networks (KANs) pour la modélisation du langage
Un moteur natif d’inférence de LLM .NET et un environnement d’exécution d’agents pour les modèles GGUF. TensorSharp fournit une application en ligne de commande, une interface de chatbot web, une application iPhone et des API HTTP compatibles avec Ollama/OpenAI pour un accès programmatique. Il prend en charge Windows, macOS, iOS et Linux avec une prise en charge complète du GPU.
Conversion des graphèmes en phonèmes du persan (farsi) vers l’alphabet phonétique international (API) à l’aide d’un modèle ByT5 affiné.
Base de code officielle pour « Neural Thickets : Diverse Task Experts Are Dense Around Pretrained Weights » (ICML 2026 Spotlight)
Implémentation de MEGABYTE, Prédiction de séquences d'un million d'octets avec des transformeurs multi-échelles, dans Pytorch
Ce référentiel est une collection organisée des articles les plus passionnants et influents de CVPR 2023. 🔥 [Paper + Code]
[Highlight CVPR 2025] Code et modèles officiels pour l'Encodeur-seul Masque Transformeur (EoMT).
Un framework d'IA pour générer et modifier des beatmaps osu! pour tous les modes de jeu à partir d'entrées de spectrogrammes.
Une boîte à outils multilingue Python pour l'analyse des sentiments et les tâches de NLP social
🤗 Optimum Intel: Accélérez l'inférence avec les outils d'optimisation d'Intel