#distributed-training Репозитории
Всего репозиториев: 147
📹 Более гибкая структура, которая может генерировать видео с любым разрешением и создавать видео из изображений.
VeOmni: Масштабирование обучения моделей любой модальности с помощью распределенного сборника рецептов, ориентированного на модели
Код, лабораторные работы и ресурсы для O'Reilly AI Systems Performance Engineering: оптимизация GPU, распределенное обучение, масштабирование вывода и полностековая настройка.
【LLMs Девятислойная башня демона】Обмен практическим опытом и знаниями LLMs в таких областях, как обработка естественного языка (ChatGLM, Chinese-LLaMA-Alpaca, Xiaoyangtuo Vicuna, LLaMA, GPT4ALL и др.), поиск информации (langchain), синтез речи, распознавание речи, мультимодальные модели (Stable Diffusion, MiniGPT-4, VisualGLM-6B, Ziya-Visual и др.).
Meditron — это набор крупномасштабных языковых моделей (LLM) с открытым исходным кодом для медицинских целей.
Вопросы для собеседования на должность алгоритма больших моделей (с ответами): частые вопросы и анализ концепций "Вопросы для собеседования по большим моделям", "Собеседование на должность алгоритма", "Частые вопросы на собеседовании", "Собеседование по алгоритмам больших моделей", "Основы применения больших моделей"
Автоматическое обнаружение быстрых стратегий параллелизации для распределенного обучения глубоких нейронных сетей
Обучение больших языковых моделей для рассуждений в непрерывном скрытом пространстве
DLRover: Автоматизированная распределенная система глубокого обучения
Полностью открытый исходный код фреймворка для создания роев для обучения RL через Интернет.
Семейство больших языковых моделей Mixture-of-Experts (MoE) с открытым исходным кодом
Официальный репозиторий Pai-Megatron-Patch для крупномасштабного обучения LLM и VLM, разработанный Alibaba Cloud.
Форк для добавления обучения мультимодальным моделям в open-r1
Надежная платформа для исследований в области анализа лиц, разработанная Tencent Youtu Lab
fitlog — это инструмент, используемый в обучении глубокому обучению для помощи пользователям в ведении логов и управлении кодом.
Компилятор PyTorch, ускоряющий обучение и вывод. Получите встроенные оптимизации для производительности, памяти, параллелизма и легко напишите свои собственные.
Библиотека коллективных коммуникаций с различными примитивами для многомашинного обучения.
DeepRec — это высокопроизводительный фреймворк глубокого обучения для рекомендаций на основе TensorFlow. Он размещен в инкубаторе LF AI & Data Foundation.
Открытая инфраструктура для демократизации и децентрализации разработки сверхразума для человечества.
Распределенное внимание для линейной масштабируемости при обучении на сверхдлинных контекстах и гетерогенных данных