#llm-training Репозитории
Откройте для себя 58 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #llm-training, с общим числом 316,620 звёзд (в среднем 5,458 на проект). Лидером этой темы является karpathy/nanochat, набравший 60,746 звёзд.
Всего репозиториев: 59
Этот проект направлен на обмен техническими принципами и практическим опытом, связанным с большими моделями (инженерия больших моделей, практическое применение больших моделей).
Фреймворк с низким кодом для создания пользовательских LLM, нейронных сетей и других моделей ИИ
Платформа AI-вычислений для передовых команд. SkyPilot превращает фрагментированные AI-вычисления в один AI-суперкомпьютер, позволяя передовым AI-командам быстрее создавать индивидуальный интеллект.
Минимальный, чистый код для алгоритма Byte Pair Encoding (BPE), часто используемого при токенизации LLM.
slime — это фреймворк для обучения LLM, предназначенный для масштабирования обучения с подкреплением.
《Глубокое понимание AI-инфраструктуры: количественный анализ и проектирование систем》 (автор — Ли Боцзе), рукопись книги с открытым исходным кодом: исходя из аппаратных ограничений и архитектур моделей, количественно выводит принципы проектирования систем инференса и обучения LLM. Включает полный текст книги, PDF, сопутствующие вычислительные инструменты и эксперименты.
H2O LLM Studio - фреймворк и графический интерфейс без кода для тонкой настройки LLM. Документация: https://docs.h2o.ai/h2o-llmstudio/
Meta Lingua: компактная, эффективная и простая в модификации кодовая база для исследований LLM.
Miles – это корпоративно ориентированная система обучения с подкреплением для пост‑тренировки LLM и VLM, форк, созданный и совместно развиваемый со slime.
OpenLake — это высокопроизводительный движок хранения данных для эффективного вывода LLM и обучения на GPU
Примеры кода и ресурсы для DBRX, большой языковой модели, разработанной Databricks
verl-agent — это расширение veRL, разработанное для обучения LLM/VLM агентов с помощью RL. verl-agent также является официальным кодом для статьи «Group-in-Group Policy Optimization for LLM Agent Training»
DLRover: Автоматизированная распределенная система глубокого обучения
Официальный репозиторий Pai-Megatron-Patch для крупномасштабного обучения LLM и VLM, разработанный Alibaba Cloud.
Экспортер GPU NVIDIA для Prometheus с использованием бинарного файла nvidia-smi ИЛИ NVML
Текущие исследования по обучению масштабируемых языковых моделей Transformer, включая: BERT и GPT-2
Atropos — это фреймворк сред обучения с подкреплением для языковых моделей, предназначенный для сбора и оценки траекторий LLM в различных средах
GraphGen: Улучшение контролируемой дообучения для LLM с помощью генерации синтетических данных на основе знаний
"AI-Compass" поможет сообществу ориентироваться в океане технологий ИИ. Независимо от того, новичок вы или опытный разработчик, здесь вы найдете пути к основным направлениям ИИ. Цель проекта — помочь разработчикам систематически разобраться в ключевых концепциях ИИ, в ведущих технологиях и передовых тенденциях, а также практическим освоением полного процесса от теории до реализации.
[ICLR 2026] О обобщении SFT: перспектива обучения с подкреплением с исправлением вознаграждения.
Курируемая коллекция статей, технических отчетов, фреймворков и инструментов для дистилляции по политике (OPD) больших языковых моделей
Глубокое обучение для чайников. Все практические детали и полезные утилиты, необходимые для работы с реальными моделями.
Это проект по обучению больших языковых моделей с нуля, включая предварительное обучение, тонкую настройку и прямую оптимизацию предпочтений, модель имеет 1 миллиард параметров и поддерживает китайский и английский языки.
Adan: Адаптивный алгоритм импульса Нестерова для более быстрой оптимизации глубоких моделей
Практическое изучение алгоритмов и систем LLM с PyTorch, Triton и CUDA. «Руководство по алгоритмам и системам LLM»: архитектуры моделей и обучение, постобучение, ускорение инференса, оптимизация производительности и операторов; включает задания в Notebook, разбор ответов, тесты и эксперименты.
LLM-PowerHouse: Раскройте потенциал LLM с помощью тщательно отобранных руководств, лучших практик и готового к использованию кода для пользовательского обучения и логического вывода.
R1-поисковик: Стимулирование поисковых возможностей в LLM с помощью обучения с подкреплением
Часто задаваемые вопросы
Какой репозиторий по теме #llm-training наиболее популярен на GitHub?
Самый высоко оценённый проект с открытым исходным кодом по теме #llm-training на GitHub — karpathy/nanochat, набравший 60,746 звёзд. Лучший ChatGPT, который можно купить за 100 долларов.
Какие языки программирования чаще всего используются в репозиториях по теме #llm-training?
Среди наиболее высоко оценённых проектов по теме #llm-training на GitHub чаще всего используются языки программирования Python, Jupyter Notebook, Go, Cuda.
Как рассчитывается рейтинг репозиториев по теме #llm-training?
Мы отслеживаем 58 активных репозиториев с открытым исходным кодом, отмеченных тегом #llm-training (500 и более звёзд), с общим числом 316,620 звёзд и в среднем 5,458 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.