#serving Репозитории
Откройте для себя 17 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #serving, с общим числом 90,023 звёзд (в среднем 5,295 на проект). Лидером этой темы является ray-project/ray, набравший 44,352 звёзд.
Всего репозиториев: 17
Ray — это движок вычислений ИИ. Ray состоит из основной распределённой среды выполнения и набора библиотек ИИ для ускорения нагрузок ML.
Гибкая высокопроизводительная система обслуживания для моделей машинного обучения
Изучите системы инференса LLM на Apple Silicon для системных инженеров: создайте небольшой vLLM + Qwen
Фреймворк MLOps для упаковки, развертывания, мониторинга и управления тысячами производственных моделей машинного обучения
В этом репозитории я поделюсь полезными заметками и ссылками о развертывании моделей на основе глубокого обучения в продакшене.
Минималистичный фреймворк на Python для создания пользовательских серверов вывода ИИ с полным контролем над логикой, пакетированием и масштабированием.
Высокопроизводительный набор инструментов для инференса и развертывания LLM и VLM на базе PaddlePaddle
Комплексное руководство по созданию LLM-приложений на основе RAG для производственной среды.
Мультимодальная векторная база данных, поддерживающая вставки (upserts) и векторные запросы с использованием унифицированного SQL (совместимого с MySQL) для структурированных и неструктурированных данных, отвечающая требованиям высокой параллельности и сверхнизкой задержки.
Бэкенд-агенты создаются с мультимодальной базой данных, оркестрацией и обслуживанием в одном файле
DELTA — это платформа обработки естественного языка и речи на основе глубокого обучения. LF AI & DATA Projects: https://lfaidata.foundation/projects/delta/
Масштабируемый сервер вывода для моделей, оптимизированных с помощью OpenVINO™
Гибкий высокопроизводительный носитель для моделей машинного обучения(『飞桨』 Фреймворк сервисной развертки)
Общий и удобный в использовании сервис обслуживания для моделей машинного обучения
Высокопроизводительная система вывода для больших языковых моделей, предназначенная для производственных сред.
Часто задаваемые вопросы
Какой репозиторий по теме #serving наиболее популярен на GitHub?
Самый высоко оценённый проект с открытым исходным кодом по теме #serving на GitHub — ray-project/ray, набравший 44,352 звёзд. Ray — это движок вычислений ИИ. Ray состоит из основной распределённой среды выполнения и набора библиотек ИИ для ускорения нагрузок ML.
Какие языки программирования чаще всего используются в репозиториях по теме #serving?
Среди наиболее высоко оценённых проектов по теме #serving на GitHub чаще всего используются языки программирования Python, C++, Go, Jupyter Notebook.
Как рассчитывается рейтинг репозиториев по теме #serving?
Мы отслеживаем 17 активных репозиториев с открытым исходным кодом, отмеченных тегом #serving (500 и более звёзд), с общим числом 90,023 звёзд и в среднем 5,295 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.