#llm-inference-optimization Репозитории
Откройте для себя 18 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #llm-inference-optimization, с общим числом 44,885 звёзд (в среднем 2,493 на проект). Лидером этой темы является guidance-ai/guidance, набравший 21,828 звёзд.
Всего репозиториев: 18
Курируемый список из более чем 100 библиотек и фреймворков для инженеров по искусственному интеллекту, создающих с помощью LLM
Этот репозиторий в основном записывает вопросы собеседования, связанные с инженерами алгоритмов больших языковых моделей (LLM).
Интеллектуальный агент графического интерфейса пользователя для мобильных телефонов
Официальный репозиторий GitHub для обзорной статьи «A Survey on Diffusion Language Models».
Изучение больших языковых моделей (LLM) (Изучение больших языковых моделей)
Быстрый вывод больших языковых моделей с помощью спекулятивного декодирования
Tencent Hunyuan A13B (сокращенно Hunyuan-A13B) — инновационная и открытая LLM, построенная на основе детальной архитектуры MoE.
RankLLM — это набор инструментов Python для воспроизводимых исследований в области поиска информации с использованием реранкеров, с акцентом на реранкинг по спискам.
Официальный репозиторий для «Glyph: масштабирование контекстных окон с помощью визуально-текстовой компрессии»
Анализируйте вывод больших языковых моделей (LLM). Анализируйте такие аспекты, как вычисления, хранение данных, передача и модель аппаратных «потолков» (roofline model) в удобном пользовательском интерфейсе.
Часто задаваемые вопросы
Какой репозиторий по теме #llm-inference-optimization наиболее популярен на GitHub?
Самый высоко оценённый проект с открытым исходным кодом по теме #llm-inference-optimization на GitHub — guidance-ai/guidance, набравший 21,828 звёзд. Язык руководства для управления большими языковыми моделями.
Какие языки программирования чаще всего используются в репозиториях по теме #llm-inference-optimization?
Среди наиболее высоко оценённых проектов по теме #llm-inference-optimization на GitHub чаще всего используются языки программирования Python, Jupyter Notebook, TypeScript.
Как рассчитывается рейтинг репозиториев по теме #llm-inference-optimization?
Мы отслеживаем 18 активных репозиториев с открытым исходным кодом, отмеченных тегом #llm-inference-optimization (500 и более звёзд), с общим числом 44,885 звёзд и в среднем 2,493 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.