#llama Репозитории
Всего репозиториев: 225
Еще одна языковая модель: вывод LLM на C++/CUDA, никаких библиотек, кроме ввода-вывода
[ECCV2024] Обоснованная мультимодальная большая языковая модель с локализованной визуальной токенизацией
Вмешательство во время вывода: получение правдивых ответов от языковой модели
Репозиторий Deep Learning NLP, обобщающий предварительную обработку текста, тематические модели и последующие задачи передовых моделей, таких как BERT, GPT и LLM, с использованием TensorFlow.
Обучайте и выводите мощные вложения предложений с помощью AnglE | 🔥 SOTA в таблице лидеров STS и MTEB
[ICLR 2026] Фреймворк для обучения с подкреплением и вывода на основе LLM в системах с несколькими агентами
LLaVA-Mini — это унифицированная большая мультимодальная модель (LMM), которая может эффективно поддерживать понимание изображений, изображений высокого разрешения и видео.
Проекты индустрии генеративного ИИ «End to End» на моделях LLM с Deployment_Awesome LLM Projects
Используйте Code Llama с Visual Studio Code и расширением Continue. Локальная альтернатива GitHub Copilot на базе LLM.
🏗️ Легко настраивайте, создавайте и развертывайте LLM с открытым исходным кодом!
Движок для обслуживания LLM с низкой задержкой и высокой пропускной способностью
Open Model Engine (OME) — оператор Kubernetes для предоставления LLM-сервисов, планирования использования GPU и управления жизненным циклом моделей. Поддерживает SGLang, vLLM, TensorRT-LLM и Triton
AI-ассистент для помощи в выполнении повседневных задач, работающий на базе Llama 3, DeepSeek R1 и множества других моделей на HuggingFace.
Реактивный CLI, который генерирует сообщения коммитов для Git и Jujutsu с помощью Ollama, ChatGPT, Gemini, Claude, Mistral и других ИИ
RESTai — это открытая платформа AIaaS (AI как услуга). Поддерживает множество публичных и локальных LLM, поддерживаемых Ollama/vLLM/и т.д. Точное использование эмбеддингов, настройка, аналитика и т.д. Встроенная генерация изображений/аудио с динамической загрузкой генераторов. Развертывание живого чата. Встроенный графический язык на основе блоков. Версионирование промптов и многое другое...
[ICML 2024] LESS: Выбор влиятельных данных для целенаправленной настройки инструкций
Сервер вывода языковых моделей с открытым исходным кодом, локальный и самостоятельно размещаемый, высоко оптимизированный, поддерживающий ASR/STT, TTS и LLM через WebRTC, REST и WS
Высокопроизводительная система вывода для больших языковых моделей, предназначенная для производственных сред.
🚀🚀🚀 В этом репозитории представлен список отличных публичных проектов, связанных с CUDA, cuda-python, cuBLAS, cuDNN, CUTLASS, TensorRT, TensorRT-LLM, Triton, TVM, MLIR, PTX и высокопроизводительными вычислениями (HPC).