#llama Репозитории
Всего репозиториев: 225
⚡ WebGPU-движок для инференса на чистом Rust — совместим с OpenAI API, нативная поддержка GGUF, работает на любом GPU. Без Python. Без llama.cpp. Один бинарный файл.
[ICLR 2024] Дообучение LLaMA для выполнения инструкций за 1 час и 1,2 млн параметров
MedicalGPT: Обучение вашей собственной медицинской GPT-модели с помощью конвейера обучения ChatGPT. Обучение большой медицинской модели, которое включает инкрементальное предварительное обучение (PT), supervised fine-tuning (SFT), RLHF, DPO, ORPO, GRPO.
Веб-интерфейс для общения с Alpaca через llama.cpp. Полностью докеризованный, с простым в использовании API.
Крупномасштабная предварительно обученная языковая модель на 7 миллиардов параметров, разработанная BaiChuan-Inc.
[ICLR'24 Spotlight] Открытая платформа для обучения, обслуживания и оценки больших языковых моделей для изучения инструментов.
Открытая исследовательская среда для исследователей ИИ, которая позволяет бесшовно обучать, оценивать и масштабировать модели от локального оборудования до GPU‑кластеров.
H2O LLM Studio - фреймворк и графический интерфейс без кода для тонкой настройки LLM. Документация: https://docs.h2o.ai/h2o-llmstudio/
"Руководство по созданию White Box для больших моделей": Полностью самодельная Tiny-Universe
Репозиторий для BenCao [оригинальное название: HuaTuo (华驼)], Настройка инструкций больших языковых моделей с использованием китайских медицинских знаний. Репозиторий модели 本草 (оригинальное название: 华驼), настройка инструкций больших языковых моделей на основе китайских медицинских знаний
Требуются только базовые знания Python, создайте большие языковые модели с нуля; Поэтапно создайте GLM4\Llama3\RWKV6 с нуля, глубоко поймите принципы больших моделей.
LightLLM — это основанный на Python фреймворк для инференса и обслуживания LLM (больших языковых моделей), известный своим легким дизайном, простой масштабируемостью и высокой скоростью работы.
Создайте современную LLM с нуля. Каждая строка с комментарием. Объяснено так, как будто нам пять лет.
Chinese-Vicuna: Китайская модель на базе LLaMA для следования инструкциям — китайская схема llama+lora с низкими ресурсами, структурная ссылка на alpaca
Китайские NLP-решения (большие модели, данные, модели, обучение, инференс)
Библиотека C#/.NET для эффективного запуска LLM (🦙LLaMA/LLaVA) на вашем локальном устройстве.
Нативное приложение для macOS, позволяющее пользователям общаться с локальной LLM, которая может отвечать информацией из файлов, папок и веб-сайтов на вашем Mac без установки какого-либо другого программного обеспечения. Работает на llama.cpp.
Автоматические ответы на вопросы для локальных баз знаний на основе LLM, таких как LangChain и ChatGLM-6B
InternGPT (iGPT) — это демонстрационная платформа с открытым исходным кодом, где вы можете легко демонстрировать свои модели ИИ. Теперь она поддерживает DragGAN, ChatGPT, ImageBind, мультимодальный чат, такой как GPT-4, SAM, интерактивное редактирование изображений и т. д. Попробуйте на igpt.opengvlab.com (онлайн-демосистема с поддержкой DragGAN, ChatGPT, ImageBind, SAM).
AGiXT — это динамичная платформа автоматизации ИИ-агентов, которая обеспечивает бесшовную оркестрацию управления инструкциями и выполнения сложных задач на различных поставках ИИ. Объединяя адаптивную память, интеллектуальные функции и универсальную систему плагинов, AGiXT предлагает эффективные и комплексные решения в области ИИ.
LSP-AI — это сервер языковых служб с открытым исходным кодом, который служит в качестве серверной части для функциональности на базе ИИ, разработанный для помощи и расширения возможностей инженеров-программистов, а не для их замены.
[EMNLP 2023 Demo] Video-LLaMA: Аудиовизуальная языковая модель с инструктивным обучением для понимания видео
Базовые модели Chinese-LLaMA 1&2, Chinese-Falcon; китайская диалоговая модель ChatFlow; китайская модель OpenLLaMA; наборы данных для предварительного обучения/тонкой настройки инструкций NLP
Maid – это бесплатное и открытое приложение, позволяющее взаимодействовать с моделями llama.cpp локально, а также с моделями Anthropic, DeepSeek, Ollama, Mistral и OpenAI удаленно.
Профессиональный ИИ-инструмент для исследований в Zotero: общайтесь с PDF, ищите по всей библиотеке, используйте «Радар литературы» и автопилот. Более 30 LLM или локальных моделей; встроенный MCP-сервер. Общайтесь со своим Zotero в кармане на iPhone → https://www.docsagent.app
Создавайте, персонализируйте и управляйте собственными LLM. От предварительной обработки данных до тонкой настройки xTuring предлагает простой способ персонализации LLM с открытым исходным кодом. Присоединяйтесь к нашему сообществу Discord: https://discord.gg/TgHXuSJEk6
[EMNLP-2024] Создание мультимодальных языковых агентов для быстрого прототипирования и внедрения в производство
Большие языковые модели (LLM) стали проще, EasyLM — это универсальное решение для предварительного обучения, дообучения, оценки и обслуживания LLM в JAX/Flax.
API в стиле OpenAI для открытых больших языковых моделей, использующая LLM так же, как ChatGPT! Поддержка LLaMA, LLaMA-2, BLOOM, Falcon, Baichuan, Qwen, Xverse, SqlCoder, CodeLLaMA, ChatGLM, ChatGLM2, ChatGLM3 и т. д. Единый бэкэнд API для больших языковых моделей с открытым исходным кодом
Быстрый, ориентированный на клавиатуру интерфейс терминала для взаимодействия с большими языковыми моделями. Общайтесь с ChatGPT, Claude, Llama 3, Phi 3, Mistral, Gemma и другими.
Фреймворк LLM-агента в ComfyUI включает сервер MCP, Omost, GPT-sovits, ChatTTS, GOT-OCR2.0 и узлы приглашений FLUX, доступ к Feishu, Discord и адаптируется ко всем LLM с интерфейсами, подобными OpenAI/AISuite, таким как o1, ollama, gemini, grok, qwen, GLM, deepseek, kimi, doubao. Адаптировано к локальным LLM, VLM, GGUF, таким как llama-3.3 Janus-Pro, Linkage GraphRAG
Безопасная платформа runtime для обмана с низким кодом, использующая ИИ для виртуализации системы.
Запускайте модели ИИ локально на вашем компьютере с помощью привязок Node.js для llama.cpp. Применяйте JSON-схему к выводу модели на уровне генерации.
FinGLM: Стремится создать открытый, общественно полезный и долгосрочный проект по созданию больших финансовых моделей, используя открытый исходный код и открытость для продвижения «ИИ + Финансы».
Легкая библиотека для инференса файлов ONNX, написанная на C++. Она может запускать Stable Diffusion XL 1.0 на RPI Zero 2 (или в 298 МБ ОЗУ), а также Mistral 7B на настольных компьютерах и серверах. Поддерживаемые архитектуры: ARM, x86, WASM, RISC-V. Ускорение с помощью XNNPACK. Доступны привязки для Python, C# и JS (WASM).
llama и другие большие языковые модели на iOS и MacOS в автономном режиме с использованием библиотеки GGML.