#llamacpp Репозитории
Откройте для себя 49 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #llamacpp, с общим числом 215,151 звёзд (в среднем 4,390 на проект). Лидером этой темы является janhq/jan, набравший 45,982 звёзд.
Всего репозиториев: 49
Jan — это альтернатива ChatGPT с открытым исходным кодом, которая работает на вашем компьютере полностью в автономном режиме.
Ваш второй мозг на ИИ. С возможностью самостоятельного хостинга. Получайте ответы из интернета или ваших документов. Создавайте пользовательские агенты, планируйте автоматизацию, проводите глубокие исследования. Превратите любой онлайн или локальный LLM в ваш личный, автономный ИИ (gpt, claude, gemini, llama, qwen, mistral). Начните бесплатно.
Единая структура для создания корпоративных RAG-конвейеров с использованием небольших специализированных моделей
Автономный, оффлайн-чат-бот, похожий на ChatGPT. На базе Llama 2. 100% приватность, данные никогда не покидают ваше устройство. Новинка: поддержка Code Llama!
Открытая платформа для инференса языковых, визуальных, эмбеддинговых моделей, моделей переранжирования, изображений, аудио и видео. Развертывайте несколько движков на разнородном оборудовании — от ноутбука до распределенного кластера. Предоставляйте модели через API, совместимые с OpenAI.
Приватное и локальное приложение ИИ для управления личными знаниями для людей с высокой энтропией.
2-битное квантование, ядра и среда выполнения для потребительских устройств.
⚡ WebGPU-движок для инференса на чистом Rust — совместим с OpenAI API, нативная поддержка GGUF, работает на любом GPU. Без Python. Без llama.cpp. Один бинарный файл.
Веб-интерфейс для общения с Alpaca через llama.cpp. Полностью докеризованный, с простым в использовании API.
Библиотека C#/.NET для эффективного запуска LLM (🦙LLaMA/LLaVA) на вашем локальном устройстве.
Открытый ИИ-помощник для программирования в VS Code. Агент для программирования, автодополнение кода, чат, редактирование и проверка кода с локальными или размещёнными моделями. Ваши модели, ваша инфраструктура.
AGiXT — это динамичная платформа автоматизации ИИ-агентов, которая обеспечивает бесшовную оркестрацию управления инструкциями и выполнения сложных задач на различных поставках ИИ. Объединяя адаптивную память, интеллектуальные функции и универсальную систему плагинов, AGiXT предлагает эффективные и комплексные решения в области ИИ.
LSP-AI — это сервер языковых служб с открытым исходным кодом, который служит в качестве серверной части для функциональности на базе ИИ, разработанный для помощи и расширения возможностей инженеров-программистов, а не для их замены.
RamaLama — это инструмент разработчика с открытым исходным кодом, который упрощает локальное развертывание моделей ИИ из любого источника и облегчает их использование для инференса в производственной среде, используя привычный язык контейнеров.
Локальное приложение ИИ и движок логического вывода для агентов. Запускайте LLM с открытыми весами локально — конфиденциально, 100% офлайн на вашем компьютере. Присоединяйтесь к нашему Discord: https://discord.com/invite/8wGSsvmg4V
Балансировщик нагрузки и платформа для обслуживания LLM/VLM с открытым исходным кодом для самостоятельного хостинга LLM (и VLM) в масштабе 🏓🦙 Альтернатива проектам вроде llm-d, Docker Model Runner и т.д., но с меньшим количеством движущихся частей и простыми развертываниями, построенными вокруг экосистемы ggml. Работает на CPU и GPU.
Общайтесь с вашими любимыми моделями LLaMA в нативном приложении для macOS
🌌 Вдохните душу в своих любимых персонажей. Soul of Waifu — это десктопное приложение для ролевых игр и общения с ИИ-компаньонами, поддерживающее Live2D/VRM-аватары, голосовой чат и локальные LLM. Развивайтесь вместе в захватывающих чатах, RPG-приключениях и прямо на вашем рабочем столе.
Создавайте готовые к производству LLM-приложения и продвинутые агенты с использованием Python, LangChain и LangGraph. Это вспомогательный репозиторий к книге по генеративному ИИ с LangChain.
Рассчитайте требования к памяти GPU/токену/с для любого LLM. Поддерживает квантование llama.cpp/ggml/bnb/QLoRA
Сервис FastAPI для семантического поиска текста с использованием предварительно вычисленных встраиваний и продвинутых мер сходства, со встроенной поддержкой различных типов файлов через textract.
Самый передовой и полностью автономный клиентский ИИ-комплекс на Android на сегодняшний день.
Серия открытых моделей Spark-x2.6. Расширяя границы агентных возможностей моделей на устройстве
Официальный репозиторий моей книги «Практическое руководство по тонкой настройке LLM с использованием PyTorch и Hugging Face»
Сквозная документация по настройке собственного локального и полностью частного LLM-сервера на Debian. Оснащен чатом, веб-поиском, RAG, управлением моделями, MCP-серверами, генерацией изображений и TTS.
Действуйте, опираясь на собственный интеллект: создавайте приложения на Go, напрямую интегрирующие llama.cpp для локального вывода с аппаратным ускорением в Linux, macOS, Windows и WebAssembly.
Фреймворк llama-cpp-agent — это инструмент, предназначенный для простого взаимодействия с большими языковыми моделями (LLM). Он позволяет пользователям общаться с моделями LLM, выполнять структурированные вызовы функций и получать структурированный вывод. Также работает с моделями, не дообученными для вывода JSON и вызовов функций.
Оптимизируйте свой рабочий процесс с помощью Lynkr — инструмента CLI, который действует как HTTP-прокси для эффективного взаимодействия с кодом с использованием Claude Code CLI.
Еще одна языковая модель: вывод LLM на C++/CUDA, никаких библиотек, кроме ввода-вывода
Используйте Code Llama с Visual Studio Code и расширением Continue. Локальная альтернатива GitHub Copilot на базе LLM.
Библиотека Go для встроенного векторного поиска и семантических вложений, использующая llama.cpp
QwQ — это серия моделей рассуждений, разработанная командой Qwen облака Alibaba Cloud.
Browser Operator — ИИ-браузер со встроенной мультиагентной платформой! Открытая альтернатива ChatGPT Atlas, Perplexity Comet, Dia и браузеру Microsoft Copilot Edge
Часто задаваемые вопросы
Какой репозиторий по теме #llamacpp наиболее популярен на GitHub?
Самый высоко оценённый проект с открытым исходным кодом по теме #llamacpp на GitHub — janhq/jan, набравший 45,982 звёзд. Jan — это альтернатива ChatGPT с открытым исходным кодом, которая работает на вашем компьютере полностью в автономном режиме.
Какие языки программирования чаще всего используются в репозиториях по теме #llamacpp?
Среди наиболее высоко оценённых проектов по теме #llamacpp на GitHub чаще всего используются языки программирования Python, Rust, TypeScript, JavaScript.
Как рассчитывается рейтинг репозиториев по теме #llamacpp?
Мы отслеживаем 49 активных репозиториев с открытым исходным кодом, отмеченных тегом #llamacpp (500 и более звёзд), с общим числом 215,151 звёзд и в среднем 4,390 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.