#ai-alignment Репозитории
Откройте для себя 10 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #ai-alignment, с общим числом 57,142 звёзд (в среднем 5,714 на проект). Лидером этой темы является ifixai-ai/iFixAi, набравший 46,592 звёзд.
Всего репозиториев: 10
Независимый аудит ИИ-агентов. Проводится человеком или самим агентом, чтобы ответить на самый важный вопрос в экономике ИИ-агентов: выполняет ли агент то, что должен? С iFixAi вы получите ответ менее чем за 120 секунд.
AI Safety HOT: ежедневные новости, статьи и инциденты в области безопасности ИИ в одном месте — джейлбрейки, инъекции промптов, выравнивание, оценки и управление. Сайт, ежедневная сводка, RSS и MCP.
Учебная программа по глубокому обучению, ориентированная на согласование языковой модели
Основной пакет InstructLab. Используйте его для общения с моделью и выполнения рабочего процесса InstructLab для обучения модели с использованием пользовательских данных таксономии.
MultimodalC4 — это мультимодальное расширение c4, которое чередует миллионы изображений с текстом.
Это сборник исследовательских работ по самокорректирующимся большим языковым моделям с автоматизированной обратной связью.
PromptInject — это фреймворк, который собирает промпты модульным способом для обеспечения количественного анализа устойчивости больших языковых моделей (LLM) к состязательным атакам через промпты. 🏆 Награда за лучшую статью на семинаре NeurIPS ML Safety Workshop 2022
Часто задаваемые вопросы
Какой репозиторий по теме #ai-alignment наиболее популярен на GitHub?
Самый высоко оценённый проект с открытым исходным кодом по теме #ai-alignment на GitHub — ifixai-ai/iFixAi, набравший 46,592 звёзд. Независимый аудит ИИ-агентов. Проводится человеком или самим агентом, чтобы ответить на самый важный вопрос в экономике ИИ-агентов: выполняет ли агент то, что должен? С iFixAi вы получите ответ менее чем за 120 секунд.
Какие языки программирования чаще всего используются в репозиториях по теме #ai-alignment?
Среди наиболее высоко оценённых проектов по теме #ai-alignment на GitHub чаще всего используются языки программирования Python, TeX.
Как рассчитывается рейтинг репозиториев по теме #ai-alignment?
Мы отслеживаем 10 активных репозиториев с открытым исходным кодом, отмеченных тегом #ai-alignment (500 и более звёзд), с общим числом 57,142 звёзд и в среднем 5,714 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.