#ai-alignment Dépôts
Découvrez 10 dépôts GitHub open source actifs associés à #ai-alignment, cumulant 57,142 étoiles au total (soit une moyenne de 5,714 étoiles par projet). Le projet en tête de ce thème est ifixai-ai/iFixAi, avec 46,592 étoiles.
10 dépôts au total
Audit indépendant des agents IA. Exécuté par un humain ou par l'agent lui-même, pour répondre à la question la plus cruciale de l'économie des agents IA : l'agent fait-il ce qu'il est censé faire ? Avec iFixAi, vous pouvez obtenir cette réponse en moins de 120 secondes.
AI Safety HOT : actualités, articles et incidents quotidiens sur la sécurité de l’IA, réunis en un seul endroit — jailbreaks, injection de prompts, alignement, évaluations et gouvernance. Site web, récapitulatif quotidien, RSS et MCP.
Curriculum d'apprentissage profond axé sur l'alignement des modèles linguistiques
Package InstructLab Core. Utilisez-le pour discuter avec un modèle et exécuter le flux de travail InstructLab pour entraîner un modèle à l'aide de données taxonomiques personnalisées.
MultimodalC4 est une extension multimodale de c4 qui entrelace des millions d'images avec du texte.
Ceci est une collection d'articles de recherche sur les grands modèles linguistiques auto-correctifs avec retour automatisé.
PromptInject est un framework qui assemble des prompts de manière modulaire pour fournir une analyse quantitative de la robustesse des LLM face aux attaques par injection de prompts. 🏆 Prix du meilleur article au NeurIPS ML Safety Workshop 2022
Foire aux questions
Quel est le dépôt #ai-alignment le plus populaire sur GitHub ?
Le projet #ai-alignment open source le mieux classé sur GitHub est ifixai-ai/iFixAi, avec 46,592 étoiles. Audit indépendant des agents IA. Exécuté par un humain ou par l'agent lui-même, pour répondre à la question la plus cruciale de l'économie des agents IA : l'agent fait-il ce qu'il est censé faire ? Avec iFixAi, vous pouvez obtenir cette réponse en moins de 120 secondes.
Quels langages de programmation sont les plus utilisés dans les dépôts #ai-alignment ?
Parmi les projets #ai-alignment les mieux classés sur GitHub, les langages de programmation les plus courants sont Python, TeX.
Comment le classement des dépôts #ai-alignment est-il calculé ?
Nous suivons 10 dépôts open source actifs associés à #ai-alignment (500+ étoiles), totalisant 57,142 étoiles, avec une moyenne de 5,714 étoiles par dépôt. Les classements sont mis à jour quotidiennement à partir de l’API GitHub.