#ai-alignment Repositórios
Descubra 10 repositórios ativos de código aberto no GitHub marcados com #ai-alignment, acumulando um total de 57,142 estrelas (uma média de 5,714 por projeto). O líder deste tópico é ifixai-ai/iFixAi, com 46,592 estrelas.
10 repositórios no total
Auditoria independente de agentes de IA. Executada por humanos ou pelo próprio agente, para responder à pergunta mais crucial na economia dos agentes de IA: o agente está fazendo o que deveria fazer? Com o iFixAi, você pode obter essa resposta em menos de 120 segundos.
AI Safety HOT: notícias, artigos e incidentes diários sobre segurança de IA em um só lugar — jailbreaks, injeção de prompts, alinhamento, avaliações e governança. Site, resumo diário, RSS e MCP.
Currículo de aprendizado profundo focado no alinhamento de modelos de linguagem
Pacote central do InstructLab. Use-o para conversar com um modelo e executar o fluxo de trabalho do InstructLab para treinar um modelo usando dados de taxonomia personalizados.
MultimodalC4 é uma extensão multimodal de c4 que intercala milhões de imagens com texto.
Esta é uma coleção de artigos de pesquisa para Modelos de Linguagem Grandes Autocorretivos com Feedback Automatizado.
PromptInject é uma estrutura que monta prompts de forma modular para fornecer uma análise quantitativa da robustez de LLMs contra ataques adversários de prompt. 🏆 Prêmio de Melhor Artigo no NeurIPS ML Safety Workshop 2022
Perguntas Frequentes
Qual é o repositório de #ai-alignment mais popular no GitHub?
O projeto de código aberto de #ai-alignment mais bem classificado no GitHub é ifixai-ai/iFixAi, com 46,592 estrelas. Auditoria independente de agentes de IA. Executada por humanos ou pelo próprio agente, para responder à pergunta mais crucial na economia dos agentes de IA: o agente está fazendo o que deveria fazer? Com o iFixAi, você pode obter essa resposta em menos de 120 segundos.
Quais linguagens de programação são mais usadas nos repositórios de #ai-alignment?
Entre os projetos de #ai-alignment mais bem classificados no GitHub, as linguagens de programação mais comuns são Python, TeX.
Como é calculada a classificação dos repositórios de #ai-alignment?
Acompanhamos 10 repositórios ativos de código aberto marcados com #ai-alignment (com mais de 500 estrelas), totalizando 57,142 estrelas e uma média de 5,714 estrelas por repositório. As classificações são atualizadas diariamente a partir da API do GitHub.