#ai-red-teaming Repository
Scopri 8 repository GitHub open source attivi contrassegnati con #ai-red-teaming, che raccolgono un totale di 19,286 stelle (con una media di 2,410 stelle per progetto). Il progetto leader di questo argomento è Tencent/AI-Infra-Guard, con 7,604 stelle.
9 repository in totale
Una piattaforma full-stack di AI Red Teaming che protegge gli ecosistemi di IA tramite Agent Scan, Skills Scan, MCP Scan, AI Infra Scan e la valutazione dei jailbreak degli LLM.
Toolkit open source di Microsoft per il red teaming dell’IA. Metti alla prova i sistemi di IA generativa con scansioni automatizzate, attacchi adattivi su più turni e un’interfaccia web.
Laboratori playground per il AI Red Teaming per eseguire formazione di AI Red Teaming, inclusa l'infrastruttura.
Penetration test autonomi basati su IA e open source. 50 agenti specializzati per web, API, cloud, Active Directory, Kubernetes, CI/CD e IA/LLM (OWASP LLM Top 10), con un grafo dei percorsi di attacco verificato con evidenze. Funziona su un LLM locale dietro un Privacy Gateway. Si integra con GitHub, GitLab, Jenkins, VS Code, JetBrains, n8n, Grafana e Splunk.
Una guida completa ai test avversariali e alla valutazione della sicurezza dei sistemi di IA, aiutando le organizzazioni a identificare le vulnerabilità prima che gli aggressori le sfruttino.
Emulazione di avversari open source per agenti IA e server MCP.
Un'enciclopedia di tecniche di jailbreaking per rendere più sicuri i modelli di intelligenza artificiale.
Questo documento raccoglie progetti open source, articoli accademici, benchmark delle capacità e soluzioni commerciali (internazionali e cinesi) nei settori dei penetration test sull’IA, del red teaming degli LLM, degli agenti offensivi autonomi e della scoperta delle vulnerabilità, con l’obiettivo di aiutare ricercatori, ingegneri della sicurezza e responsabili delle decisioni aziendali a formarsi rapidamente una visione d’insieme completa.
Domande frequenti
Qual è il repository #ai-red-teaming più popolare su GitHub?
Il progetto open source #ai-red-teaming più alto in classifica su GitHub è Tencent/AI-Infra-Guard, con 7,604 stelle. Una piattaforma full-stack di AI Red Teaming che protegge gli ecosistemi di IA tramite Agent Scan, Skills Scan, MCP Scan, AI Infra Scan e la valutazione dei jailbreak degli LLM.
Quali linguaggi di programmazione sono più utilizzati nei repository #ai-red-teaming?
Tra i progetti #ai-red-teaming più alti in classifica su GitHub, i linguaggi di programmazione più comuni sono Python, TypeScript, Jupyter Notebook.
Come viene calcolata la classifica dei repository #ai-red-teaming?
Monitoriamo 8 repository open source attivi contrassegnati con #ai-red-teaming (500+ stelle), per un totale di 19,286 stelle e una media di 2,410 stelle per repository. Le classifiche vengono aggiornate quotidianamente tramite l’API di GitHub.