#ai-alignment Repository
Scopri 10 repository GitHub open source attivi contrassegnati con #ai-alignment, che raccolgono un totale di 57,142 stelle (con una media di 5,714 stelle per progetto). Il progetto leader di questo argomento è ifixai-ai/iFixAi, con 46,592 stelle.
10 repository in totale
Audit indipendente degli agenti IA. Eseguito da umani o dall'agente stesso, per rispondere alla domanda più cruciale nell'economia degli agenti IA: l'agente sta facendo ciò che dovrebbe fare? Con iFixAi puoi avere questa risposta in meno di 120 secondi.
AI Safety HOT: notizie, articoli e incidenti quotidiani sulla sicurezza dell’IA, tutto in un unico posto — jailbreak, prompt injection, allineamento, valutazioni e governance. Sito web, riepilogo giornaliero, RSS e MCP.
Curriculum di deep learning incentrato sull'allineamento del modello linguistico
Pacchetto InstructLab Core. Usalo per chattare con un modello ed eseguire il flusso di lavoro InstructLab per addestrare un modello utilizzando dati tassonomici personalizzati.
MultimodalC4 è un'estensione multimodale di c4 che intreccia milioni di immagini con testo.
Questa è una raccolta di articoli di ricerca su modelli linguistici di grandi dimensioni auto-correttivi con feedback automatizzato.
PromptInject è un framework che assembla i prompt in modo modulare per fornire un'analisi quantitativa della robustezza dei modelli linguistici (LLM) contro gli attacchi di prompt avversari. 🏆 Premio Best Paper al NeurIPS ML Safety Workshop 2022
Domande frequenti
Qual è il repository #ai-alignment più popolare su GitHub?
Il progetto open source #ai-alignment più alto in classifica su GitHub è ifixai-ai/iFixAi, con 46,592 stelle. Audit indipendente degli agenti IA. Eseguito da umani o dall'agente stesso, per rispondere alla domanda più cruciale nell'economia degli agenti IA: l'agente sta facendo ciò che dovrebbe fare? Con iFixAi puoi avere questa risposta in meno di 120 secondi.
Quali linguaggi di programmazione sono più utilizzati nei repository #ai-alignment?
Tra i progetti #ai-alignment più alti in classifica su GitHub, i linguaggi di programmazione più comuni sono Python, TeX.
Come viene calcolata la classifica dei repository #ai-alignment?
Monitoriamo 10 repository open source attivi contrassegnati con #ai-alignment (500+ stelle), per un totale di 57,142 stelle e una media di 5,714 stelle per repository. Le classifiche vengono aggiornate quotidianamente tramite l’API di GitHub.