#ai-alignment Repositories
Entdecke 10 aktive Open-Source-GitHub-Repositories, die mit #ai-alignment getaggt sind und insgesamt 57,142 Sterne gesammelt haben (durchschnittlich 5,714 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist ifixai-ai/iFixAi mit 46,592 Sternen.
Insgesamt 10 Repositories
Unabhängige Prüfung von KI-Agenten. Durchgeführt von Menschen oder dem Agenten selbst, um die wichtigste Frage in der KI-Agenten-Ökonomie zu beantworten: Tut der Agent das, was er tun soll? Mit iFixAi erhalten Sie diese Antwort in weniger als 120 Sekunden.
AI Safety HOT: tägliche Nachrichten, Fachartikel und Vorfälle zur KI-Sicherheit an einem Ort — Jailbreaks, Prompt-Injection, Alignment, Evaluationen und Governance. Website, tägliche Zusammenfassung, RSS und MCP.
Deep-Learning-Lehrplan mit Schwerpunkt auf Sprachmodell-Ausrichtung
InstructLab Core-Paket. Verwenden Sie dies, um mit einem Modell zu chatten und den InstructLab-Workflow auszuführen, um ein Modell mit benutzerdefinierten Taxonomiedaten zu trainieren.
MultimodalC4 ist eine multimodale Erweiterung von c4, die Millionen von Bildern mit Text durchsetzt.
Dies ist eine Sammlung von Forschungsarbeiten zu sich selbst korrigierenden großen Sprachmodellen mit automatisiertem Feedback.
PromptInject ist ein Framework, das Prompts modular zusammenstellt, um eine quantitative Analyse der Robustheit von LLMs gegenüber adversariellen Prompt-Angriffen zu ermöglichen. 🏆 Auszeichnung als bestes Paper beim NeurIPS ML Safety Workshop 2022
Häufig gestellte Fragen
Welches ist das beliebteste #ai-alignment-Repository auf GitHub?
Das am höchsten eingestufte Open-Source-#ai-alignment-Projekt auf GitHub ist ifixai-ai/iFixAi mit 46,592 Sternen. Unabhängige Prüfung von KI-Agenten. Durchgeführt von Menschen oder dem Agenten selbst, um die wichtigste Frage in der KI-Agenten-Ökonomie zu beantworten: Tut der Agent das, was er tun soll? Mit iFixAi erhalten Sie diese Antwort in weniger als 120 Sekunden.
Welche Programmiersprachen werden in #ai-alignment-Repositories am häufigsten verwendet?
Unter den am höchsten eingestuften #ai-alignment-Projekten auf GitHub sind Python, TeX die am häufigsten verwendeten Programmiersprachen.
Wie wird das Ranking der #ai-alignment-Repositories berechnet?
Wir verfolgen 10 aktive Open-Source-Repositories, die mit #ai-alignment getaggt sind (500+ Sterne), mit insgesamt 57,142 Sternen und durchschnittlich 5,714 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.