#ai-alignment Repositorios
Descubre 10 repositorios activos de código abierto de GitHub etiquetados con #ai-alignment, que acumulan 57,142 estrellas en total (una media de 5,714 estrellas por proyecto). El líder de este tema es ifixai-ai/iFixAi, con 46,592 estrellas.
10 repositorios en total
Auditoría independiente de agentes de IA. Ejecutada por humanos o por el propio agente, para responder a la pregunta más crucial en la economía de los agentes de IA: ¿Está el agente haciendo lo que se supone que debe hacer? Con iFixAi, puede obtener esta respuesta en menos de 120 segundos.
AI Safety HOT: noticias, artículos e incidentes diarios sobre seguridad de la IA, todo en un solo lugar: jailbreaks, inyección de prompts, alineación, evaluaciones y gobernanza. Sitio web, resumen diario, RSS y MCP.
Currículo de aprendizaje profundo centrado en la alineación del modelo de lenguaje
Paquete principal de InstructLab. Úselo para chatear con un modelo y ejecutar el flujo de trabajo de InstructLab para entrenar un modelo utilizando datos de taxonomía personalizados.
MultimodalC4 es una extensión multimodal de c4 que entrelaza millones de imágenes con texto.
Esta es una colección de artículos de investigación sobre modelos de lenguaje grandes autocorrectoras con retroalimentación automatizada.
PromptInject es un marco que ensambla prompts de manera modular para proporcionar un análisis cuantitativo de la robustez de los LLM frente a ataques de prompts adversarios. 🏆 Premio al Mejor Artículo en el Taller de Seguridad de ML de NeurIPS 2022
Preguntas frecuentes
¿Cuál es el repositorio de #ai-alignment más popular en GitHub?
El proyecto de código abierto de #ai-alignment mejor posicionado en GitHub es ifixai-ai/iFixAi, con 46,592 estrellas. Auditoría independiente de agentes de IA. Ejecutada por humanos o por el propio agente, para responder a la pregunta más crucial en la economía de los agentes de IA: ¿Está el agente haciendo lo que se supone que debe hacer? Con iFixAi, puede obtener esta respuesta en menos de 120 segundos.
¿Qué lenguajes de programación se utilizan más en los repositorios de #ai-alignment?
Entre los proyectos de #ai-alignment mejor posicionados en GitHub, los lenguajes de programación más comunes son Python, TeX.
¿Cómo se calcula la clasificación de los repositorios de #ai-alignment?
Seguimos 10 repositorios activos de código abierto etiquetados con #ai-alignment (500+ estrellas), que suman un total de 57,142 estrellas, con una media de 5,714 estrellas por repositorio. Las clasificaciones se actualizan diariamente a partir de la API de GitHub.