#ai-safety 仓库
探索 53 个标记为 #ai-safety 的活跃开源 GitHub 仓库,它们累计获得 169,967 个 Star(平均每个项目 3,206 个)。该主题的领先项目是 ifixai-ai/iFixAi,拥有 46,592 个 Star。
共 53 个仓库
AI 智能体独立审计。无论是人工运行还是由智能体自身运行,旨在回答 AI 智能体经济中最关键的问题:该智能体是否在执行其应有的任务?使用 iFixAi,您可以在 120 秒内获得答案。
一个全栈式 AI 红队测试平台,通过 Agent 扫描、Skills 扫描、MCP 扫描、AI 基础设施扫描和 LLM 越狱评估,保障 AI 生态系统安全。
AI 代理治理工具包 — 策略执行、零信任身份、执行沙箱以及自主 AI 代理的可靠性工程。涵盖 10/10 OWASP Agentic Top 10。
🧠 精选顶级AI工具的系统提示合集。非常适合AI代理构建者和提示工程师。包括:ChatGPT, Claude, Perplexity, Manus, Claude-Code, Loveable, v0, Grok, same new, windsurf, notion, 和 MetaAI。
面向 AI 的形式化验证:一个基于 Lean 4 + Dafny 的证明检查器,可识别虚假的 AI 证明(奖励操纵),并为编程智能体实现经验证的递归式自我改进(RSI)。用于数学、物理和软件工程的 AI。
[NeurIPS 2026] 编码智能体和前沿大语言模型中的安全失效。用于研究 AI 智能体在完成任务时何时会生成不安全数据的可复现实验环境。
面向 AI 编码代理的执行前防护工具。它会在工具调用运行前,拦截具有破坏性的 Git 和文件系统命令,以及常见的敏感文件访问尝试。支持 Amp Code、Antigravity CLI、Claude Code、Codex、Cursor、DeepSeek Harness、Devin CLI、GitHub Copilot CLI、Grok Build、Hermes Agent、Kimi Code、OpenClaw、OpenCode 和 Pi。
Agentlens 是一个值得信赖的智能体交易平台。在这里,您可以快速找到满足您需求的智能体,也可以发布您自己的智能体,将其转化为您的数字资产。我们鼓励每个人将自己的专业领域转化为智能体并将其变为数字资产,让其他人看到您独特的优势。
论文根据我们的调查进行组织:Evaluating Large Language Models: A Comprehensive Survey.
面向 AI 智能体的自托管运行时控制平面。通过本地控制面板,在工具调用执行前进行监控、人工审核(HITL)或拦截,防止机密泄露、提示词注入、供应链攻击等风险。兼容各类智能体(Claude、Codex、LangChain 等)。
在沙箱中运行 AI 智能体,限制其可执行、读取、写入的内容以及可访问的网络资源。Box 将操作系统级隔离与默认拒绝的 Dogwood 策略相结合,并通过凭证注入将机密保留在智能体之外。使用 Rust 编写。支持 Apple 芯片上的 macOS 和 Linux。
AI 越狱:35 条可直接粘贴使用的 AI 越狱提示词,适用于 25 多种前沿模型和开放权重模型——包括系统提示词、AGENTS.md 规范和 Ollama Modelfile。专为 AI 安全研究和红队测试打造。
PromptInject 是一个以模块化方式组装提示词的框架,旨在对大语言模型(LLM)抵御对抗性提示攻击的鲁棒性进行定量分析。🏆 荣获 NeurIPS 2022 机器学习安全研讨会最佳论文奖
常见问题解答
GitHub 上最受欢迎的 #ai-safety 仓库是什么?
GitHub 上排名第一的开源 #ai-safety 项目是 ifixai-ai/iFixAi,拥有 46,592 个 Star。AI 智能体独立审计。无论是人工运行还是由智能体自身运行,旨在回答 AI 智能体经济中最关键的问题:该智能体是否在执行其应有的任务?使用 iFixAi,您可以在 120 秒内获得答案。
#ai-safety 仓库中最常使用的编程语言有哪些?
在 GitHub 上排名靠前的 #ai-safety 项目中,最常见的编程语言是 Python, TypeScript, Jupyter Notebook, Rust。
#ai-safety 仓库的排名是如何计算的?
我们跟踪了 53 个标记为 #ai-safety 且拥有 500+ 个 Star 的活跃开源仓库,共计获得 169,967 个 Star,平均每个仓库拥有 3,206 个 Star。排名每日根据 GitHub API 更新。