Git Stars Git Stars

#llm-safety リポジトリ

#llm-safetyのタグが付いた、GitHub上の17件のアクティブなオープンソースリポジトリをご覧ください。合計スター数は27,235個で、プロジェクトあたりの平均は1,602個です。このトピックをリードしているのは、7,539個のスターを獲得しているNVIDIA-NeMo/Guardrailsです。

17
リポジトリ総数
27,235
合計スター数
1,602
リポジトリあたりの平均スター数

リポジトリ合計17件

1
NVIDIA-NeMo/Guardrails

NeMo Guardrailsは、LLMやエージェント型アプリケーションにプログラム可能な安全性・セキュリティ制御を適用するためのオープンソースライブラリです。

NVIDIA-NeMo
⭐ 7,539 Python 👤 NVIDIA-NeMo Organization 🕐 更新日時 2026-11-19 📅 作成日 2023-04-18
2
confident-ai/deepteam

DeepTeamは、LLMおよびAIエージェントのレッドチーミングを行うためのフレームワークです。

confident-ai
⭐ 3,114 Python 👤 confident-ai Organization 🕐 更新日時 2026-10-23 📅 作成日 2025-03-05
3
wuyoscar/Internal-Safety-Collapse

[NeurIPS 2026] コーディングエージェントと最先端LLMにおける安全性の失敗。タスクの遂行中にAIエージェントがいつ危険なデータを生成するかを研究するための、再現可能なワークスペース。

wuyoscar
⭐ 2,623 Python 👤 wuyoscar User 🕐 更新日時 2026-11-16 📅 作成日 2026-03-01
4
ydyjya/Awesome-LLM-Safety

大規模言語モデル(LLM)に焦点を当てた、安全関連の論文、記事、リソースのキュレーションリストです。このリポジトリは、研究者、実務家、愛好家が、これらの強力なモデルを取り巻く安全性の影響、課題、進歩に関する洞察を得られるようにすることを目的としています。

ydyjya
⭐ 1,921 HTML 👤 ydyjya User 🕐 更新日時 2026-07-12 📅 作成日 2023-10-29
6
safety-research/bloom

bloom - あらゆる行動を即座に評価する 🌸🌱

safety-research
⭐ 1,429 Python 👤 safety-research Organization 🕐 更新日時 2026-05-07 📅 作成日 2025-06-24
7
meridianlabs-ai/inspect_petri

アライメント仮説を迅速に探索できるアライメント監査エージェント

meridianlabs-ai
⭐ 1,421 Python 👤 meridianlabs-ai Organization 🕐 更新日時 2026-11-20 📅 作成日 2025-08-19
8
cvs-health/uqlm

[JMLR 2026] UQLM:不確実性の定量化を用いて大規模言語モデルのハルシネーションを検出するPythonパッケージ

cvs-health
⭐ 1,215 Python 👤 cvs-health Organization 🕐 更新日時 2026-11-08 📅 作成日 2025-04-17
9
sylinrl/TruthfulQA

TruthfulQA: モデルが人間の偽りを模倣する方法を測定する

sylinrl
⭐ 922 Jupyter Notebook 👤 sylinrl User 🕐 更新日時 2025-01-16 📅 作成日 2021-08-24
10
centerforaisafety/HarmBench

HarmBench:自動化されたレッドチーミングと堅牢な拒否のための標準化された評価フレームワーク

centerforaisafety
⭐ 819 Jupyter Notebook 👤 centerforaisafety Organization 🕐 更新日時 2024-08-16 📅 作成日 2024-02-02
11
0xfreysa/agent

LLMコード

0xfreysa
⭐ 789 TypeScript 👤 0xfreysa Organization 🕐 更新日時 2025-05-05 📅 作成日 2024-11-22
12
liuxiaomingskm/datashield-lightweight-labs

インターネット上のプライバシー/ユーザーデータを保護するための軽量ツール

liuxiaomingskm
⭐ 649 MDX 👤 liuxiaomingskm User 🕐 更新日時 2025-12-28 📅 作成日 2025-12-28
13
chrisliu298/awesome-llm-unlearning

大規模言語モデルにおける機械学習のアンラーニングのためのリソースリポジトリ

chrisliu298
⭐ 640 👤 chrisliu298 User 🕐 更新日時 2026-10-06 📅 作成日 2024-03-27
14
HowieHwong/TrustLLM

[ICML 2024] TrustLLM:真実性、安全性、公平性、堅牢性、プライバシー、倫理の観点からLLMの信頼性を評価します。ローカルモデル、互換API、AIエージェントのオーケストレーションに対応したPython/CLIツールキットです。

HowieHwong
⭐ 635 Python 👤 HowieHwong User 🕐 更新日時 2026-10-04 📅 作成日 2023-12-23

よくある質問

1

GitHubで最も人気のある#llm-safetyリポジトリは何ですか?

GitHubで最も上位にランクインしているオープンソースの#llm-safetyプロジェクトは、7,539個のスターを獲得しているNVIDIA-NeMo/Guardrailsです。NeMo Guardrailsは、LLMやエージェント型アプリケーションにプログラム可能な安全性・セキュリティ制御を適用するためのオープンソースライブラリです。

2

#llm-safetyリポジトリで最もよく使われているプログラミング言語は何ですか?

GitHubで上位にランクインしている#llm-safetyプロジェクトでは、Python, Jupyter Notebook, TypeScript, HTMLが最も一般的なプログラミング言語です。

3

#llm-safetyリポジトリのランキングはどのように算出されていますか?

#llm-safetyのタグが付いた17件のアクティブなオープンソースリポジトリ(スター500個以上)を追跡しています。合計スター数は27,235個で、リポジトリあたりの平均は1,602個です。ランキングはGitHub APIからのデータに基づいて毎日更新されます。