安全最終確認 2026.11.04
Jailbreak
ジェイルブレイク(脱獄)ジェイルブレイク・だつごく
生成AIの安全制約や拒否動作を回避し、本来は出さない内容を出させようとする直接的なプロンプト攻撃です。
MEANING
もう少し詳しく
NISTは、モデルの出力へ設けられた制限を回避し、悪用を可能にするための直接的なプロンプト攻撃と定義しています。プロンプトインジェクションがアプリの指示や処理を上書きしようとする広い問題なのに対し、ジェイルブレイクは特にモデルの安全上の拒否を外すことを狙います。
EXAMPLE
身近な例
架空の役割や別の表現を使い、安全上は回答しない内容を生成するようAIへ繰り返し求める攻撃があります。
MISUNDERSTANDING
よくある勘違い
スマートフォンの制限解除と同じ操作ではありません。また、一度危険な出力が得られても、モデル自体が恒久的に書き換わったとは限りません。
KEY POINT
覚えておくこと
禁止文だけへ頼らず、AIの権限を絞り、入力・出力の監視、人の承認、レッドチーミングを組み合わせます。
SOURCE
確認した公式情報
コラボットが公式資料を確認し、初心者向けの表現へ整理しています。製品仕様や提供条件は変更される場合があります。
NIST・Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations ↗確認日:2026.11.04