本文へ移動 Ko.labot|コラボット
コラボットAI GLOSSARY
安全最終確認 2026.11.04

Jailbreak

ジェイルブレイク(脱獄)ジェイルブレイク・だつごく

ひとことで

生成AIの安全制約や拒否動作を回避し、本来は出さない内容を出させようとする直接的なプロンプト攻撃です。

01

MEANING

もう少し詳しく

NISTは、モデルの出力へ設けられた制限を回避し、悪用を可能にするための直接的なプロンプト攻撃と定義しています。プロンプトインジェクションがアプリの指示や処理を上書きしようとする広い問題なのに対し、ジェイルブレイクは特にモデルの安全上の拒否を外すことを狙います。

02

EXAMPLE

身近な例

架空の役割や別の表現を使い、安全上は回答しない内容を生成するようAIへ繰り返し求める攻撃があります。

03

MISUNDERSTANDING

よくある勘違い

スマートフォンの制限解除と同じ操作ではありません。また、一度危険な出力が得られても、モデル自体が恒久的に書き換わったとは限りません。

04

KEY POINT

覚えておくこと

禁止文だけへ頼らず、AIの権限を絞り、入力・出力の監視、人の承認、レッドチーミングを組み合わせます。

SOURCE

確認した公式情報

コラボットが公式資料を確認し、初心者向けの表現へ整理しています。製品仕様や提供条件は変更される場合があります。

NIST・Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations ↗確認日:2026.11.04
用語集へ戻る無料講座で順番に学ぶ →