安全最終確認 2026.09.21
Data Poisoning
データポイズニングデータポイズニング
学習データを悪意をもって改変し、AIモデルへ誤った振る舞いを学ばせる攻撃です。
MEANING
もう少し詳しく
攻撃者が学習データの内容や正解ラベルを混ぜ替え、特定の入力で誤答させたり、全体の性能を下げたりします。モデルを作る学習段階を狙う点が、利用時の指示で動作を変えようとするプロンプトインジェクションとの違いです。
EXAMPLE
身近な例
道路標識の学習画像へ誤ったラベルを混ぜ、特定の標識を別のものとして認識しやすくさせます。
MISUNDERSTANDING
よくある勘違い
チャットへ事実と違う質問を一度入力することが、そのままデータポイズニングになるわけではありません。学習へ使われるデータを汚染する攻撃を指します。
KEY POINT
覚えておくこと
学習データの入手元、変更履歴、検査方法を管理し、モデルの挙動を信頼できる別データで確認します。
SOURCE
確認した公式情報
コラボットが公式資料を確認し、初心者向けの表現へ整理しています。製品仕様や提供条件は変更される場合があります。
NIST・EU-U.S. Terminology and Taxonomy for AI ↗確認日:2026.09.21