安全最終確認 2026.08.22
Hallucination / Confabulation
ハルシネーションハルシネーション
生成AIが、誤った内容や存在しない情報を、もっともらしく示す現象です。
MEANING
もう少し詳しく
NISTはConfabulationとして、誤りや虚偽を自信ありげに生成すること、入力や同じ文脈内の過去の出力と矛盾することを含めています。生成モデルが統計的に出力を作る仕組みから起こり得ます。
EXAMPLE
身近な例
存在しない論文名、誤った料金、架空の法律条文を自然な文章で示す場合があります。
MISUNDERSTANDING
よくある勘違い
AIが意図的に嘘をついた、または故障した時だけ起きる現象ではありません。
KEY POINT
覚えておくこと
日付、金額、法律、医療、引用、固有名詞は一次情報へ戻って確認します。
SOURCE
確認した公式情報
コラボットが公式資料を確認し、初心者向けの表現へ整理しています。製品仕様や提供条件は変更される場合があります。
NIST・Generative AI Profile(NIST AI 600-1) ↗確認日:2026.08.22