第3章|現在の生成AI
DAY 15 ・ 約15分ディープフェイクと偽情報
本物らしい画像・音声・動画に、根拠を確かめる手順で向き合う。
ディープフェイクと偽情報の違い、合成の仕組み、来歴情報の限界を説明し、重要な依頼を別経路で安全に確認できる。
言葉を知る
用語だけを暗記せず、似た言葉との違いまで説明できる状態を目指します。
合成コンテンツ
画像、映像、音声、文章などを、AIを含むアルゴリズムで生成または大きく変更した情報です。創作、翻訳、アクセシビリティなど正当な用途もあり、合成されたこと自体と、悪意や虚偽があることは同じではありません。
ディープフェイク
深層学習などを使い、実在人物の顔、表情、動き、声を別の素材へ写したり、新しく作ったりして、本物らしく見せる合成コンテンツです。本人が言っていない発言や、していない行動を示す用途へ悪用される危険があります。
ミスインフォメーション
内容が誤っていても、発信者が人を欺く意図を持たずに共有した情報です。古い災害映像を今回の出来事だと思って広める例などがあり、意図がなくても被害は生じます。
ディスインフォメーション
人や社会を誤らせる目的で意図的に作成・拡散される偽情報です。内容の誤りだけでなく、欺く意図を含む概念であり、誰が何の目的で広げたかは証拠なしに断定しません。
情報の完全性
情報が正確で、改ざんや文脈の切り取りを受けず、信頼できる形で利用できる状態を考える視点です。一つの動画の真偽だけでなく、作成、編集、配布、再投稿までの経路を見ます。
プロベナンス(来歴)
コンテンツが誰や何によって作られ、どのように編集・署名されたかという履歴です。来歴が検証できれば出所判断の材料になりますが、記録された主張の内容が真実だと自動保証するものではありません。
Content Credentials
C2PAの仕様に基づき、作成・編集・署名などの来歴情報を改ざん検知できる形でコンテンツへ関連付ける仕組みです。付いていない作品を偽物と断定できず、付いていても発言内容の真偽は別に確かめます。
別経路確認
受け取った連絡とは独立した、以前から確認済みの電話番号、公式サイト、対面、社内名簿などを使って本人や組織へ確認する方法です。メッセージに書かれた番号へそのまま折り返すだけでは独立した確認になりません。
一次情報
出来事の当事者、責任を持つ組織、原資料、元の記録など、確認対象に直接近い情報です。一次情報にも誤りや偏りはあり得るため、発信日時、対象範囲、改訂、他の独立した資料との整合を見ます。
仕組みを理解する
1.本物らしさが、証拠の強さを意味しない時代になった
写真、録音、動画は、かつて文章より強い証拠のように受け取られがちでした。しかし生成技術の向上と利用の一般化により、顔、声、背景、口の動きを本物らしく合成し、短時間で大量に作ることが可能になりました。これは映像制作、教育、匿名化、読み上げなどにも役立つ一方、詐欺、なりすまし、嫌がらせ、世論操作にも使われます。大切なのは、すべてを疑って何も信じないことではありません。内容の重要度と行動の影響に応じて、発信元、原典、文脈、来歴、別経路を順に確認する習慣を持つことです。
2.ディープフェイクは、一枚の写真を貼るだけとは限らない
顔の合成では、多数の画像や映像から、顔の形、表情、向き、照明などのパターンを学び、別の映像へ反映します。音声の合成では、話者の高さ、抑揚、リズム、発音などの特徴を手掛かりに、新しい文章をその人らしい声で読み上げます。口の動きを音声へ合わせる処理、背景の生成、不要部分の除去を組み合わせると、単独の加工より自然になります。ただし方式は一つではなく、品質も素材、言語、圧縮、撮影条件で変わります。生成方法を完全に特定できなくても、安全な対応はできます。重要なのは、違和感探しだけを唯一の判定法にしないことです。
3.誤情報は、AIで作られたものだけではない
偽情報には、完全に生成された映像だけでなく、本物の映像へ違う説明を付ける、古い写真を現在の事件として再投稿する、発言の前後を切って意味を変える、架空の字幕やロゴを載せる方法もあります。反対に、AIで作った教育用画像や創作作品は、合成であるだけでディスインフォメーションとは限りません。判断するときは『AI生成か』と『主張は正しいか』『欺く目的があるか』を分けます。意図は本人の証言、作成記録、配布計画などの証拠がなければ断定しにくいため、まず確認できる内容、発信元、拡散経路を整理します。
4.チャットAIの誤回答と、本人になりすますメディアは危険の形が違う
チャットAIは、質問への答えとして自然だが誤った文章を作ることがあります。ディープフェイクは、本人の顔や声という信頼の手掛かりを利用し、発言者や出来事そのものを偽装できます。両方とも生成AIの誤用や限界に関係しますが、対策は同じではありません。チャットの事実は引用と一次情報で確かめます。本人を名乗る音声や映像から送金、認証情報、秘密保持を求められた場合は、内容の検索だけでなく、独立した連絡先で本人確認し、通常の承認手順を守ります。自然な会話が続くことも本人証明にはなりません。
5.できることは、確認の材料を複数集めること
発信アカウントの過去、公式サイトの発表、元投稿の日時、映像の完全版、同じ現場を記録した独立資料、位置や天候との整合、来歴情報などを集めれば、一つの見た目より強い判断材料になります。画像検索や動画の重要場面の検索は、過去素材の再利用を見つける助けになります。音声なら、依頼内容、電話番号、普段と異なる手順、急がせる言葉にも注目します。検出ツールを使う場合も、対象形式、精度、更新日を確認し、結果を『偽物の確率』のような一つの数字だけで確定しません。複数の弱い手掛かりを、独立した確認へつなげることが目的です。
6.できないことは、目や検出器だけで真偽を保証すること
不自然な指、瞬き、影、口と声のずれは手掛かりになる場合がありますが、生成技術の改善、編集、再圧縮で見え方は変わります。本物の低画質映像にも同じ乱れが出ます。検出器にも、未知の生成方法、短い素材、圧縮、対象言語による誤判定があります。来歴情報も万能ではありません。来歴がないから偽物とは限らず、正しく署名された素材でも、映っている主張や字幕が真実とは限りません。したがって『違和感がない』『検出器が低確率』『署名がある』のどれか一つで公開、送金、処分を決めてはいけません。
7.来歴情報は、内容の履歴を確かめる一つの層
C2PAのContent Credentialsは、対応する作成・編集工程や署名者の情報を、対象コンテンツと結び付けて検証するための標準です。検証できる来歴は、どの機器やサービスで作られ、どの編集が申告されたかを知る助けになります。ただし、C2PA自身も、来歴データへ『真実か虚偽か』の価値判断は付けないと説明しています。スクリーンショット、再撮影、対応しない配信経路では情報が失われる場合もあります。来歴の有無、署名の検証結果、主張の事実確認を別々に記録し、どれかを他の代用にしません。
8.実務では、媒体より依頼の影響を先に見る
社長そっくりの声で『取引先が変わった。今日中に新口座へ送金してほしい』と届いたとします。音声を精密に鑑定できなくても、対応は決められます。処理を止め、受信メッセージに含まれない社内名簿の番号へ連絡し、送金先変更の申請、二人承認、取引先への確認を実行します。パスワード、認証コード、連絡先一覧、秘密資料も渡しません。FBIも、AI生成音声を使うなりすましに対し、送信元とは独立して確認済みの連絡先を特定し、本人確認するよう勧めています。緊急性や権威は、確認を省く理由ではなく強める合図です。
9.失敗例は、映像の粗探しに集中して行動してしまうこと
担当者がビデオ会議の顔と声を見比べ、口元の小さなずれがないため本物と判断したとします。そのまま会議内で示されたQRコードを読み、認証情報を入力し、送金を承認しました。後で、会議の映像だけでなく、招待メール、表示名、偽サイトまで一連のなりすましだったと分かりました。失敗の原因は、合成を見抜けなかったことだけではありません。通常と違う経路、金銭と認証の高い影響、承認手順の省略を見逃したことです。対策は鑑定力を競うことではなく、本人確認と取引確認を別経路へ分け、単独承認を許さない仕組みにすることです。
10.安全の基本は、止める・分ける・残す
疑わしい連絡を受けたら、まず返信、送金、リンク操作、再共有を止めます。次に、本人確認と内容確認を分けます。本人確認は保存済みの連絡先や対面、内容確認は公式発表や原資料、取引確認は社内手続と相手先の既知窓口で行います。証拠を残す必要がある場合は、元ファイル、URL、受信日時、アカウント、やり取りを改変せず保管し、組織の情報セキュリティ担当へ報告します。被害者の顔や声を面白半分に再投稿すると被害を拡大するため、検証目的でも公開範囲を最小にします。個人情報や性的な合成物は保存・共有自体が重大な被害につながるため、専門窓口へ相談します。
11.確認は、出所・内容・文脈・行動の四層で行う
第一に出所を見ます。最初の投稿者、公式アカウント、URL、日時、元ファイルへ戻ります。第二に内容を見ます。映像の前後、字幕、発言全文、他の記録と合うかを確かめます。第三に文脈を見ます。別の国や過去の出来事ではないか、切り抜きで意味が変わっていないかを調べます。第四に求められた行動を見ます。送金、秘密、認証、急ぎ、連絡先変更があれば、真偽判定を待たず通常手順で停止できます。確認結果は『本物』『偽物』だけでなく、確認済み、矛盾あり、根拠不足、未確認に分け、不確かな状態を無理に埋めません。
12.読者演習は、拡散する前の確認メモを作る
家族を名乗る音声メッセージで『スマホをなくした。今すぐこの口座へ五万円送って』と届いた場面を想定してください。紙へ、受け取った経路、相手が名乗った人物、要求、期限、金額、リンクや口座を書きます。次に、メッセージ内に書かれていない確認済みの電話番号、家族間の合言葉、近くにいる別の家族など、独立した確認方法を二つ書きます。送金を保留し、確認できない場合の相談先を決めます。最後に、音声の自然さを一度も判定材料に使わず同じ安全な結論へ到達できるか確かめてください。この演習ができれば、将来さらに高品質な合成が現れても使える手順になります。
実例で理解する
具体例で考える
経理担当者のもとへ、社長の顔と声が映る短いビデオ通話が入り、『極秘の買収案件なので誰にも言わず、二十分以内に指定口座へ送金してほしい』と求められた場面を考えます。担当者は映像の真偽をその場で断定しません。通話を終了し、社内名簿に登録された社長秘書の番号へ電話します。同時に、口座変更申請があるかを取引先の既知窓口へ確認し、会社の二人承認を開始します。受信した番号、時刻、メッセージ、送金先を保存し、情報セキュリティ担当へ報告します。確認が終わるまで送金、QRコードの読取り、認証コードの共有を止めます。たとえ後で本物の社長だったと分かっても、通常手順を守った判断は正しいままです。反対に、映像が自然だったという理由で例外を認めれば、次回は高品質な合成へ対抗できません。真偽を見抜く能力ではなく、真偽が分からなくても損失を防げる業務設計が安全を作ります。
手を動かして理解する
- 今日の三つの用語を、見ずに説明する
- 仕事や生活の例へ置き換える
- 間違えた確認問題の理由を声に出して説明する
04|今日の理解度を確認する
今日の理解度を確認する
社長そっくりの音声で、普段と異なる口座へ緊急送金するよう求められました。最初の対応として最も適切なものはどれですか。
高品質な音声は聞き分けにくいため、真偽を声だけで決めません。送金を止め、受信経路とは独立した既知の連絡先、口座変更手続、複数承認で確認します。
声に違和感がなければ、その場で少額だけ送金する: 自然な声は本人証明にならず、少額でも攻撃者へ支払いや口座確認の機会を与えます。
処理を止め、社内名簿などで確認済みの連絡先から本人と手続を確認する: 音声の鑑定に依存せず、本人確認と取引確認を独立した経路で行う安全な対応です。
音声を同僚全員へ転送し、多数決で本物か決める: 多数の印象でも本人確認にはならず、合成音声や個人情報を不要に拡散します。
受信メッセージに書かれた別番号へ電話し、同じ相手に確認する: 攻撃者が用意した連絡先かもしれず、受信経路から独立した確認になりません。
C2PAのContent Credentialsなど、検証可能な来歴情報について最も適切な説明はどれですか。
来歴情報は出所や編集経路の検証を助けますが、内容へ真偽の価値判断を付けるものではありません。有無だけで本物・偽物を決めません。
付いていないコンテンツは、すべて偽物だと証明できる: 未対応機器、再配布、スクリーンショットなどで来歴がない場合もあり、欠如だけで偽物とは言えません。
署名が有効なら、映像内の発言内容も必ず真実である: 署名と対象資産の関係を検証できても、発言、字幕、説明の事実性は別問題です。
一度スクリーンショットにすれば、来歴は必ず完全に保存される: スクリーンショットや再撮影では、元コンテンツに関連付いた来歴情報が失われることがあります。
作成・編集・署名の履歴を確かめる材料だが、主張の真実性は別に確認する: 来歴の役割と限界を分けた適切な説明です。
誤った情報が広がる場面を整理するとき、ミスインフォメーションとディスインフォメーションを分ける中心的な点はどれですか。
どちらも誤情報になり得ますが、ディスインフォメーションは欺く意図を含みます。意図は推測で断定せず、確認できる証拠に基づいて扱います。
人を誤らせる意図が確認できるか: 誤って共有した情報と、意図的に欺くため作られた情報を分ける中心です。
画像か文章かという媒体の違い: 画像、音声、動画、文章のどれでも、意図のない誤りと意図的な偽情報があり得ます。
投稿の文字数が長いか短いか: 長さは情報の正確さや発信者の意図を示しません。
生成AIの有料プランを使ったか: 利用プランは、情報が誤りか、欺く意図があるかを決めません。
短い動画が本物か確かめる手順として、最も適切な組み合わせはどれですか。
出所、内容、文脈、独立した裏付けを組み合わせます。確認できない状態を『本物』か『偽物』へ無理に分類せず、保留できることも重要です。
映像の表情だけを見る→違和感がなければ即共有する: 高品質な合成を見落とす一方、本物の圧縮映像を誤って疑う可能性があります。
検出器を一つ使う→表示された数値だけで投稿者を処分する: 検出器にも対象外や誤判定があり、重大な決定を単独結果へ委ねられません。
元投稿と完全版へ戻る→日時・文脈・独立資料・来歴を確認する→根拠不足なら保留する: 複数の独立した材料を確認し、不確実性も明示する適切な手順です。
拡散数を見る→多く共有されていれば公式情報とみなす: 拡散の多さは、発信元や内容の正しさを保証しません。
ディープフェイク対策を業務手順へ組み込む考え方として、最も適切なものはどれですか。
生成品質が変わっても使える防御は、送金、認証、機密共有などの行動を、別経路確認と通常承認で止められる仕組みです。
全社員に顔の違和感だけを見抜く訓練を行い、承認手順はなくす: 目視には限界があり、承認をなくすと一度の誤判定が直接被害になります。
合成か断定できなくても、高影響の依頼を止められる確認・複数承認・報告手順を作る: 真偽判定の不確実性を前提に、行動の被害を防ぐ実務的な設計です。
社内から届いた動画は、発信元確認なしですべて本物として扱う: アカウント乗っ取りや連絡先偽装もあるため、社内らしい表示だけでは足りません。
疑わしい素材は注意喚起のため必ずSNSへ再投稿する: 本人の権利侵害、被害拡大、誤認の拡散につながるため、報告先と共有範囲を限定します。
04|今日の理解度を確認する
今日の理解度を確認する
今日の整理をする
この3点を持ち帰る
- ✓ 合成かどうかと、情報が誤りか、欺く意図があるかは分けて考える
- ✓ 目視・検出器・来歴の一つだけで真偽を確定せず、出所・内容・文脈を確認する
- ✓ 送金・認証・秘密など影響の大きい依頼は停止し、確認済みの別経路と通常の承認手順を使う