本文へ移動
← 目次 生成AI基礎講座 DAY 18

第4章|安全・法律・社会原則

DAY 18 ・ 約15分

情報リテラシーとネット上の脅威

自然な文章や本物らしい声に流されず、発信元・内容・行動を分けて確認する。

今日できるようになること

フィッシングやソーシャルエンジニアリングの仕組みと限界を説明し、重要な依頼を公式経路と別経路確認で安全に判断できる。

01 言葉を知る02 仕組みを理解する03 実例で理解する04 今日の理解度を確認する05 今日の整理をする
01|言葉を知る

言葉を知る

用語だけを暗記せず、似た言葉との違いまで説明できる状態を目指します。

情報リテラシー

必要な情報を探すだけでなく、発信元、目的、根拠、日付、対象範囲を評価し、影響に応じて利用・共有・保留を選ぶ能力です。検索上位、拡散数、文章の自然さは判断材料の一部にすぎません。

フィッシング

実在する企業や組織になりすまし、メールや偽サイトなどで認証情報、カード情報、金銭をだまし取ったり、不正なファイルを開かせたりする攻撃です。魚釣りのように偽の餌で行動を誘うことから名付けられました。

スミッシング

SMSなどの短いメッセージを使うフィッシングです。配送、不在通知、料金未納、アカウント停止などを装い、短い文とリンクで急いで行動させます。送信者名が正しく見えても安全とは限りません。

ビッシング

電話や音声メッセージを使い、本人、上司、金融機関、公的機関などになりすます攻撃です。生成AIによる声の複製が使われる場合もあり、声が似ていることだけでは本人確認になりません。

ソーシャルエンジニアリング

システムの弱点だけでなく、信頼、恐怖、焦り、権威、親切心など人の心理と業務手順を利用して、秘密の開示や危険な操作へ誘導する手口の総称です。対策には技術と人の確認手順の両方が要ります。

ドメイン

インターネット上の住所に当たる文字列で、URLの中でサイトの運営先を見分ける重要な部分です。ロゴや画面を本物そっくりにコピーできても、正規ドメインと無関係な場所へ誘導される場合があります。

多要素認証

知識情報、所持物、生体情報など異なる種類の要素を組み合わせて本人を確認する方法です。パスワードだけより強い一方、入力したワンタイムコードまで偽サイトへ渡す攻撃があるため、方式の違いも理解します。

フィッシング耐性

偽サイトへ誘導されても、認証結果を正規の相手とその通信へ暗号学的に結び付け、攻撃者が別サイトで使い回しにくくする性質です。パスキーや適切なセキュリティキーが代表例で、手入力するコードは同じ意味ではありません。

02|仕組みを理解する

仕組みを理解する

1.情報が多い時代ほど、読む力より止まる力が要る

ネット上では、公式発表、報道、個人の体験、広告、古い記事、切り取られた画像、生成AIの文章が同じ画面へ並びます。文章が整い、会社のロゴがあり、多く共有されていても、内容が正しいとは限りません。IPAの『情報セキュリティ10大脅威 2026』でも、手口は同じ名前のまま巧妙に変化し、AI利用をめぐるサイバーリスクが組織向け脅威へ初めて入ったと説明されています。情報リテラシーとは、何でも疑う態度ではなく、間違ったときの影響に合わせて確認の強さを変える力です。雑談なら参考情報として扱えても、送金、ログイン、契約、健康、個人情報に関わる依頼は、確かめるまで止めます。速く反応することより、取り消せない行動の直前で立ち止まれることが安全の土台です。

2.発信元・内容・求められる行動を三つに分ける

怪しい連絡を見たら、一つの印象で本物か偽物かを決めません。第一に発信元を見ます。表示名ではなく、メールアドレスのドメイン、電話番号、公式サイトに掲載された連絡方法、過去の正規連絡と一致するかを確認します。第二に内容を見ます。対象の契約や注文が実在するか、日付や金額が正しいか、一次情報と矛盾しないかを調べます。第三に求められる行動を見ます。リンク先でのログイン、添付ファイルの有効化、送金、認証コード共有、アプリ導入、遠隔操作を急がせていないかを確認します。発信元らしさ、内容らしさ、行動の安全は別問題です。一部が本物でも、最後のリンクだけ攻撃者のものという場合があります。

3.フィッシングは、偽サイトだけでなく心理と手順を組み合わせる

典型的な攻撃では、まず配送会社、金融機関、取引先、上司、家族など信頼されやすい立場を装います。次に『本日中に停止』『至急確認』『秘密にして』『通常手順を飛ばして』と時間や権威の圧力を加えます。利用者がリンクを開くと、本物に似たログイン画面へ誘導され、入力したID、パスワード、カード番号、ワンタイムコードが攻撃者へ渡ります。添付ファイルや偽の更新画面から不正プログラムを実行させる手口もあります。攻撃の中心は文章の誤字ではなく、安全確認を省かせる流れです。だから『日本語が自然なら安全』『知人から届いたから安全』という判定は使えません。知人のアカウントが乗っ取られ、その連絡先へ攻撃が広がる場合もあります。

4.メール、SMS、電話では見える手掛かりと確認方法が違う

メールでは送信元の完全なアドレス、返信先、リンクの行き先、添付の種類を見ます。SMSは画面が狭くURLを見分けにくいため、通知のリンクを使わず公式アプリや保存済みのURLから状態を確認します。電話では表示番号や声を本人証明にしません。相手が示した番号ではなく、カード裏面、公式サイト、社内名簿など以前から確認済みの番号へ自分からかけ直します。発信者番号は偽装される場合があり、生成AIで知人に似た音声を作ることも可能です。FBIも、AI生成音声を使ったなりすましメッセージで別の連絡サービスへ誘導する事例を注意喚起しています。媒体ごとの弱点を理解し、同じ連絡の中だけで確認を完結させないことが大切です。

5.ドメインとURLは、左から雰囲気で読まず運営先を確かめる

URLには通信方式、ドメイン、パス、追加情報などが含まれます。攻撃者は、正規名を別の位置へ入れた長いURL、文字を一つ変えたドメイン、短縮URL、広告経由の偽ページを使うことがあります。鍵マークやhttpsは通信が暗号化されていることを示しますが、そのサイトの運営者が本物だと保証する印ではありません。スマートフォンではリンクを長押しして行き先を確認できる場合がありますが、表示が分かりにくければ開かない判断をします。最も安全なのは、通知から移動せず、公式アプリ、登録済みのお気に入り、手入力した正規サイトから同じ通知があるか確かめることです。検索広告にも偽サイトが混ざる可能性があるため、検索結果の一番上だけを根拠にしません。

6.チャットAIは確認を助けられるが、本人確認の代わりにはならない

チャットAIへ怪しい文章を渡すと、急がせる表現、秘密情報の要求、不自然なリンクなどの注意点を整理できます。専門用語の説明、確認項目の作成、社内への報告文の下書きにも役立ちます。一方、会話文だけから送信者本人を認証したり、画面外の契約状態を確認したり、未知のURLが将来も安全だと保証したりはできません。AI自身が自然なフィッシング文や偽の説明を作る側に悪用されることもあります。さらに、怪しいメールを丸ごと貼ると顧客名、注文番号、認証情報を外部サービスへ入力する危険があります。利用条件を確認し、秘密を伏せ、AIの判定を最終結論にせず、公式経路と担当部署で確かめます。チャットAIは調査の補助者であり、本人確認装置ではありません。

7.防御は、パスワードだけでなく認証と権限を重ねる

同じパスワードを複数サービスで使わず、長く固有のパスワードをパスワード管理ツールで扱い、多要素認証を有効にすると、資格情報が一つ漏れた場合の被害を減らせます。ただし、SMSや認証アプリのコードを利用者が偽サイトへ入力すれば、攻撃者がその場で中継することがあります。NISTは、手入力するワンタイムコードをフィッシング耐性がある方式とは扱っていません。対応サービスではパスキーやセキュリティキーなど、正規サイトとの結び付きを検査できる方式を優先します。組織では、全員へ広い権限を与えず、送金、顧客情報の出力、設定変更を職務と金額で分けます。認証が強くても、ログイン後の過剰権限があれば被害は広がるためです。

8.実務例:銀行や配送を装う通知は、リンクを使わず事実を確認する

『口座を停止する』『不在荷物を再配達する』というSMSが届いた場面を考えます。まずリンクを押さず、メッセージのスクリーンショットや受信時刻を残します。銀行なら公式アプリ、配送なら自分で開いた公式サイトへ入り、同じ警告や荷物番号が存在するか確かめます。番号やURLはSMS本文からコピーせず、契約書、カード、公式資料を使います。身に覚えがなくても返信して個人情報を教えません。既にIDやコードを入力した場合は、正規サイトからパスワードを変更し、同じものを使った他サービスも変更し、金融機関や社内窓口へ連絡します。送金やカード利用を確認し、端末へアプリを入れたならネットワークを切り、専門担当へ相談します。証拠を残しつつ、被害の拡大を止める順序が重要です。

9.実務例:取引先や上司を装う請求変更は、業務手順で止める

会社へ『振込先が変わった』『社長の秘密案件なので今日中に送金』という連絡が来た場合、文章の敬語や署名が本物らしいかでは判断しません。登録済みの取引先担当者へ既知の電話番号で確認し、振込先変更の申請書、複数人承認、変更履歴を通常どおり求めます。メールへ返信するだけでは、乗っ取られた同じ相手へ戻る可能性があります。請求書をAIで読み取る場合も、口座変更、初回取引、高額、期限直前を自動検知し、人へ戻します。担当者が急ぎに負けないよう、『確認するため支払いが遅れても責めない』という組織の方針が必要です。個人の注意力だけに任せず、送金前の別経路確認と二人承認を業務システムへ組み込みます。

10.よくある失敗は、怪しい特徴を一つだけ暗記すること

『誤字があるメールは偽物』『海外の番号は危険』『鍵マークがあれば本物』のような単純ルールは、目安にはなっても保証にはなりません。攻撃者は正しい日本語、実在のロゴ、漏えいした氏名や注文情報を使えます。反対に、正規の案内にも誤字や新しい送信番号があり得ます。また、怪しいリンクを安全確認のため同僚全員へ転送すると、被害を広げる恐れがあります。画面を閉じれば解決と考え、入力済みの認証情報を放置する失敗もあります。安全な判断は、単一の特徴ではなく、発信元、内容、行動、公式経路、独立した連絡先を組み合わせます。分からない場合は開かず、返信せず、保存した証拠を指定窓口へ報告し、確認できない状態を保留として扱います。

11.被害に気づいた後は、責任追及より封じ込めを優先する

リンクを開いただけなのか、認証情報を入力したのか、ファイルを実行したのか、送金したのかで対応は変わります。まず進行中の操作を止め、端末へ不正プログラムの疑いがあればネットワークから切り離し、組織の窓口へ連絡します。正規端末または安全な別端末からパスワードを変更し、既存セッションの失効、認証方法の再登録、取引履歴の確認を行います。証拠となるメール、URL、日時、画面を消さず、報告先の指示に従います。利用者を責める文化では報告が遅れ、被害が広がります。訓練では『見抜けたか』だけでなく、誤って操作した後に何分で報告でき、どのアカウントと権限を止められたかも測ります。

12.五つの確認を一枚にし、身近な通知で演習する

読者演習として、最近届いた配送、料金、アカウント、仕事依頼の通知を一件選び、秘密情報を除いて確認表を作ります。第一に誰を名乗り、完全な連絡先は何か。第二に何を根拠として主張し、日付・金額・対象は自分の記録と一致するか。第三に何を急がせ、どんな情報や操作を求めるか。第四に通知を使わず確認できる公式アプリ、既知の電話番号、担当窓口は何か。第五に間違って従った場合の影響と、止める手順は何かを書きます。最後に『開かない・公式経路で確認・別経路で本人確認・重要操作は複数承認・被害時は即報告』の五つを自分の言葉で説明します。この演習は新しい詐欺文面が現れても使える、手口名に依存しない確認方法です。

03|実例で理解する

実例で理解する

具体例で考える

取引先を名乗るメールで振込先変更を求められたとき、担当者はそのメールへ返信せず、契約時に登録した電話番号から取引先へ連絡します。請求番号、金額、変更理由を確認し、社内の口座変更申請と二人承認を通します。同時にメールの送信元、返信先、リンク、添付、受信時刻を保存してセキュリティ窓口へ報告します。生成AIへ相談する場合は会社名、個人名、口座番号を伏せ、注意点の整理だけに使います。AIが『本物らしい』と答えても送金判断には使いません。通常手順を守って変更が正しいと確認できれば処理し、確認できなければ保留します。これなら高度な文章生成や声の複製が使われても、信頼済みの連絡先と複数承認で被害を止められます。

手を動かして理解する

  1. 今日の三つの用語を、見ずに説明する
  2. 仕事や生活の例へ置き換える
  3. 間違えた確認問題の理由を声に出して説明する

04|今日の理解度を確認する

今日の理解度を確認する

1 / 5
QUESTION 01

銀行を名乗るSMSで『本日中に口座を確認してください』とリンクが届きました。最初の対応として最も適切なのはどれですか。

QUESTION 02

フィッシングとソーシャルエンジニアリングの関係を最も適切に説明しているものはどれですか。

QUESTION 03

フィッシング耐性を高める認証方法として、最も適切な考え方はどれですか。

QUESTION 04

怪しい取引先メールをチャットAIで確認するときの使い方として、最も適切なのはどれですか。

QUESTION 05

偽サイトへパスワードと認証コードを入力した後の対応として、最も適切なものはどれですか。

05|今日の整理をする

今日の整理をする

この3点を持ち帰る

  • ✓ 発信元・内容・要求される行動を分け、影響が大きいほど確認を強くする
  • ✓ 通知内のリンクや連絡先を避け、公式経路で事実と本人を確かめる
  • ✓ 多要素認証・最小権限・複数承認・即時報告を重ね、見抜けない攻撃にも備える

NEXT LESSONDAY 19「ハルシネーションと事実確認」へ次のDAYに進む →