本文へ移動
← 目次 生成AI基礎講座 DAY 20

第4章|安全・法律・社会原則

DAY 20 ・ 約15分

個人情報・機密情報を守る

生成AIへ渡す前に情報を分類し、必要最小限へ減らして安全な経路を選ぶ。

今日できるようになること

個人情報と機密情報の違い、生成AIへ入力した情報が通る経路と残り得る場所を説明し、入力前・利用中・事故後の確認を実行できる。

01 言葉を知る02 仕組みを理解する03 実例で理解する04 今日の理解度を確認する05 今日の整理をする
01|言葉を知る

言葉を知る

用語だけを暗記せず、似た言葉との違いまで説明できる状態を目指します。

個人情報

生存する個人に関する情報で、氏名などによりその人を識別できるもの、または他の情報と容易に照合して識別できるものです。顔認証データなどの個人識別符号を含むものも該当します。氏名がなくても、所属、役職、地域、出来事の組合せから人物が分かる場合があります。

個人データ

個人情報データベース等を構成する個人情報です。顧客台帳や従業員名簿から取り出した記録などが典型で、単に個人に関係する情報という日常語ではなく、個人情報保護法上の区分です。扱う情報がどの区分に当たるかは、組織の担当者や規程で確認します。

要配慮個人情報

人種、信条、病歴、犯罪被害の事実など、不当な差別や偏見その他の不利益が生じないよう特に配慮を要する個人情報です。健康相談や人事資料には該当情報が含まれ得るため、便利だからという理由だけで生成AIへ入力してはいけません。

機密情報

組織が公開を認めておらず、漏れると事業、顧客、取引、技術、安全へ影響する情報です。未発表の企画、契約条件、ソースコード、認証情報、社内調査、顧客対応履歴などが含まれます。個人情報と重なる場合も、個人を識別しない機密である場合もあります。

データ最小化

目的の達成に本当に必要な情報だけを使い、不要な項目、件数、期間、精度を減らす考え方です。全文を渡してから削るのではなく、AIへ送信する前に対象範囲を絞り、架空データや集計値で代替できないかを検討します。

仮名加工情報・匿名加工情報

個人情報保護法で定められた加工情報の区分です。名前を伏せたり社員番号へ置き換えたりしただけで、自動的に法令上の匿名加工情報になるわけではありません。匿名加工情報は、特定の個人を識別できず、元の個人情報を復元できないよう規則に従った加工が必要です。

データ保持

入力、添付ファイル、出力、操作記録などをサービスや組織が保存することです。会話履歴を画面から消すこと、モデル学習へ使わないこと、事業者のログを削除することは別の条件なので、保持期間、削除方法、例外を契約と設定で確認します。

アクセス制御

必要な人や仕組みだけに、必要な情報と操作を許す管理です。閲覧、共有、ダウンロード、外部送信、削除などの権限を分け、共有リンク、連携アプリ、管理者、委託先を含めて最小権限にします。

02|仕組みを理解する

仕組みを理解する

1.会話欄は、情報を外部の処理へ渡す入口である

生成AIの画面は、身近なメモ帳のように見えます。しかし入力欄へ文字を貼り付け、ファイルや画像を添付すると、その内容はサービスが推論を行う環境へ送られます。提供者の処理基盤、会話履歴、監視ログ、組織の管理画面、接続したツールなど、目的に応じた複数の場所を通る可能性があります。安全性は『AIが賢いか』ではなく、どのサービス、契約、アカウント、設定、機能を使い、誰が何を閲覧できるかで変わります。まず、会話へ書くことを第三者の処理環境へデータを送る行為として捉えます。

2.個人情報と機密情報は、重なっても同じではない

顧客の氏名と購入履歴は個人情報であり、会社にとっての機密でもあり得ます。一方、未公開の製品設計やAPIキーは個人情報でなくても重要な機密です。反対に、公開済みの社員紹介に載った氏名も個人情報であり、公開されているから自由に別目的で扱えるとは限りません。実務では『公開・社外共有可・社内限定・機密』といった組織の情報区分に加え、個人情報、要配慮個人情報、契約上の秘密、認証情報を重ねて確認します。一つでも入力禁止に当たれば、別の区分が低くても止めます。

3.氏名を消しただけでは、個人を特定できることがある

『名前を消したから匿名』は典型的な誤解です。小さな支店の店長、珍しい役職、特定の日の事故、居住地域、年齢を組み合わせれば、周囲の人には誰か分かる場合があります。文書の作成者名、変更履歴、画像の位置情報、ファイル名、表の非表示列、コメント欄にも識別の手掛かりが残ります。単純な置換は漏えいの危険を下げる助けにはなりますが、法令上の匿名加工情報を自動で作る処理ではありません。再識別の可能性と、元データへ戻せる対応表の管理まで考える必要があります。

4.入力だけでなく、ファイル、画像、出力、共有まで追う

守る対象はプロンプト本文だけではありません。添付したPDFの全ページ、表計算の別シート、スクリーンショットの通知欄、音声に入った第三者の会話、画像の背景、ファイルのメタデータにも秘密が含まれます。生成された要約や表が元の個人情報を言い換えて残すこともあります。さらに、共有リンクを作る、出力を共同スペースへ保存する、検索やメールのコネクターを有効にすることで閲覧範囲が広がります。入力から生成、保存、共有、削除までを一本の情報の流れとして図にし、各地点の閲覧者を確認します。

5.最も安全な入力は、最初から送らない情報である

データ最小化では、まず目的を一文で書きます。文章の語調を整えたいだけなら、顧客名、住所、注文番号、金額の細部は不要かもしれません。氏名を『顧客A』へ置き換え、住所を地域区分へ丸め、必要な段落だけを抜き、実在データを同じ構造の架空データへ替えます。件数の傾向を知りたいなら、個票ではなく集計値で足りる場合があります。AIへ全文を渡して『秘密を削除して』と頼む方法は、削除前の全文が既に送信されるため順序が逆です。送信前に人または承認済みの処理で減らします。

6.生成AIができることと、決められないことを分ける

生成AIは、候補となる固有名詞を見つける、文書の構造を保った架空例を作る、情報分類の質問票を下書きする、といった補助ができます。ただし、あるデータを入力する法的根拠があるか、本人同意が十分か、契約上の秘密か、国外処理を許せるか、漏えい時の影響はいくらかを最終決定できません。AI自身へ『この資料を入力してよい?』と尋ねても、現在の社内規程、契約、権限を完全には知りません。承認者、法務・個人情報保護担当、情報システム部門の判断へ戻す境界を決めます。

7.チャットAI、法人環境、APIを名前だけで判断しない

同じ会社のサービスでも、個人向け画面、法人向けワークスペース、APIでは、学習利用、保持、管理者機能、共有、データ所在地などの条件が異なることがあります。OpenAIも、対象のビジネス製品とAPIでは組織データを既定でモデル学習へ使わないと説明していますが、それだけであらゆる秘密を入力してよいことにはなりません。保持や連携、利用目的、組織の許可は別に確認します。製品名や『暗号化』という一語で合格にせず、使うプランと機能の最新の公式条件、契約、設定画面を記録します。

8.実務では、許可された環境と最小の資料で下書きする

顧客から届いた苦情メールを要約する場面を考えます。担当者はまず、組織が承認した法人向けAI環境かを確認します。氏名、メールアドレス、電話番号、住所、注文番号を送信前に除き、問題の種類と時系列に必要な文だけを残します。要配慮個人情報や決済情報があればAIを使わず、指定窓口へ回します。出力は顧客記録へ自動保存せず、担当者が元メールと照合し、不要な個人情報が再生成されていないかを確認してから正規システムへ記録します。目的、入力項目、確認者、削除時期を作業手順に残します。

9.よくある失敗は、便利な例外を積み重ねること

最初は架空データだけの予定でも、締切が近いから一件だけ実データを貼る、名前だけ消せばよいと判断する、無料の個人アカウントへ移す、共有リンクを期限なしで作る、承認されていない拡張機能を接続する、と例外が重なると事故になります。ソースコードへ埋め込まれたAPIキー、画面端の顧客名、表の隠し列は見落とされやすい情報です。また、外部文書に仕込まれた指示が、接続先から別の秘密を取り出そうとすることもあります。プロンプトだけで防ぐのではなく、入力制限、最小権限、送信前検査、共有制限を重ねます。

10.パスワードや秘密鍵は、加工して相談する対象ではない

パスワード、ワンタイムコード、APIキー、秘密鍵、セッショントークン、復旧コードは、生成AIへ入力しません。一部を伏せても、残りの形式や周辺情報が攻撃の手掛かりになることがあります。設定エラーを相談するときは、秘密を削除した架空の値へ置き換え、必要なエラーメッセージだけを使います。誤って貼り付けた場合は、会話を消して終わりにせず、秘密が漏れた前提で直ちに無効化・再発行し、組織の事故報告手順へ連絡します。ログや接続先も確認し、同じ秘密を使う箇所を更新します。

11.利用前の確認表を、更新できる証拠として残す

利用前には、サービスが組織で承認済みか、対象アカウントとプランは何か、入力が学習や品質改善へ使われるか、保持期間と削除方法、管理者や委託先の閲覧、データの処理地域、共有リンク、連携ツール、事故連絡先を確認します。デジタル庁の2026年6月12日版ガイドラインも、生成AIの調達と利活用をリスク管理と合わせて進めています。条件は変更されるため、確認日、公式URL、契約版、設定値、承認者を記録し、サービスや機能の更新時に再確認します。設定画面の印象ではなく、適用される証拠へ戻れる形にします。

12.読者演習で、送信前から事故後までを設計する

架空の顧客メールを一通作り、氏名、連絡先、注文番号、病歴、契約条件、社内メモを含めます。第一に各項目を『公開・社内限定・機密』『個人情報・要配慮個人情報・認証情報』へ分類します。第二に、要約という目的へ不要な項目を削除し、実在値を架空値へ替えます。第三に、利用サービス、アカウント、保持、共有、連携先、確認者を表へ書きます。第四に、出力を元資料と照合し、秘密の再出現を検査します。最後に、もし原文を誤投入した場合の停止、報告、秘密の無効化、影響範囲確認、削除要請を時系列で書いてください。

03|実例で理解する

実例で理解する

具体例で考える

営業担当者が、顧客との面談メモから提案書の骨子を作る例です。元メモには氏名、勤務先、電話番号、予算、健康上の事情、競合との契約条件が含まれていました。担当者はそのまま貼らず、目的を『提案の論点を三つに整理する』へ限定します。承認済み環境であることを確認し、氏名と連絡先を削除、勤務先を業種へ一般化し、予算を幅へ丸めます。健康情報と契約条件は目的に不要なので除外します。架空の顧客Aとして必要な発言だけを入力し、出力に元の秘密が推測で追加されていないかを確認します。元メモは正規の顧客管理システムに残し、AIの会話を正本にしません。出力は担当者が修正し、上長の確認後に提案書へ転記します。これにより、生成AIの整理能力を使いながら、渡す情報量と閲覧範囲を小さく保てます。

手を動かして理解する

  1. 今日の三つの用語を、見ずに説明する
  2. 仕事や生活の例へ置き換える
  3. 間違えた確認問題の理由を声に出して説明する

04|今日の理解度を確認する

今日の理解度を確認する

1 / 5
QUESTION 01

顧客から届いた長い相談メールを生成AIで要約したいとき、最初の対応として最も適切なのはどれですか。

QUESTION 02

顧客記録から氏名を削除した後も、安全性の確認が必要な主な理由はどれですか。

QUESTION 03

業務用の生成AIサービスを利用する前に、確認項目の組合せとして最も適切なのはどれですか。

QUESTION 04

承認済みの生成AIへ資料をアップロードした後の運用として、最も適切なのはどれですか。

QUESTION 05

業務用のAPIキーを誤って生成AIの会話へ貼り付けた直後の対応として、最も適切なのはどれですか。

05|今日の整理をする

今日の整理をする

この3点を持ち帰る

  • ✓ 個人情報と機密情報を重ねて分類し、一つでも入力禁止なら止める
  • ✓ 入力前に目的を限定して最小化し、ファイル・出力・共有・保持まで情報の流れを追う
  • ✓ 承認済み環境と証拠を確認し、誤投入時は削除だけで終えず報告・無効化・影響確認を行う

NEXT LESSONDAY 21「著作権と生成物を考える」へ次のDAYに進む →