第4章|安全・法律・社会原則
DAY 23 ・ 約15分法律・倫理・ガバナンス
守るべきことを、現場で実行できる責任・記録・停止の仕組みへ変える。
AI利用に関係する法令・契約・倫理の違いを説明し、利用台帳、役割分担、審査、監視、事故対応を含む運用ルールを作れる。
言葉を知る
用語だけを暗記せず、似た言葉との違いまで説明できる状態を目指します。
AIガバナンス
AIを組織の目的と価値観に沿って使うため、方針、責任、審査、監視、改善を一続きにする仕組みです。文書を作るだけでなく、実際の判断と行動へ反映されて初めて機能します。
ハードローとソフトロー
法律や規則のように法的拘束力を持つものがハードロー、原則、ガイドライン、自主基準など柔軟な規範がソフトローです。任意の指針でも、契約や社内規程へ取り込めば実務上の義務になります。
説明責任
何を目的に、誰が、どの情報と基準でAIを使い、問題へどう対応したかを関係者へ説明し、必要な是正を行う責任です。モデルの内部を完全に説明することだけを意味しません。
リスクオーナー
特定のAI利用について、残る危険を把握し、対策、受入れ、停止を判断する責任者です。システム担当だけでなく、業務と人への影響を理解する部門が関わります。
AI利用台帳
組織内で使うAIの名称、提供者、目的、利用者、入力データ、出力の使い方、影響、責任者、契約、審査日などを記録する一覧です。見えない利用を減らし、変更時の再確認につなげます。
インシデント
情報漏えい、差別的な扱い、誤った自動判断、権利侵害、安全上の事故など、AIの利用によって起きた、または起きかけた望ましくない事象です。未遂や利用者の苦情も改善の手掛かりになります。
ヒューマンオーバーサイト
人がAIの状態と出力を理解できる範囲で監督し、必要なら修正、保留、停止できるようにすることです。承認ボタンを置くだけでなく、判断材料、時間、権限、訓練が必要です。
救済
AIによって不利益を受けた人が、理由の説明、訂正、再審査、異議申立て、損害への対応などを受けられる仕組みです。事故を防ぐ対策と、起きた後に回復する手段の両方を用意します。
仕組みを理解する
1.法律、契約、倫理は同じものではない
法律は国や地域、業種、利用場面によって適用範囲が変わります。個人情報、著作権、消費者保護、雇用、差別、安全、業法など、AI専用ではない既存法も関係します。契約はサービス提供者、顧客、委託先との約束で、入力データ、出力、再学習、責任分担を決めます。倫理は、合法かどうかだけでなく、公平か、本人へ説明できるか、信頼を損なわないかを問います。三つを混ぜず、利用ごとにどの要求がどこから来るかを一覧にします。
2.チャットAIの回答は法務判断の代わりにならない
チャットAIは論点の候補、確認質問、規程のたたき台を作るのに役立ちます。しかし最新法令、裁判例、契約全文、利用地域、業界固有ルールを自動で完全には把握しません。もっともらしい条文番号や義務を作る場合もあります。『使ってよいか』を一問で尋ねて終えず、対象行為、当事者、データ、地域、影響を分解します。条文と所管官庁の最新資料を実際に開き、重要な判断は法務・専門家へ確認します。AIの回答と人の確認結果を区別して記録します。
3.最初の仕事は、組織内のAIを見えるようにすること
把握していないAIは審査も停止もできません。正式導入したシステムだけでなく、無料のチャット、ブラウザー拡張、外部委託先のAI、自動要約、採用候補の並べ替えなども利用台帳へ載せます。名称だけでなく、目的、入力、出力が影響する人、自動化の程度、提供地域、担当、開始日を記録します。個人の試用まで同じ重い手続にすると隠れた利用が増えるため、公開情報だけの低影響な試行は簡易届出、高影響用途は事前審査という段階を設けます。
4.影響から、許可・要承認・禁止へ分類する
用途を一律に許可または禁止するのではなく、失敗したときの影響で分けます。公開済み文章の表現案は許可、顧客データを使う要約は指定環境と承認を条件にする、採用・融資・医療など人の権利や生活へ大きく影響する自動決定は原則禁止または厳格審査、といった形です。入力できる情報、出力を使える範囲、人の確認、保存期間を併記します。分類根拠と例外承認者を決め、判断に迷う場合は安全側へ止めて相談できる窓口を示します。
5.提供者、開発者、導入者、利用者の役割を分ける
AIの事故では『提供会社が責任を持つ』『最後に使った人が責任を持つ』という単純な分け方はできません。提供者はモデルやサービスの制約を示し、開発者はデータと評価を管理し、導入部門は用途と業務手順を決め、利用者は許可された範囲で確認します。委託先、クラウド事業者、データ提供者も含め、情報提供、監視、連絡、停止、訂正を誰が行うかを表にします。担当者名だけでなく、休暇や異動時の代行、承認権限、必要な証拠まで決めます。
6.調達と契約では、便利な機能より変更時の扱いを見る
AIサービスを選ぶときは、機能と料金だけでなく、入力が学習に使われるか、保存場所と期間、削除方法、再委託、監査資料、障害通知、知的財産、責任制限、終了時のデータ返却を確認します。モデルが予告なく変わると、同じ指示でも結果が変わります。版の通知、評価のやり直し、旧版へ戻す方法、契約終了後の移行も条件にします。提供者の規約が『安全』と書いていても、自社の用途へ適合する保証ではありません。回答を証拠として保存し、契約条項と運用手順を対応づけます。
7.人の確認は、実際に止められるよう設計する
人を工程に置くだけでは監督になりません。大量のAI判断へ形式的に承認を押す状態は自動化バイアスを強めます。確認者には元データ、AIの提案、根拠、確信できない点、過去の修正履歴を見せ、十分な時間と訓練を与えます。拒否や停止をしても不利益を受けない権限が必要です。高影響用途では二者確認や専門部署への引継ぎを用意します。人が変更した理由を記録し、上書き率が急増したらモデルや業務が変化した合図として利用を止めます。
8.透明性は、全員へ技術詳細を見せることではない
利用者、担当者、監査者では必要な説明が違います。利用者にはAIを使っている事実、目的、結果の使われ方、主な限界、問い合わせ・異議申立て先を平易に示します。担当者には入力条件、確認手順、禁止事項、停止方法を示し、監査者には版、データ、テスト、変更履歴へたどれる証拠を残します。企業秘密や個人情報を無制限に公開する必要はありません。相手が次の行動を選べる説明になっているかを基準にし、通知を読まなければ利用できないほど長くしない工夫も要ります。
9.記録は責任逃れではなく、再現と改善のために残す
最低限、目的、責任者、モデルと設定の版、入力データの種類、評価項目、承認、主な出力、修正、公開先、事故を記録します。ただし、機密や個人情報を必要以上にログへ複製すると新しい漏えい源になります。内容そのものを残さず識別子や要約で足りるか、閲覧権限、暗号化、保持期限、削除を決めます。後から『その時点で何を知り、どの基準で判断したか』を再現できる粒度にします。ログ取得を利用者へ知らせ、目的外の従業員監視へ流用しません。
10.インシデント対応は、停止から救済まで一続きにする
問題を見つけた人が迷わず報告できる窓口と、緊急停止の権限を用意します。最初に影響の拡大を止め、該当するモデル、期間、利用者、データを保全して範囲を確認します。次にセキュリティ、法務、業務、広報など必要な担当へ連絡し、法令や契約の通知期限を確認します。原因をモデルだけへ押しつけず、目的、データ、画面、人の判断、教育まで調べます。誤った決定を受けた人へ説明・訂正・再審査を提供し、対策後は別のテストで再発しないことを確かめます。
11.法令と技術の変更を、定期見直しへ結び付ける
AIの義務は提供地域、対象者、役割、リスク区分で変わり、施行日も段階的なことがあります。国外の利用者へ提供すれば、国外規制が関係する場合もあります。公式ページで適用範囲と日付を確認し、解説記事だけで判断しません。サービスのモデル、規約、保存設定、接続先が変わったときも再審査します。四半期など固定周期に加え、大きな事故、苦情増加、用途変更、提供者変更を臨時見直しの条件にします。台帳へ次回確認日と情報源を記録し、古い規程を現場から回収します。
12.教育は知識テストだけでなく、止める練習にする
規程を読ませて署名を集めても、迷う場面で行動できなければ安全にはなりません。役割ごとに、入力してはいけない情報、誤りの発見、承認の拒否、緊急停止、利用者への説明を実例で練習します。管理者には残余リスクを受け入れる判断、調達担当には契約確認、現場には相談と報告を訓練します。模擬インシデントで連絡網と代行者が動くか測り、時間、見落とし、質問を記録して規程を直します。受講率だけでなく、安全な行動ができたかを評価します。
13.読者演習:一枚のAI利用ルールを作る
架空の顧客メール返信支援を題材にします。目的、対象者、入力してよい情報、禁止情報、AIが作る範囲、人が確認する項目を一文ずつ書きます。次に、業務責任者、システム担当、法務、現場利用者の役割を並べ、開始、変更、停止、事故時の責任者を決めます。許可・要承認・禁止の例を各二つ作り、品質、漏えい、権利、偏りのテストと合格基準を置きます。最後にログの範囲、保持期限、相談窓口、異議申立て、再評価日を入れ、第三者がその紙だけで行動できるか読み合わせます。
実例で理解する
具体例で考える
顧客メール返信支援を導入する例では、AIは下書きだけを作り、送信は担当者が原文と顧客履歴を確認して行います。利用台帳にはサービス名、契約、保存設定、対象部署、責任者、モデル変更日を記録します。公開情報の言い換えは許可、顧客情報を含む要約は承認済み環境だけ、返金や契約解除の決定はAIに任せないと分類します。導入前に誤回答、機密漏えい、失礼な表現、少数言語での品質を試し、基準外なら送信工程へ入れません。運用後は修正率、苦情、誤送信、担当者の上書きを月ごとに確認します。問題時は新規利用を止め、対象期間と顧客を特定し、必要な訂正と再連絡を行います。提供者の規約やモデルが変われば同じテストを再実施し、責任者が再開を承認します。利用者へAI支援の範囲と問い合わせ先も分かりやすく案内します。初めてルールを作る人は、「使ってよい」「人の確認が必要」「使わない」の三列を紙に書くと整理しやすくなります。営業時間の言い換えは使ってよい、注文履歴を使う返信は確認が必要、返金の確定は使わない、というように実際の作業を置きます。次に、誰が確認し、問題時に誰が止め、どこへ記録するかを書きます。法律名を暗記するだけでは安全な運用になりません。現場の一つ一つの行動へ落とし込み、担当者が迷った時に停止できる状態を作ることがガバナンスです。さらに、利用するAIや契約条件が変わった時の再確認日を決めます。問い合わせ先、停止手順、過去の出力を調べる記録があれば、問題発生後に誰へ何を伝え、どこまで訂正するかを判断できます。ルールは掲示して終わりではなく、実際に止めて相談する練習まで行います。
手を動かして理解する
- 今日の三つの用語を、見ずに説明する
- 仕事や生活の例へ置き換える
- 間違えた確認問題の理由を声に出して説明する
04|今日の理解度を確認する
今日の理解度を確認する
社内で生成AIの利用を始めるとき、ガバナンスの最初の行動として最も適切なのはどれですか。
把握していないAI利用は、評価、監視、停止ができません。まず用途と責任を見えるようにします。
全社員の利用を一律に禁止し、利用実態を記録しない: 実態が隠れ、危険な利用を発見・改善しにくくなります。
利用目的、入力情報、影響を受ける人、責任者を利用台帳で把握する: 審査と継続監視の土台を作る適切な行動です。
提供会社の広告に安全とあれば、審査を省略する: 提供者の一般的な説明だけでは、自社の用途への適合性は確認できません。
個人の判断だけで無料サービスを選び、顧客情報を入力する: 契約、保存、再学習、機密管理を確認せず、漏えいなどの危険があります。
採用候補者をAIが順位付けする案を審査するとき、最も適切な対応はどれですか。
雇用など生活へ大きく影響する用途では、厳しい事前審査、人の実質的な監督、異議申立てと停止が必要です。
AIの順位を最終決定として自動採用する: 誤りや偏りが直接不利益につながり、人の監督もありません。
精度が高ければ、候補者への説明や異議申立てを省く: 平均精度だけでは個人への影響を扱えず、救済手段も失われます。
担当者に承認ボタンだけを押させ、元資料を見せない: 判断材料と停止権限のない形式的承認は、実質的な人の監督ではありません。
人への影響を高く評価し、目的・データ・集団別誤り・人の再審査・停止条件を厳格に確認する: 影響に応じて対策を強くする適切な審査です。
AIサービスの契約・調達で確認する項目として、最も適切な組合せはどれですか。
機密・個人情報、モデル変更、事故対応、サービス終了まで運用できる条件を契約前に確認します。
入力の再学習利用、保存・削除、再委託、変更通知、事故連絡、終了時のデータ扱い: 利用期間全体の責任と情報管理を確認できる適切な組合せです。
ロゴの色と広告の印象だけ: 見た目は、データ管理や責任分担の確認になりません。
初月料金だけを確認し、モデル変更やデータ削除は見ない: 運用中の品質変化と終了後の情報残存を見落とします。
利用者数だけを確認し、規約は導入後に読む: 導入前に契約条件と用途の適合性を確認する必要があります。
AIの誤回答により顧客へ不利益が生じたとき、最初から最後までの対応として最も適切なのはどれですか。
インシデント対応は、拡大防止、調査、通知、救済、再発防止、再開判断を一続きにします。
担当者個人を責め、記録を削除して利用を続ける: 原因分析と影響確認ができず、同じ問題を繰り返します。
提供会社へ連絡するだけで、顧客への訂正は行わない: 影響を受けた人への説明と救済が欠けています。
利用を止め、影響範囲と証拠を確認し、必要な連絡・訂正・再審査を行ってから再発防止を検証する: 被害の拡大防止から救済と安全な再開まで含む適切な流れです。
同じAIへ原因を質問し、その回答だけで再開する: 独立した調査、証拠、再テストがなく、原因の見落としがあります。
一度審査に合格した生成AIの運用について、最も適切な考え方はどれですか。
AIと利用環境は変化します。定期見直しと、重要な変更をきっかけにした臨時審査の両方が必要です。
一度合格すれば、規約やモデルが変わっても見直さない: 前提が変われば、過去の評価結果をそのまま使えません。
モデル・規約・用途・法令の変更や苦情増加を再審査の条件にし、定期確認も続ける: 変化を監視と再評価へ結び付ける適切な運用です。
出力品質が落ちても、契約期間中は必ず使い続ける: 停止基準を超えた場合は、契約中でも人の処理へ戻す必要があります。
法令の適用日は解説記事だけで確認し、公式情報を見ない: 対象地域、役割、例外、施行日を公式情報で確認する必要があります。
04|今日の理解度を確認する
今日の理解度を確認する
今日の整理をする
この3点を持ち帰る
- ✓ 法令・契約・倫理を分け、利用目的と地域ごとに要求を確認する
- ✓ 台帳とリスク分類で、責任者・人の監督・記録・停止を運用へ組み込む
- ✓ 事故時は拡大防止から説明・訂正・再審査まで行い、変更のたびに見直す