第4章|安全・法律・社会原則
DAY 25 ・ 約15分AI社会原則・ガバナンス・AI新法
AIを広げながら、人の権利と安全を守る組織の仕組みを作る。
人間中心・透明性・説明責任を実務へ落とし込み、日本のAI新法と事業者ガイドラインの位置づけを説明できる。
言葉を知る
用語だけを暗記せず、似た言葉との違いまで説明できる状態を目指します。
人間中心
AIの導入そのものを目的にせず、人の尊厳、権利、安全、幸福を出発点にして利用範囲を決める考え方です。効率が上がっても、人が異議を申し立てられない、理由を知らされない、重大な判断を機械だけで決められる状態は人間中心とはいえません。
透明性
AIを使っている事実、目的、主な限界、結果の使われ方を、相手が判断できる形で示すことです。モデルの技術資料をすべて公開する意味ではなく、利用者、現場担当、監査者に必要な情報を分けて伝えます。
アカウンタビリティ
AIによる結果と影響について、誰が何を根拠に判断し、問題が起きたとき誰が説明・停止・訂正するかを明確にすることです。提供会社へ責任を丸投げせず、導入者と利用者も自分の管理範囲を担います。
AIガバナンス
AIの目的、許可範囲、責任者、審査、記録、監視、事故対応、見直しを組織として運用する仕組みです。一度作った規程ではなく、モデル・用途・法令・社会的影響の変化へ追随する継続的な活動です。
AI新法
日本でAI関連技術の研究開発と活用を推進しながら、国が基本計画や調査、必要な指導・助言などを行う枠組みを定めた法律を指します。個別のAI利用を一律禁止する法律ではなく、既存法、契約、ガイドラインと組み合わせて理解します。
AI利用台帳
すべてのAI利用を同じ強さで管理すると、重要な用途へ確認資源を集中できません。
残余リスク
生成AIにできるのは候補作成や整理であり、組織の価値判断、法的責任、残余リスクの受入れを自動で引き受けることはできません。
仕組みを理解する
1.社会原則は、きれいな標語ではなく判断の物差し
AIの原則には、人間中心、安全、公平、プライバシー、セキュリティ、透明性、説明責任などが並びます。言葉だけ掲げても、現場の判断は変わりません。例えば人間中心なら『採用候補の順位をAIだけで決めない』『本人が人による再確認を求められる』、透明性なら『AIを使ったことと結果の用途を知らせる』という行動へ変換します。原則ごとに、守れたことを示す証拠、確認する担当、守れない場合の停止条件を決めます。複数の原則が衝突することもあります。詳しい説明を増やすほど機密や個人情報が漏れるなら、必要な相手へ必要な範囲だけ示します。原則は万能な正解表ではなく、利益と不利益を見落とさないための共通言語です。
2.チャットAIと、組織のAI利用を分けて考える
個人がチャット画面で文章案を作る場面では、利用者が入力と出力を直接確認できます。組織のAIは、API、検索、データベース、外部ツール、自動送信などと接続され、本人が知らない場所で結果が使われる場合があります。規模が大きいほど、誤りが同じ速さで多数へ広がります。チャットで自然な回答が得られたことは、自動化してよい証拠ではありません。入力データ、モデル、追加資料、権限、出力先、人の承認、ログを一つの流れとして確認します。生成AIにできるのは候補作成や整理であり、組織の価値判断、法的責任、残余リスクの受入れを自動で引き受けることはできません。
3.最初に、どこでAIが使われているかを台帳へ載せる
把握していないAIは審査も停止もできません。正式契約したサービスだけでなく、無料チャット、ブラウザー拡張、会議要約、外部委託先のAI、既存製品へ後から追加されたAI機能も対象にします。台帳には名称より、目的、利用部門、入力する情報、出力の利用先、影響を受ける人、自動化の程度、責任者、利用開始日、次回確認日を記録します。低リスクな試行まで重い審査にすると隠れて使われるため、公開情報だけの下書きは簡易届出、顧客情報や外部送信を伴う用途は事前承認、人の権利へ大きく影響する用途は厳格審査という段階を設けます。
4.役割は、提供者・開発者・導入者・利用者に分ける
事故が起きたとき『AI会社の責任』『最後にボタンを押した人の責任』だけでは解決しません。提供者は機能、制約、データの扱い、変更情報を示します。開発者は接続するデータ、評価、権限、画面を管理します。導入部門は業務目的、対象範囲、合格基準、確認者を決めます。利用者は許可された範囲で入力し、出力を確認して異常を報告します。委託先、法務、情報システム、経営者も含め、開始承認、日常監視、緊急停止、利用者への説明、訂正を誰が行うか決めます。担当者名だけでなく、休暇時の代行者と停止権限まで必要です。
5.リスクの大きさで、許可・要承認・禁止を分ける
すべてのAI利用を同じ強さで管理すると、重要な用途へ確認資源を集中できません。公開済み文章の言い換えは許可、匿名化した社内資料の要約は指定環境と人の確認を条件に許可、顧客の個人情報を扱う処理は事前承認、採用・融資・医療など人の機会や生活へ大きく影響する自動決定は原則禁止または厳格審査、といった形にします。判断軸は、失敗の影響、対象人数、戻せるか、本人が気づけるか、機密性、外部への操作です。高性能なモデルだから低リスクになるわけではありません。用途と運用を含めて区分し、迷うときは止めて相談できる窓口を示します。
6.透明性は、相手が次の行動を選べる説明にする
利用者へ『AIを使用しています』とだけ書いても、何が起きるか判断できません。何の目的で使い、入力がどう扱われ、出力が人の判断へどう影響し、どんな限界があり、間違いをどこへ申し出られるかを平易に示します。現場担当には入力禁止情報、根拠確認、承認、停止方法を示し、監査者にはモデル版、データ、テスト、変更履歴へたどれる証拠を残します。説明を長くして同意ボタンを押させるだけでは不十分です。重要点を先に示し、利用を断る方法や人による再確認の手段を用意します。説明できない仕組みは、影響の大きい用途へ広げません。
7.人の確認は、承認印ではなく止められる権限にする
『最後は人が確認』と書いても、一人が一時間に数百件を処理し、AIの根拠を見られず、拒否すると業務が遅れた責任を負うなら実質的な監督ではありません。確認者には元データ、AI案、参照資料、確信できない点を同じ画面で示し、判断時間と訓練を与えます。重大な処理は二者確認や専門部署への引継ぎを用意します。人が修正した割合、拒否理由、確認時間を測り、急増したらモデルや業務環境が変わった合図として停止します。人間参加型は、人を置くだけでなく、人が理解し、異議を唱え、結果を覆せる設計です。
8.日本のAI新法を、単独の禁止一覧として読まない
日本のAI新法は、AI関連技術の研究開発と活用を推進し、基本計画、国際協力、情報収集、調査などを進める枠組みです。危険な利用へ国が調査し、必要な指導や助言、情報提供を行う考え方も含まれます。ただし、個人情報、著作権、労働、消費者保護、秘密保持、業法上の責任がこの法律だけへ置き換わるわけではありません。事業者は『AI新法に禁止と書かれていないから使える』と判断せず、用途に関係する既存法、契約、AI事業者ガイドライン、業界ルールを重ねて確認します。名称や施行状況は政府の最新資料で確認し、古い解説記事だけに頼りません。
9.記録は、責任逃れではなく再現と救済のために残す
最低限、目的、責任者、モデルと設定、入力データの種類、参照資料の版、テスト結果、承認、主な修正、公開先、事故を記録します。すべての入力内容を保存すると、個人情報や機密の新しい漏えい源になります。内容そのものではなく識別子や要約で足りるか、閲覧権限、保持期限、削除方法を決めます。記録の目的は、後から『その時点で何を知り、どの基準で判断したか』を再現し、影響を受けた人へ説明・訂正することです。モデル、規約、接続先、用途が変わったら変更記録を起点に再評価します。記録が取れない高影響処理は開始しません。
10.事故対応は、発見・停止・確認・救済・再開をつなぐ
誤案内、情報漏えい、差別的な出力、権限外操作を見つけた人が、迷わず報告できる窓口を用意します。最初に自動処理を止め、対象となるモデル、期間、利用者、データ、出力先を保全して影響範囲を確認します。次に法務、セキュリティ、業務責任者などへ連絡し、必要な通知と訂正を行います。原因をモデルだけへ押しつけず、目的、データ、検索、権限、画面、人の確認、教育まで調べます。影響を受けた人には説明、訂正、再審査、必要な救済を提供します。対策後は事故と別のテストで再発しないことを確認し、責任者が再開を承認します。
11.できないことを認め、外部環境の変化を監視する
ガバナンスを整えても、未知の誤り、攻撃、社会的反発、制度変更をゼロにはできません。組織が知らない社外データの偏りや、提供者が行うモデル更新もあります。そこで、残る危険を明示し、受け入れられない影響の中止基準を置きます。四半期などの定期見直しに加え、苦情の増加、重大事故、用途変更、対象者の変更、モデル・規約・価格・保存設定の変更を臨時見直しの条件にします。AIへ『安全か』と聞いた回答は監査の代わりになりません。公式資料、契約、実測データ、影響を受ける人の声を集め、責任者が判断します。
12.読者演習:一枚のAI利用ルールを作る
題材を『顧客メールの返信案作成』とします。まず目的、対象部署、入力してよい情報、禁止情報、AIが作る範囲、人が確認する項目を一文ずつ書いてください。次に、許可・要承認・禁止の例を各二つ、業務責任者、システム担当、法務、現場利用者の役割を一つずつ書きます。正確さ、機密、偏り、権利のテストと合格基準を置き、重大な誤案内、権限外情報の参照、苦情増加を中止条件にします。最後に、利用者への説明、異議申立て先、ログの範囲と期限、停止手順、再評価日を加えます。第三者がその一枚だけで、使う・止める・相談するを選べれば完成です。
実例で理解する
具体例で考える
ある会社が採用担当者向けに、応募書類の要点を整理する生成AIを導入するとします。最初に目的を『合否を決める』ではなく『担当者が原文を読む前の確認項目を整理する』へ限定します。氏名、顔写真、性別を推測させる情報は処理対象から外し、AIの要約と原文を並べて表示します。合否、面接案内、不採用通知は人が判断し、AIの順位だけで候補者を落としません。応募者にはAIを補助的に使うこと、結果は人が確認すること、問い合わせと再確認の窓口を知らせます。台帳にはモデル版、利用部門、入力区分、テスト結果、責任者、見直し日を記録します。要約漏れ、属性による品質差、根拠のない評価語を固定テストで測り、重大な誤りが一件でも出たら利用を停止します。この設計なら、効率化の利益を得ながら、本人の権利、説明、訂正、人の最終判断を残せます。ここで社会原則は「公平にする」「人を大切にする」という標語で終わりません。原文を必ず読める画面にする、AIの評価語を合否へ使わない、本人が訂正を申し出られる、停止できる責任者を決める、といった確認可能な行動へ変えます。AI新法や各種指針を読む時も、禁止事項を一つ探すだけでなく、自社が提供者・開発者・導入者・利用者のどの立場に当たり、何を説明し、記録し、見直す必要があるかを整理します。制度が変わった時に再確認する日を決めておくことも、運用の一部です。
手を動かして理解する
- 今日の三つの用語を、見ずに説明する
- 仕事や生活の例へ置き換える
- 間違えた確認問題の理由を声に出して説明する
04|今日の理解度を確認する
今日の理解度を確認する
AIの社会原則を組織の運用へ反映する方法として、最も適切なのはどれですか。
原則は、現場が実行でき、後から確認できる行動へ変換して初めて機能します。担当、証拠、停止条件を組み合わせます。
原則を社内サイトへ掲載し、具体的な手順は各自に任せる: 標語だけでは、迷う場面で判断が分かれ、守れた証拠も残りません。
原則ごとに行動、証拠、担当者、中止条件を決める: 人間中心や透明性を具体的な運用へ変える適切な方法です。
高性能モデルを選び、原則の確認を省く: 性能が高くても、用途、権利、説明、責任の問題は残ります。
事故が起きてから初めて責任者を決める: 発見直後に止められず、影響拡大と対応の遅れにつながります。
AIガバナンスで最初に作る利用台帳へ記録する内容として、最も適切なのはどれですか。
名称だけでなく、どの業務で何が入り、誰へ影響し、誰が止めるかまで把握して初めて審査・監視できます。
サービス名と月額料金だけ: 費用管理には使えますが、データ、影響、責任を判断できません。
利用者の感想だけ: 使いやすさの参考にはなっても、リスクと責任の管理には不足します。
目的、入力情報、出力先、影響、自動化範囲、責任者、見直し日: 利用実態と管理責任を追える台帳として適切です。
提供会社の広告コピーだけ: 提供者の説明は参考資料であり、自社の実際の用途を表しません。
人による確認が実質的に機能している状態はどれですか。
人間参加型では、確認者が内容を理解し、AI案を変更・拒否・停止できなければなりません。
根拠を見られないまま大量のAI判断へ承認を押す: 形式的な確認になり、自動化バイアスと見落としを増やします。
拒否すると担当者が処罰される: 異議を唱えられないため、実質的な監督ではありません。
元データとAI案を比較でき、十分な時間と停止権限がある: 理解、比較、拒否、停止が可能な実効性のある確認です。
AIの提案は必ず採用するルールにする: 人が結果を覆せず、確認者を置く意味が失われます。
日本のAI新法と他のルールの関係について、最も適切な説明はどれですか。
AI新法は推進とリスク対応の国の枠組みです。個人情報、著作権、労働、消費者保護、契約などを置き換えるものではありません。
AI新法だけ確認すれば、個人情報や著作権の確認は不要: 既存法上の義務は残るため、用途ごとの確認が必要です。
AI新法はすべてのAI利用を一律禁止する: 研究開発と活用を推進しながら、必要なリスク対応を進める枠組みです。
AI新法の枠組みに加え、用途に関係する既存法、契約、ガイドラインも確認する: 複数の要求を重ねて判断する適切な理解です。
AI新法は提供会社だけに関係し、利用企業には関係しない: 利用側にも、自社の用途と影響を管理する責任があります。
AIによる重大な誤案内を発見した直後の対応として、最も適切なのはどれですか。
事故対応は、停止、証拠保全、影響確認、連絡、訂正・救済、原因分析、再発防止、再開承認を一続きにします。
原因が分かるまで自動送信を続ける: 調査中にも被害が広がるため、先に影響拡大を止めます。
影響拡大を止め、証拠を保全し、範囲確認と必要な連絡・訂正へ進む: 利用者保護と原因究明を両立する適切な初動です。
記録をすべて削除して問題を公表しない: 影響範囲と原因を確認できず、必要な説明・救済もできません。
モデル提供者へ連絡するだけで、利用者への対応をしない: 導入側は、自社の利用で生じた影響の停止、説明、訂正を担います。
04|今日の理解度を確認する
今日の理解度を確認する
今日の整理をする
この3点を持ち帰る
- ✓ 社会原則を、確認可能な業務ルールと証拠へ変える
- ✓ 提供者・開発者・導入者・利用者の役割を分け、影響に応じて管理する
- ✓ AI新法だけで判断せず、既存法・契約・ガイドラインと継続的な監視を組み合わせる