本文へ移動
← 目次 生成AI基礎講座 DAY 25

第4章|安全・法律・社会原則

DAY 25 ・ 約15分

AI社会原則・ガバナンス・AI新法

AIを広げながら、人の権利と安全を守る組織の仕組みを作る。

今日できるようになること

人間中心・透明性・説明責任を実務へ落とし込み、日本のAI新法と事業者ガイドラインの位置づけを説明できる。

01 言葉を知る02 仕組みを理解する03 実例で理解する04 今日の理解度を確認する05 今日の整理をする
01|言葉を知る

言葉を知る

用語だけを暗記せず、似た言葉との違いまで説明できる状態を目指します。

人間中心

AIの導入そのものを目的にせず、人の尊厳、権利、安全、幸福を出発点にして利用範囲を決める考え方です。効率が上がっても、人が異議を申し立てられない、理由を知らされない、重大な判断を機械だけで決められる状態は人間中心とはいえません。

透明性

AIを使っている事実、目的、主な限界、結果の使われ方を、相手が判断できる形で示すことです。モデルの技術資料をすべて公開する意味ではなく、利用者、現場担当、監査者に必要な情報を分けて伝えます。

アカウンタビリティ

AIによる結果と影響について、誰が何を根拠に判断し、問題が起きたとき誰が説明・停止・訂正するかを明確にすることです。提供会社へ責任を丸投げせず、導入者と利用者も自分の管理範囲を担います。

AIガバナンス

AIの目的、許可範囲、責任者、審査、記録、監視、事故対応、見直しを組織として運用する仕組みです。一度作った規程ではなく、モデル・用途・法令・社会的影響の変化へ追随する継続的な活動です。

AI新法

日本でAI関連技術の研究開発と活用を推進しながら、国が基本計画や調査、必要な指導・助言などを行う枠組みを定めた法律を指します。個別のAI利用を一律禁止する法律ではなく、既存法、契約、ガイドラインと組み合わせて理解します。

AI利用台帳

すべてのAI利用を同じ強さで管理すると、重要な用途へ確認資源を集中できません。

残余リスク

生成AIにできるのは候補作成や整理であり、組織の価値判断、法的責任、残余リスクの受入れを自動で引き受けることはできません。

02|仕組みを理解する

仕組みを理解する

1.社会原則は、きれいな標語ではなく判断の物差し

AIの原則には、人間中心、安全、公平、プライバシー、セキュリティ、透明性、説明責任などが並びます。言葉だけ掲げても、現場の判断は変わりません。例えば人間中心なら『採用候補の順位をAIだけで決めない』『本人が人による再確認を求められる』、透明性なら『AIを使ったことと結果の用途を知らせる』という行動へ変換します。原則ごとに、守れたことを示す証拠、確認する担当、守れない場合の停止条件を決めます。複数の原則が衝突することもあります。詳しい説明を増やすほど機密や個人情報が漏れるなら、必要な相手へ必要な範囲だけ示します。原則は万能な正解表ではなく、利益と不利益を見落とさないための共通言語です。

2.チャットAIと、組織のAI利用を分けて考える

個人がチャット画面で文章案を作る場面では、利用者が入力と出力を直接確認できます。組織のAIは、API、検索、データベース、外部ツール、自動送信などと接続され、本人が知らない場所で結果が使われる場合があります。規模が大きいほど、誤りが同じ速さで多数へ広がります。チャットで自然な回答が得られたことは、自動化してよい証拠ではありません。入力データ、モデル、追加資料、権限、出力先、人の承認、ログを一つの流れとして確認します。生成AIにできるのは候補作成や整理であり、組織の価値判断、法的責任、残余リスクの受入れを自動で引き受けることはできません。

3.最初に、どこでAIが使われているかを台帳へ載せる

把握していないAIは審査も停止もできません。正式契約したサービスだけでなく、無料チャット、ブラウザー拡張、会議要約、外部委託先のAI、既存製品へ後から追加されたAI機能も対象にします。台帳には名称より、目的、利用部門、入力する情報、出力の利用先、影響を受ける人、自動化の程度、責任者、利用開始日、次回確認日を記録します。低リスクな試行まで重い審査にすると隠れて使われるため、公開情報だけの下書きは簡易届出、顧客情報や外部送信を伴う用途は事前承認、人の権利へ大きく影響する用途は厳格審査という段階を設けます。

4.役割は、提供者・開発者・導入者・利用者に分ける

事故が起きたとき『AI会社の責任』『最後にボタンを押した人の責任』だけでは解決しません。提供者は機能、制約、データの扱い、変更情報を示します。開発者は接続するデータ、評価、権限、画面を管理します。導入部門は業務目的、対象範囲、合格基準、確認者を決めます。利用者は許可された範囲で入力し、出力を確認して異常を報告します。委託先、法務、情報システム、経営者も含め、開始承認、日常監視、緊急停止、利用者への説明、訂正を誰が行うか決めます。担当者名だけでなく、休暇時の代行者と停止権限まで必要です。

5.リスクの大きさで、許可・要承認・禁止を分ける

すべてのAI利用を同じ強さで管理すると、重要な用途へ確認資源を集中できません。公開済み文章の言い換えは許可、匿名化した社内資料の要約は指定環境と人の確認を条件に許可、顧客の個人情報を扱う処理は事前承認、採用・融資・医療など人の機会や生活へ大きく影響する自動決定は原則禁止または厳格審査、といった形にします。判断軸は、失敗の影響、対象人数、戻せるか、本人が気づけるか、機密性、外部への操作です。高性能なモデルだから低リスクになるわけではありません。用途と運用を含めて区分し、迷うときは止めて相談できる窓口を示します。

6.透明性は、相手が次の行動を選べる説明にする

利用者へ『AIを使用しています』とだけ書いても、何が起きるか判断できません。何の目的で使い、入力がどう扱われ、出力が人の判断へどう影響し、どんな限界があり、間違いをどこへ申し出られるかを平易に示します。現場担当には入力禁止情報、根拠確認、承認、停止方法を示し、監査者にはモデル版、データ、テスト、変更履歴へたどれる証拠を残します。説明を長くして同意ボタンを押させるだけでは不十分です。重要点を先に示し、利用を断る方法や人による再確認の手段を用意します。説明できない仕組みは、影響の大きい用途へ広げません。

7.人の確認は、承認印ではなく止められる権限にする

『最後は人が確認』と書いても、一人が一時間に数百件を処理し、AIの根拠を見られず、拒否すると業務が遅れた責任を負うなら実質的な監督ではありません。確認者には元データ、AI案、参照資料、確信できない点を同じ画面で示し、判断時間と訓練を与えます。重大な処理は二者確認や専門部署への引継ぎを用意します。人が修正した割合、拒否理由、確認時間を測り、急増したらモデルや業務環境が変わった合図として停止します。人間参加型は、人を置くだけでなく、人が理解し、異議を唱え、結果を覆せる設計です。

8.日本のAI新法を、単独の禁止一覧として読まない

日本のAI新法は、AI関連技術の研究開発と活用を推進し、基本計画、国際協力、情報収集、調査などを進める枠組みです。危険な利用へ国が調査し、必要な指導や助言、情報提供を行う考え方も含まれます。ただし、個人情報、著作権、労働、消費者保護、秘密保持、業法上の責任がこの法律だけへ置き換わるわけではありません。事業者は『AI新法に禁止と書かれていないから使える』と判断せず、用途に関係する既存法、契約、AI事業者ガイドライン、業界ルールを重ねて確認します。名称や施行状況は政府の最新資料で確認し、古い解説記事だけに頼りません。

9.記録は、責任逃れではなく再現と救済のために残す

最低限、目的、責任者、モデルと設定、入力データの種類、参照資料の版、テスト結果、承認、主な修正、公開先、事故を記録します。すべての入力内容を保存すると、個人情報や機密の新しい漏えい源になります。内容そのものではなく識別子や要約で足りるか、閲覧権限、保持期限、削除方法を決めます。記録の目的は、後から『その時点で何を知り、どの基準で判断したか』を再現し、影響を受けた人へ説明・訂正することです。モデル、規約、接続先、用途が変わったら変更記録を起点に再評価します。記録が取れない高影響処理は開始しません。

10.事故対応は、発見・停止・確認・救済・再開をつなぐ

誤案内、情報漏えい、差別的な出力、権限外操作を見つけた人が、迷わず報告できる窓口を用意します。最初に自動処理を止め、対象となるモデル、期間、利用者、データ、出力先を保全して影響範囲を確認します。次に法務、セキュリティ、業務責任者などへ連絡し、必要な通知と訂正を行います。原因をモデルだけへ押しつけず、目的、データ、検索、権限、画面、人の確認、教育まで調べます。影響を受けた人には説明、訂正、再審査、必要な救済を提供します。対策後は事故と別のテストで再発しないことを確認し、責任者が再開を承認します。

11.できないことを認め、外部環境の変化を監視する

ガバナンスを整えても、未知の誤り、攻撃、社会的反発、制度変更をゼロにはできません。組織が知らない社外データの偏りや、提供者が行うモデル更新もあります。そこで、残る危険を明示し、受け入れられない影響の中止基準を置きます。四半期などの定期見直しに加え、苦情の増加、重大事故、用途変更、対象者の変更、モデル・規約・価格・保存設定の変更を臨時見直しの条件にします。AIへ『安全か』と聞いた回答は監査の代わりになりません。公式資料、契約、実測データ、影響を受ける人の声を集め、責任者が判断します。

12.読者演習:一枚のAI利用ルールを作る

題材を『顧客メールの返信案作成』とします。まず目的、対象部署、入力してよい情報、禁止情報、AIが作る範囲、人が確認する項目を一文ずつ書いてください。次に、許可・要承認・禁止の例を各二つ、業務責任者、システム担当、法務、現場利用者の役割を一つずつ書きます。正確さ、機密、偏り、権利のテストと合格基準を置き、重大な誤案内、権限外情報の参照、苦情増加を中止条件にします。最後に、利用者への説明、異議申立て先、ログの範囲と期限、停止手順、再評価日を加えます。第三者がその一枚だけで、使う・止める・相談するを選べれば完成です。

03|実例で理解する

実例で理解する

具体例で考える

ある会社が採用担当者向けに、応募書類の要点を整理する生成AIを導入するとします。最初に目的を『合否を決める』ではなく『担当者が原文を読む前の確認項目を整理する』へ限定します。氏名、顔写真、性別を推測させる情報は処理対象から外し、AIの要約と原文を並べて表示します。合否、面接案内、不採用通知は人が判断し、AIの順位だけで候補者を落としません。応募者にはAIを補助的に使うこと、結果は人が確認すること、問い合わせと再確認の窓口を知らせます。台帳にはモデル版、利用部門、入力区分、テスト結果、責任者、見直し日を記録します。要約漏れ、属性による品質差、根拠のない評価語を固定テストで測り、重大な誤りが一件でも出たら利用を停止します。この設計なら、効率化の利益を得ながら、本人の権利、説明、訂正、人の最終判断を残せます。ここで社会原則は「公平にする」「人を大切にする」という標語で終わりません。原文を必ず読める画面にする、AIの評価語を合否へ使わない、本人が訂正を申し出られる、停止できる責任者を決める、といった確認可能な行動へ変えます。AI新法や各種指針を読む時も、禁止事項を一つ探すだけでなく、自社が提供者・開発者・導入者・利用者のどの立場に当たり、何を説明し、記録し、見直す必要があるかを整理します。制度が変わった時に再確認する日を決めておくことも、運用の一部です。

手を動かして理解する

  1. 今日の三つの用語を、見ずに説明する
  2. 仕事や生活の例へ置き換える
  3. 間違えた確認問題の理由を声に出して説明する

04|今日の理解度を確認する

今日の理解度を確認する

1 / 5
QUESTION 01

AIの社会原則を組織の運用へ反映する方法として、最も適切なのはどれですか。

QUESTION 02

AIガバナンスで最初に作る利用台帳へ記録する内容として、最も適切なのはどれですか。

QUESTION 03

人による確認が実質的に機能している状態はどれですか。

QUESTION 04

日本のAI新法と他のルールの関係について、最も適切な説明はどれですか。

QUESTION 05

AIによる重大な誤案内を発見した直後の対応として、最も適切なのはどれですか。

05|今日の整理をする

今日の整理をする

この3点を持ち帰る

  • ✓ 社会原則を、確認可能な業務ルールと証拠へ変える
  • ✓ 提供者・開発者・導入者・利用者の役割を分け、影響に応じて管理する
  • ✓ AI新法だけで判断せず、既存法・契約・ガイドラインと継続的な監視を組み合わせる

NEXT LESSONDAY 26「伝わる依頼の組み立て方」へ次のDAYに進む →CHAPTER REVIEW第4章の定着テストへ15問を解く →