第10章|AI倫理・AIガバナンス
DAY 50 ・ 約30分AIガバナンスを設計する
原則・責任・証拠・監視・改善を一つの仕組みにする。
AIガバナンスを禁止規程や委員会だけにせず、台帳、リスク分類、責任、ライフサイクル審査、調達、監視、事故、監査、改善から実行可能な仕組みとして設計できる。
言葉を知る
用語を暗記するだけでなく、似た概念との違いと、何を判断するための言葉かまで整理します。
AIガバナンス
組織がAIの目的を実現しながらリスクを管理するための方針、役割、意思決定、手順、記録、監督、改善の仕組みです。
AI台帳
利用・開発しているAIについて、目的、責任者、データ、モデル、提供者、権限、影響、状態などを一覧で管理する記録です。
リスクベース・アプローチ
すべてへ同じ管理を行わず、影響の重大さ、起こりやすさ、対象者、回復可能性に応じて審査と対策を厚くする考え方です。
リスクオーナー
特定のリスクを理解し、対策、受容、停止、経営への報告について責任と権限を持つ人です。AI担当者だけへ全責任を押し付けません。
影響評価
導入前や重要変更時に、目的、対象者、権利、便益、害、データ、代替、対策、残余リスクを体系的に確認する手続です。
監査証跡
誰が、いつ、何を根拠に承認・変更・実行したかを後から再現できる記録です。ログを集めるだけでなく、意味と保存条件を定めます。
監査
第三線の内部監査は仕組みが機能したか独立に確かめます。
仕組みを理解する
1.原則を、実行できる管理項目へ変える
「公平・安全・透明なAIを使う」という方針だけでは、担当者が何をすべきか分かりません。公平なら属性別評価と異議申立て、安全なら試験・権限・停止、透明なら対象者への通知と記録へ分解します。 原則ごとに責任者、確認時期、証拠、基準、例外、是正を定めます。美しい宣言と現場の運用が離れないようにします。
2.まずAI台帳で、何を使っているか把握する
組織向け契約だけでなく、個人アカウント、表計算のAI機能、外注先のAI、製品へ組み込まれたモデルも対象です。把握できないAIは評価も停止もできません。 名称、目的、担当、利用者、対象者、入力、出力、外部接続、提供者、モデル版、契約、データ地域、更新、終了日を記録します。台帳を利用禁止の取締りだけにせず、承認済みの安全な選択肢を示します。
3.用途と影響でリスクを分類する
同じ文章生成モデルでも、社内の言い換えと、採用可否や医療助言では影響が違います。モデル名や最新性だけで高低を決めません。対象者、権利、実行権限、規模、可逆性、脆弱な立場を見ます。 低リスクは簡易登録、中リスクは担当レビュー、高リスクは独立審査と経営承認など段階を設けます。禁止用途と緊急停止条件も明示します。
4.三つの防衛線で、担当と監督を分ける
第一線の事業・開発部門は目的、品質、日常管理を担います。第二線の法務、リスク、セキュリティ、プライバシーは基準と助言・監視を担います。第三線の内部監査は仕組みが機能したか独立に確かめます。 小さな組織で人数を完全分離できなくても、自己承認を避け、重要案件は外部専門家や別責任者が確認します。最終責任を「AI委員会」へ曖昧に移しません。
5.ライフサイクルごとに、通過条件を置く
企画では目的・代替・対象者、調達では契約・データ・更新、開発では品質・安全、公開前は受入試験・説明・救済、本番は監視・事故、終了時はデータ削除・移行を確認します。 一回の導入審査で終わらず、モデル、データ、用途、権限、対象者が変わる重要変更を再審査の条件にします。
6.外部AIの調達でも、利用組織の責任を残す
提供者の安全認証や説明は重要ですが、自社用途での妥当性を保証するとは限りません。学習データ、性能の限界、更新、再委託、事故通知、監査資料、データ出力、終了を確認します。 販売資料の総合精度ではなく、自社データと失敗例で受入試験を行います。提供者が説明できない部分は、利用範囲の縮小や人の確認で補います。
7.指標と警報を、目的・害・運用へ結び付ける
利用回数や正解率だけではガバナンスを測れません。目的達成、重大誤り、属性別差、苦情、異議申立て、権限外操作、費用、応答時間、人の修正率を確認します。 各指標に基準、警報、担当、対応期限を定めます。数値が悪化しても誰も動かないダッシュボードを作りません。測れない影響は、面談や事例レビューで補います。
8.事故と内部通報を、学習できる仕組みにする
利用者が誤りを隠す文化では、小さな兆候が重大事故へ進みます。報告者を責めず、危険な利用を止められる窓口を用意します。故意の違反と、分かりにくい設計による誤操作は分けて調べます。 事故分類、連絡、封じ込め、証拠、通知、復旧、根本原因、再発防止を記録します。他部署へ共通する教訓は台帳と基準へ戻します。
9.監査は、書類の有無ではなく機能を確かめる
規程、チェック表、研修記録があっても、実際の設定や判断が違えば管理は機能していません。台帳から案件を抽出し、データ、権限、評価、承認、通知、事故対応を証拠で追います。 監査者は独立性と必要な技術理解を持ち、重大な不備を経営へ報告できるようにします。全件確認ではなく、リスクと異常から対象を選びます。
10.ガバナンスを、変化へ適応する循環にする
AI、法令、攻撃、社会の期待は変わります。年一回の規程更新だけでなく、重大更新、事故、苦情、新用途、外部ガイドライン改訂を見直しのきっかけにします。 日本ではAI法が2025年に全面施行され、AI事業者ガイドラインは2026年3月に第1.2版へ更新されています。DAY50では最新の公式情報を確認し、台帳、分類、役割、審査、監視、事故、監査、改善の一周を自分で設計します。
実例で理解する
具体例で考える
従業員300人の会社が、会議要約、社内検索、顧客メール下書き、採用書類整理でAIを使う場面を考えます。これまで各部署が個別に契約し、全体像を把握できていません。 経営者は「AIを禁止する委員会」ではなく、安全に価値を得るガバナンスを目的にします。責任者、事業、IT、法務、セキュリティ、人事、利用者代表で小さな運営会議を作ります。 最初の一か月でAI台帳を作ります。サービス、目的、入力情報、利用者、対象者、外部接続、契約、責任者、状態を登録します。個人契約を申告しても直ちに処罰せず、代替サービスと移行方法を示します。 会議要約は低〜中リスク、顧客メールは中リスク、採用整理は高リスクとします。機密性、対象者への影響、自動実行、誤りの回復可能性から分類理由を残します。 低リスク案件は研修と簡易登録で開始できます。中リスクはデータ・品質・契約レビュー、高リスクは影響評価、属性別評価、人事・法務・独立担当の承認を求めます。 採用AIは合否を決めず、書類項目の整理だけに限定します。応募者へ利用を説明し、元書類確認、人の判断、訂正窓口を置きます。目的を順位付けへ変更する場合は再審査します。 外部サービス調達では、学習利用、保存、再委託、モデル更新、事故通知、データ出力、終了時削除を確認します。提供者の認証だけで、自社の採用用途が安全と判断しません。 月次では重大誤り、苦情、人の修正率、権限外入力、費用を確認します。採用では属性別の処理差と再審査結果も見ます。警報基準を超えたら担当が機能を停止できます。 誤って顧客名簿を個人向けAIへ入力した事故が起きたら、隠さず報告できる窓口を使います。送信範囲、削除、通知、原因を調べ、承認済み環境と入力防止を改善します。 内部監査は半年後、台帳から高リスク案件と異常案件を抽出し、承認資料だけでなく実際の設定、ログ、利用者説明、停止手順を確認します。 運営会議は、責任分担表を作ります。事業責任者は目的と対象者、ITは構成と権限、法務は法令・契約、セキュリティは脅威、プライバシー担当はデータ、人事は従業員影響を確認します。最終承認者と停止権限者を別欄にします。 影響評価では、導入案だけでなく「AIを使わない」「機能を限定する」「人の支援だけ増やす」代替案を比較します。既に購入費を払ったことは、本番導入を正当化する理由にしません。 研修は全員へ同じ動画を一度見せて終わりにしません。一般利用者には入力禁止情報と確認方法、開発者には評価と安全、管理職には承認と事故責任を教えます。実際の誤入力例を使い、理解度を確認します。 例外申請では、理由、期間、対象、追加対策、承認者を記録します。「緊急だから」を無期限の例外にせず、期限が来たら自動で失効し、継続には再審査を求めます。 提供者からモデル更新の通知を受けたら、変更点が不明でもそのまま本番へ入れません。固定テスト、重大事例、属性別結果、権限動作を確認し、問題時に旧版へ戻せるか、代替へ切り替えられるかを調べます。 経営向け報告は「AI案件数」だけにしません。得られた価値、重大リスク、停止案件、未解決の苦情、外部依存、次の投資判断を示します。良い数字だけを上げる文化を避けます。 監査で不備が見つかったら、担当部署が期限と証拠を付けて是正します。完了報告の文章だけで閉じず、設定、テスト結果、利用者説明が実際に変わったか再確認します。未完了なら経営へ報告します。 取締役会や経営会議は、専門用語の詳細をすべて理解する必要はありませんが、目的、重大な害、残余リスク、停止可能性、責任者を質問できなければなりません。技術担当が「モデルの問題」、事業側が「ベンダーの問題」と責任を往復させる状態を許しません。 小規模組織では大企業と同じ委員会数を作らず、台帳、リスク区分、承認者、相談先、事故窓口という最小構成から始めます。外部専門家を使う場合も、最終判断と記録は組織内へ残します。規模に合わせて簡素化しても、重要な責任を省略しません。毎年必ず見直しを行います。 四半期ごとにガイドライン、法令、提供者変更を確認し、年一回は全体方針を経営が見直します。利用されない規程は簡素化し、事故や苦情から必要な管理を追加します。 この例のガバナンスは、全件を委員会で遅くする制度ではありません。低リスクを速く進め、高リスクへ専門確認を集中し、問題時に止め、証拠から学べる仕組みです。
手を動かして理解する
- 提供ケース「架空の学校または自治体のAI導入を、影響・公平性・安全・責任へ分ける」または自分が説明できる身近な事例を一つ選び、DAY50「AIガバナンスを設計する」の判断観点で整理してください。提出物には、①対象と目的、②本文の用語を使った判断、③判断の根拠、④未確認事項または限界を記します。最後に学習目標「AIガバナンスを禁止規程や委員会だけにせず、台帳、リスク分類、責任、ライフサイクル審査、調達、監視、事故、監査、改善から実行可能な仕組みとして設計できる。」を満たす説明になっているか自己確認してください。紙または端末の標準メモだけで実施でき、外部サービスへの登録や有料契約は不要です。 実在人物の個人情報、機密情報、未公開資料は使わず、架空または匿名化した情報だけを使ってください。
04|今日の理解度を確認する
今日の理解度を確認する
AIガバナンスの説明として最も適切なものはどれですか。
正解は「方針を役割・審査・記録・監視・事故対応・改善へ変える組織の仕組み」です。講義で扱った人間中心の判断とガバナンスの条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
方針を役割・審査・記録・監視・事故対応・改善へ変える組織の仕組み: 正解は「方針を役割・審査・記録・監視・事故対応・改善へ変える組織の仕組み」です。講義で扱った人間中心の判断とガバナンスの条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
AIを全面禁止する一枚の掲示: 価値ある低リスク利用まで止める必要はありません。
委員会名だけを作ること: 責任と実行手順がありません。
モデルの精度だけを測ること: 権利・安全・運用を含む全体管理が必要です。
AI台帳へ記録すべき内容はどれですか。
正解は「目的、責任者、入力、対象者、外部接続、提供者、モデル版、契約、状態」です。講義で扱った人間中心の判断とガバナンスの条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
目的、責任者、入力、対象者、外部接続、提供者、モデル版、契約、状態: 正解は「目的、責任者、入力、対象者、外部接続、提供者、モデル版、契約、状態」です。講義で扱った人間中心の判断とガバナンスの条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
製品ロゴの色だけ: 利用実態とリスクを把握できません。
担当者の好き嫌いだけ: 組織的な管理情報になりません。
導入費用だけ: 費用だけではデータ・影響・責任が分かりません。
リスクベースでAI案件を管理する方法はどれですか。
正解は「用途・対象者・権利・実行権限・回復可能性で分類し、審査の厚さを変える」です。講義で扱った人間中心の判断とガバナンスの条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
用途・対象者・権利・実行権限・回復可能性で分類し、審査の厚さを変える: 正解は「用途・対象者・権利・実行権限・回復可能性で分類し、審査の厚さを変える」です。講義で扱った人間中心の判断とガバナンスの条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
すべてのAIへ同じ最重審査を行う: 低リスク利用を不必要に遅らせます。
モデル名だけで危険度を決める: 同じモデルでも用途で影響が変わります。
最新モデルは無審査とする: 新しさは安全の証明ではありません。
外部AIサービスを調達するとき適切な対応はどれですか。
正解は「提供者資料を確認した上で、自社データ・用途・失敗例で受入試験する」です。講義で扱った人間中心の判断とガバナンスの条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
提供者資料を確認した上で、自社データ・用途・失敗例で受入試験する: 正解は「提供者資料を確認した上で、自社データ・用途・失敗例で受入試験する」です。講義で扱った人間中心の判断とガバナンスの条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
安全認証があれば自社用途の確認を省略する: 認証範囲と自社用途は一致しない場合があります。
販売資料の総合精度だけで採用する: 条件と重大な失敗が見えません。
終了時のデータ移行を確認しない: ロックインと事業停止の危険があります。
AIガバナンスを継続的に改善する方法はどれですか。
正解は「モデル・用途変更、事故、苦情、監査、法令・ガイドライン更新を見直しの契機にする」です。講義で扱った人間中心の判断とガバナンスの条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
モデル・用途変更、事故、苦情、監査、法令・ガイドライン更新を見直しの契機にする: 正解は「モデル・用途変更、事故、苦情、監査、法令・ガイドライン更新を見直しの契機にする」です。講義で扱った人間中心の判断とガバナンスの条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
導入時の承認を永久に有効とする: 環境とリスクは変化します。
事故を担当者個人の注意不足だけで閉じる: 仕組み上の原因と再発防止が必要です。
監査では書類の存在だけを見る: 実際の設定と運用が機能したか確認します。
04|今日の理解度を確認する
今日の理解度を確認する
今日の整理をする
この3点を持ち帰る
- ✓ AIガバナンスは原則を、台帳・役割・審査・証拠・監視・改善へ変える仕組み
- ✓ モデル名ではなく用途と影響でリスク分類し、管理の厚さと承認権限を変える
- ✓ 調達から終了まで通過条件を置き、事故・監査・外部変化を次の改善へ戻す
講義本文 4,038字
PRIMARY SOURCES