第10章|AI倫理・AIガバナンス
DAY 47 ・ 約30分公平性・プライバシー・透明性
複数の価値が衝突する場面で、測定と説明を行う。
公平性の定義が複数ある理由を理解し、データ・代理変数・指標を点検するとともに、プライバシー、透明性、説明可能性、異議申立てを用途に合わせて設計できる。
言葉を知る
用語を暗記するだけでなく、似た概念との違いと、何を判断するための言葉かまで整理します。
公平性
関係する人を公正に扱う性質です。同じ扱い、必要に応じた異なる支援、機会や誤りの均衡など複数の考え方があり、用途ごとに定義します。
バイアス
データ、設計、測定、運用、人の判断に生じる体系的な偏りです。すべての差を悪とせず、不当な不利益につながる原因を調べます。
代理変数
直接使わない属性を間接的に表す変数です。郵便番号が地域や所得と結び付くように、保護属性を削除しても影響が残る場合があります。
人口統計的均等・機会均等
選択される割合を集団間でそろえる考え方と、実際に条件を満たす人が正しく選ばれる割合をそろえる考え方です。両立しない場合があります。
透明性・説明可能性
AI利用の事実、目的、データ、限界、責任を分かるようにすることと、個別結果の理由を人が理解・検証できる形で示すことです。
異議申立て・救済
影響を受けた人が結果を知り、誤りを訂正し、再検討を求め、不利益を回復できる仕組みです。説明だけで終わらせません。
差別的影響
モデルは差別する意図を持たなくても、予測に有効な相関として利用します。
仕組みを理解する
1.公平を『全員同じ』の一言で決めない
同じ基準を使う形式的平等と、出発条件の差へ配慮する実質的公平は異なります。音声試験を全員へ同じ時間で行っても、聴覚障害のある受験者には参加機会が保障されません。逆に、属性ごとに結果を必ず同じにすることが個人へ不当になる場面もあります。 何を公平にしたいのか、誰と誰を比べるか、どの不利益を避けるかを先に決めます。指標名から目的を逆算しません。
2.データの偏りを、件数だけでなく生成過程から見る
各集団の件数が同じでも、測り方や記録のされ方が違えば偏ります。過去の採用記録は、能力だけでなく当時の募集経路、面接官、働き方、差別を含む可能性があります。苦情データは、被害だけでなく通報しやすさを表します。 誰がデータに含まれないか、正解ラベルを誰が付けたか、測定誤差が属性で違わないかを確認します。過去データを現実の中立な写しと考えません。
3.保護属性を消しても、公平になるとは限らない
性別や年齢を入力から外しても、氏名、学校、職歴の中断、郵便番号、購入履歴が代理変数になることがあります。モデルは差別する意図を持たなくても、予測に有効な相関として利用します。 属性を使わない評価と、監査のために属性別結果を測ることは分けます。必要な法的根拠とプライバシー管理を確認し、監査データへのアクセスを限定します。
4.公平性指標は、同時に満たせない場合がある
集団ごとの基準率が異なるとき、選択率、真陽性率、陽性的中率をすべて同時に等しくすることは難しい場合があります。どれか一つの差が小さいだけで「公平なAI」と宣言できません。 用途と害から優先指標を選びます。病気の見逃しを避けたいなら真陽性率、誤って高リスク扱いされる害が大きいなら偽陽性率が重要です。全体値、集団別値、標本数、信頼区間を合わせて読みます。
5.集団の数字と、一人の妥当性を分ける
集団間の平均差が小さくても、ある一人の入力が間違っていれば判断は不当です。反対に、個々の予測理由が説明できても、特定集団へ誤りが集中している場合があります。 集団公平性、個別判断の正確さ、一貫性、手続の公正を別に確認します。統計指標だけで人の訴えを退けず、個別訂正と再審査を用意します。
6.公平性監査とプライバシーの緊張を管理する
属性別に結果を測るには、性別、年齢、障害などの情報が必要になる場合があります。しかし収集を増やすほど、漏えい、目的外利用、再識別の危険が増えます。「公平のため」なら無制限に集めてよいわけではありません。 目的、必要項目、保存期間、アクセス、集計単位を限定します。可能なら分離保管、仮名化、統計的プライバシー技術を検討し、少数集団の値を不用意に公開しません。
7.透明性を、対象者ごとの説明へ分ける
利用者にはAIを使う場面、できること、限界、問い合わせ先が必要です。判断対象者には、使われた情報、結果の意味、訂正・異議申立てが重要です。監査者にはモデル版、評価、変更履歴が必要で、開発者にはさらに詳細な技術情報が要ります。 すべての情報を全員へ同じ量で出すのではなく、役割に必要な層で説明します。企業秘密やセキュリティを理由に、影響を受ける人への説明をゼロにしません。
8.説明可能性を、もっともらしい物語にしない
生成AIへ「なぜこの判断をしたか」と尋ねると、自然な説明を後から作る場合があります。それが実際の計算過程や参照情報を忠実に表すとは限りません。 入力、ルール、特徴の寄与、参照資料、類似例、反実仮想、ログなど、目的に合う証拠を使います。技術的説明が難しい場合でも、主要条件、限界、再検討方法を人が説明できるようにします。
9.異議申立てを、形だけの窓口にしない
問い合わせフォームがあっても、AIと同じ結果を自動返信するだけなら救済になりません。対象者が結果を知り、誤ったデータを訂正し、人による再審査を受け、決定を覆せる必要があります。 申立て期限、必要資料、担当、回答時間、判断権限を定めます。申立てをした人へ報復的不利益を与えず、繰り返す苦情はモデルや業務基準の改善へ戻します。
10.本番後の差と変化を、継続して監視する
導入前テストが公平でも、利用者構成、景気、制度、データ入力、モデル更新により差が広がります。結果だけでなく、途中で離脱した人、AIを利用できなかった人、手作業へ回された人も確認します。 DAY47では、対象AIについて公平の定義、優先指標、属性データの扱い、説明対象、異議申立て、再評価時期を一枚へまとめます。
実例で理解する
具体例で考える
地域銀行が、個人事業主からの小口融資申込みを整理するAIを導入する場面を考えます。AIは申請の優先確認順位と不足書類を示しますが、融資可否や金利を単独で決めません。 過去データには、売上、返済履歴、業歴、業種、審査結果があります。しかし過去に融資を受けられなかった人は返済実績を持てず、女性や外国人の事業者が少なければ学習例も不足します。 銀行は公平を「同じ入力なら同じ扱い」「返済可能性が同程度なら確認機会を同程度にする」「重大な見逃しを特定集団へ集中させない」と定義します。承認率だけを等しくするとは決めません。 郵便番号、氏名、業種が代理変数にならないか確認します。予測へ不要な属性は外しますが、監査用属性は別環境で管理し、担当者が個別審査に利用できないようにします。 全体の正解率に加え、集団別の真陽性率、偽陽性率、手作業移行率を測ります。対象者が少ない集団では、数件の差を確定的な傾向と断定せず、標本数と期間を示します。 申込者には、AIが書類確認を補助すること、最終判断は担当者が行うこと、主な判断資料、不足情報の訂正方法を説明します。モデルの数式全体を見せることを説明の代わりにしません。 AIが「確認優先度低」とした場合も、担当者は主要理由と原資料を確認できます。理由が「地域」とだけ表示されたら、その特徴が正当な信用判断へ必要かを再検討します。 申込者は、売上データの誤りや一時的事情を追加し、人の再審査を求められます。再審査担当者にはAI結果を覆す権限と時間を与えます。 モデル更新前後で属性別結果を比較し、差が許容範囲を超えたら公開を止めます。入力フォーム変更による欠損増加も監視します。 公平性の基準は、モデル開発者だけで決めません。融資担当、リスク管理、法務、データ担当に加え、個人事業主や支援団体から、何が実務上の不利益になるかを聞きます。意見が一致しない場合は、優先した価値と理由を審査記録へ残します。 たとえば審査時間を全員同じにすることは一見公平ですが、点字資料や通訳が必要な申込者には追加時間が要ります。結果の数字だけでなく、申込みへ到達し、必要書類を提出し、説明を理解できるまでの手続全体を確認します。 AIの予測が外れた事例は、属性名だけでまとめません。同じ集団の中にも業種、地域、事業年数、収入形態の違いがあります。大きな集団平均で小さな集団の問題を隠さず、細かく分けすぎて個人が特定される危険にも配慮します。 説明文は利用者テストを行います。「スコアが閾値未満」と伝えるだけでは次に何を直せるか分かりません。確認できた事実、不足資料、変更可能な条件、変更できない条件、人による再審査の申込方法を分けます。 再審査の結果は、元のAI判定と比較します。人が頻繁に覆す項目は、モデルか業務基準に問題がある可能性があります。逆に、担当者ごとに結論が大きく変わる場合は、人の判断基準と教育も見直します。 プライバシー保護のため監査属性を削除した結果、不利益な差を検知できなくなる場合があります。収集しない、限定収集、第三者集計などの選択肢を比較し、必要性と保護策を定期的に再評価します。 銀行は「公平性認証済み」と固定表示せず、確認した期間、対象、指標、残る制約を示します。公平性は永続的な称号ではなく、データと社会条件の変化に合わせて検証し続ける状態だからです。検証結果は次回の基準へ反映します。 導入を見送った申込者の追跡が難しい場合、その限界を評価報告へ書きます。返済実績のある人だけで性能を測ると、過去に選ばれなかった人への判断が正しいか確認できないためです。追加調査や小規模な人手審査で証拠を補います。確認日と担当者、調査範囲と限界も残します。 公平性を改善するために属性情報を増やす場合は、目的、法的根拠、保存期間、閲覧権限を別途審査します。公平とプライバシーの片方を無条件に優先しません。 この例では、差を一つの数字で消すのではなく、過去データの偏り、代理変数、複数指標、個別説明、再審査を組み合わせました。公平性はモデルの性質だけでなく、業務手続全体の性質です。
手を動かして理解する
- 提供ケース「架空の学校または自治体のAI導入を、影響・公平性・安全・責任へ分ける」または自分が説明できる身近な事例を一つ選び、DAY47「公平性・プライバシー・透明性」の判断観点で整理してください。提出物には、①対象と目的、②本文の用語を使った判断、③判断の根拠、④未確認事項または限界を記します。最後に学習目標「公平性の定義が複数ある理由を理解し、データ・代理変数・指標を点検するとともに、プライバシー、透明性、説明可能性、異議申立てを用途に合わせて設計できる。」を満たす説明になっているか自己確認してください。紙または端末の標準メモだけで実施でき、外部サービスへの登録や有料契約は不要です。 実在人物の個人情報、機密情報、未公開資料は使わず、架空または匿名化した情報だけを使ってください。
04|今日の理解度を確認する
今日の理解度を確認する
AIの公平性について適切な説明はどれですか。
正解は「同じ扱い・機会・誤りの均衡など複数の考え方があり、用途と害から定義する」です。講義で扱った人間中心の判断とガバナンスの条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
同じ扱い・機会・誤りの均衡など複数の考え方があり、用途と害から定義する: 正解は「同じ扱い・機会・誤りの均衡など複数の考え方があり、用途と害から定義する」です。講義で扱った人間中心の判断とガバナンスの条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
全員へ同じ入力画面なら必ず公平である: 参加条件の差を無視する場合があります。
一つの指標が良ければ永久に公平である: データや社会条件の変化で再評価が必要です。
属性ごとの結果を必ず同じにすれば個人にも常に公平である: 集団指標と個別判断の妥当性は別です。
保護属性を入力から削除した後の適切な確認はどれですか。
正解は「郵便番号や学校などの代理変数と属性別の結果差を確認する」です。講義で扱った人間中心の判断とガバナンスの条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
郵便番号や学校などの代理変数と属性別の結果差を確認する: 正解は「郵便番号や学校などの代理変数と属性別の結果差を確認する」です。講義で扱った人間中心の判断とガバナンスの条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
属性を消したので公平性監査を永久に終了する: 間接的な相関が残る可能性があります。
代理変数は存在しないと仮定する: 他の特徴が属性と結び付く場合があります。
全体精度だけを見て集団差を無視する: 平均値の内側に差が隠れます。
公平性監査とプライバシーの関係で適切なものはどれですか。
正解は「監査目的・項目・保存・アクセスを限定し、必要性と再識別リスクを比較する」です。講義で扱った人間中心の判断とガバナンスの条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
監査目的・項目・保存・アクセスを限定し、必要性と再識別リスクを比較する: 正解は「監査目的・項目・保存・アクセスを限定し、必要性と再識別リスクを比較する」です。講義で扱った人間中心の判断とガバナンスの条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
公平のためなら属性を無制限に集める: 目的外利用や漏えいの危険が増えます。
プライバシーのため属性差を一切測らない: 不利益な差を検知できない可能性があります。
少数集団の個別値を必ず公開する: 個人の特定や追加の害につながります。
個別結果の説明として最も適切なものはどれですか。
正解は「使った主要情報、結果の意味、変更可能な条件、訂正・再審査方法を示す」です。講義で扱った人間中心の判断とガバナンスの条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
使った主要情報、結果の意味、変更可能な条件、訂正・再審査方法を示す: 正解は「使った主要情報、結果の意味、変更可能な条件、訂正・再審査方法を示す」です。講義で扱った人間中心の判断とガバナンスの条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
生成AIが後から作った理由を必ず内部計算の真実とする: 自然な文章と忠実な説明は別です。
数式だけを全員へ渡して説明完了とする: 対象者が理解し行動できる説明が必要です。
企業秘密を理由にAI利用の事実も知らせない: 影響を受ける人への基本説明をゼロにしません。
実効性のある異議申立てはどれですか。
正解は「誤データを訂正し、権限を持つ人が再審査し、結果を覆せる」です。講義で扱った人間中心の判断とガバナンスの条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
誤データを訂正し、権限を持つ人が再審査し、結果を覆せる: 正解は「誤データを訂正し、権限を持つ人が再審査し、結果を覆せる」です。講義で扱った人間中心の判断とガバナンスの条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
AIと同じ回答を自動返信する: 同じ仕組みの反復では救済になりません。
申立てた人へ不利益を与える: 報復は申立てを妨げます。
窓口名だけ置き担当と期限を決めない: 処理されない形だけの窓口になります。
04|今日の理解度を確認する
今日の理解度を確認する
今日の整理をする
この3点を持ち帰る
- ✓ 公平性には複数の定義があり、用途・対象者・避けたい害から優先する考え方を選ぶ
- ✓ 属性を削除しても代理変数や過去データの偏りは残り、集団別と個別の両方を確認する
- ✓ 透明性は対象者別に設計し、説明、訂正、人による再審査まで救済へつなげる
講義本文 4,051字
PRIMARY SOURCES