第10章|AI倫理・AIガバナンス
DAY 46 ・ 約30分AI倫理と人間中心
合法・高精度だけでは決められない価値判断を扱う。
AI倫理を抽象的な善悪ではなく、影響を受ける人、守る価値、利益と不利益、代替手段、異議申立てから整理し、人間中心の利用条件を説明できる。
言葉を知る
用語を暗記するだけでなく、似た概念との違いと、何を判断するための言葉かまで整理します。
AI倫理
AIの設計・開発・提供・利用が、人の尊厳、権利、公平、安全、社会、環境へ与える影響を考え、望ましい行動を選ぶための考え方です。
人間中心
技術や効率を目的そのものにせず、人の尊厳、幸福、選択、能力、社会参加を中心にAIの目的と運用を設計する考え方です。
自律性・自己決定
本人が必要な情報を得て、自分の価値観に基づき選択できることです。AIの誘導や自動判断が選択を形だけにしないか確認します。
善行・無危害
利益を生み出すことと、予測可能な害を避け軽減することです。便利さが一部の人への重大な害を正当化するとは限りません。
アカウンタビリティ
誰が何を決め、結果をどう確認し、問題時に説明・是正・救済するかを明確にする責任の仕組みです。
ステークホルダー
開発者、提供者、利用者だけでなく、AIの判断を受ける人、家族、地域、将来世代など、影響や関心を持つ関係者です。
異議申立て
代替窓口、後から撤回する方法、重要判断への異議申立てを用意し、子どもや支援が必要な人には追加配慮を行います。
仕組みを理解する
1.AI倫理を、法律違反の有無だけに縮めない
法律は最低限の禁止や義務、救済を定めますが、すべての新しいAI利用を事前に細かく決めているわけではありません。法令上ただちに禁止されない場合でも、本人が気付かない誘導、少数者の排除、監視の常態化、説明できない重要判断が望ましいとは限りません。 反対に、倫理上の懸念があることを理由に、事実確認なく「違法」と呼んではいけません。法律、契約、技術的安全、倫理的妥当性を別の問いとして調べ、最後に統合して判断します。
2.精度が高いことと、使ってよいことを分ける
病気の予測、採用候補の順位付け、子どもの学習評価などでは、正解率が高くても目的、データの取得、本人への影響、誤り時の救済が不適切なら導入できません。性能は必要条件の一つで、正当な目的や人の権利まで自動的に保証しません。 平均精度95%でも、1万人へ使えば誤りが多数生じます。誤りが広告の並び替えなのか、治療・雇用・住居の機会を失わせるのかで許容範囲は変わります。数字を影響の大きさへつなげて読みます。
3.誰の利益と不利益かを、分けて書く
「業務が効率化する」という利益は、多くの場合、導入組織の利益です。一方、誤判定、説明負担、監視、不利益な選別は顧客や従業員へ偏ることがあります。社会全体では便利でも、特定地域・職種・属性へ負担が集中する場合もあります。 便益とリスクを合計点だけで相殺せず、誰が受けるか、重大さ、起こりやすさ、回復可能性を表にします。小さな費用削減で、少人数へ回復困難な権利侵害を負わせる設計は見直します。
4.人間中心を『最後に人が押す』だけにしない
AIの出力を人が承認する画面があっても、担当者に時間、知識、権限、別の情報がなければ実質的な監督になりません。毎日千件を数秒で承認する運用では、AIの提案へ従う自動化バイアスが起きやすくなります。 意味のある人の関与には、判断基準、根拠へのアクセス、出力を覆す権限、相談先、確認時間、訓練が必要です。AIを使わない代替手段や、異常時に手作業へ戻せる設計も含みます。
5.本人の選択を、分かる説明と代替手段で守る
長い利用規約へ同意させただけでは、十分な自己決定にならない場合があります。AIを何に使うか、どの情報を使うか、結果が何へ影響するか、断った場合どうなるかを、対象者が理解できる言葉と方法で示します。 同意しなければ必須サービスを受けられない場面では、選択の自由が弱くなります。代替窓口、後から撤回する方法、重要判断への異議申立てを用意し、子どもや支援が必要な人には追加配慮を行います。
6.目的と手段が釣り合うかを確認する
目的が正当でも、過度な手段を選んではいけません。店内の混雑を測るために来店者全員を顔認識し長期追跡するより、人数センサーや匿名の集計で足りる場合があります。高性能なAIを使えることと、使う必要があることは別です。 目的達成に必要な最小範囲、より侵害の小さい代替、保存期間、対象者を比較します。「念のため集める」「将来使えるかもしれない」は、無制限な収集や監視の理由にしません。
7.多様な人を、設計と評価へ参加させる
開発チームが同じ経験を持つ人だけなら、読み上げ、色覚、方言、文化、障害、低速回線、古い端末などの利用条件を見落とします。多数派には便利でも、既に不利な人をさらに排除する設計になり得ます。 当事者を単なるテスト要員にせず、課題設定、要件、評価、改善へ参加させます。意見を集めた事実だけで終わらず、採用・不採用の理由と残った懸念を記録します。
8.現在の人だけでなく、社会と将来への影響を見る
一つの便利な推薦機能でも、長期には情報の偏り、選択肢の縮小、創作者への報酬、技能の喪失、環境負荷へつながります。個々の利用者が自由に選んだ結果でも、全体として同じ情報だけが優先されることがあります。 直接の利用者、対象者、利用しない人、将来世代まで範囲を広げます。ただし、遠い可能性だけを並べて判断不能にせず、証拠の強さ、時間、規模、回復可能性を区別します。
9.価値が衝突するとき、理由を公開可能な形にする
プライバシーを強めると詳細な公平性監査が難しくなる、安全のために監視を増やすと自由が狭まるなど、価値は同時に最大化できない場合があります。倫理は正解語を一つ選ぶ作業ではなく、衝突を見えるようにする作業です。 守る価値、犠牲になる価値、代替案、影響を受ける人、決定者、見直し条件を書きます。社外へ全文を出せない場合でも、判断基準と相談・救済方法は説明できるようにします。
10.倫理評価を、導入前から終了まで続ける
導入前の影響評価では、目的、対象者、利益、害、権利、データ、代替手段、監督、救済を確認します。本番後は苦情、属性別の結果、誤り、利用目的の拡大、モデル更新を監視します。最初の承認を永久の許可にしません。 DAY46では、AI利用案を一つ選び、「誰のどの問題を解くか」「使わない方法はあるか」「最悪の影響は何か」「止める条件は何か」を自分の言葉で書きます。
実例で理解する
具体例で考える
市役所が、子育て支援制度を案内する会話AIを導入する場面を考えます。目的は、利用者が自分に関係する制度を見つけやすくし、窓口時間外にも入口情報を得られるようにすることです。申請の可否をAIだけで決定することではありません。 利益を受けるのは、検索が苦手な人、開庁時間に行けない人、職員です。一方、日本語を読みづらい人、障害のある人、複雑な家庭事情を持つ人は、誤案内や利用不能の影響を強く受ける可能性があります。 利用者へ氏名や詳しい家庭事情を最初から入力させず、年齢、居住地域、目的など必要な条件を段階的に尋ねます。個別情報を入れなくても制度一覧を見られる経路を残します。 AIの回答には、制度名、概要、確認日、公式ページ、問い合わせ先を示します。「あなたは必ず対象です」と確定せず、最終要件は担当窓口で確認することを伝えます。根拠ページが更新されたら再取り込みと確認を行います。 やさしい日本語、読み上げ、文字サイズ、キーボード操作、多言語を試します。当事者と支援者に使ってもらい、質問の意味が伝わるか、途中で行き止まりにならないかを確認します。 会話AIを使いたくない人には、電話、窓口、制度一覧を残します。AI利用を拒否したことで、申請の順位や対応品質が下がる設計にしません。 職員の確認画面では、AIの要約だけでなく利用者の質問、参照した制度、未確認点を表示します。担当者が訂正でき、誤りを知識更新へ戻せるようにします。 重大な誤案内、同じ属性への繰り返し失敗、古い制度の表示、個人情報の誤収集を停止条件にします。相談件数が多い時間帯でも、危険な回答を速度優先で続けません。 月次評価では利用回数だけでなく、解決率、窓口への引継ぎ、誤案内、アクセシビリティ、苦情を確認します。利用が多いことを、社会的に良いことの唯一の証拠にしません。 導入前には、窓口職員、ひとり親家庭、外国語話者、視覚障害者、支援団体と試用会を行います。「使いやすかったか」だけでなく、答えを得られなかった場面、入力をためらった場面、誤解しやすい表現を記録します。参加者の意見を採用しなかった場合も理由を残します。 AIが「一般的には両親の所得を入力してください」と聞くと、家庭の形を一つに決め付ける可能性があります。制度上必要な条件を確認し、不要な家族像や性別役割を質問へ持ち込みません。利用者が答えたくない項目を飛ばし、人へ相談できるようにします。 制度の優先順位をAIが勝手に決めないよう、表示基準を公開します。金額が大きい制度だけでなく、申請期限、緊急性、対象条件、本人の希望を確認します。表示されなかった制度も検索できる一覧を残し、推薦が選択肢を狭めないようにします。 職員の負担も確認します。AIが曖昧な相談を大量に窓口へ転送すれば、表面上のチャット利用率は上がっても仕事は増えます。引継ぎ情報の品質、重複確認、対応時間を測り、目標を「AIで完結する割合」だけにしません。 委託先が会話AIを提供する場合、市は倫理責任を丸ごと移せません。苦情を受ける窓口、制度情報の更新者、モデルの技術担当、停止判断者を契約と運用表へ書きます。提供者のモデル更新で質問方法が変わったら、再度当事者テストを行います。 半年ごとに、利用しなかった市民へも理由を尋ねます。アクセスできなかった、信用できなかった、対面を望んだという声は、利用ログだけでは見えません。利用者だけの満足度で公共サービス全体を評価しないためです。 この例の人間中心とは、画面に「人が最終責任を持つ」と書くことではありません。入力を最小化し、根拠と限界を示し、代替窓口、訂正、停止、当事者参加を一つの運用へつなぐことです。
手を動かして理解する
- 提供ケース「架空の学校または自治体のAI導入を、影響・公平性・安全・責任へ分ける」または自分が説明できる身近な事例を一つ選び、DAY46「AI倫理と人間中心」の判断観点で整理してください。提出物には、①対象と目的、②本文の用語を使った判断、③判断の根拠、④未確認事項または限界を記します。最後に学習目標「AI倫理を抽象的な善悪ではなく、影響を受ける人、守る価値、利益と不利益、代替手段、異議申立てから整理し、人間中心の利用条件を説明できる。」を満たす説明になっているか自己確認してください。紙または端末の標準メモだけで実施でき、外部サービスへの登録や有料契約は不要です。 実在人物の個人情報、機密情報、未公開資料は使わず、架空または匿名化した情報だけを使ってください。
04|今日の理解度を確認する
今日の理解度を確認する
AI倫理と法律の関係について適切な説明はどれですか。
正解は「法令順守を確認した上で、尊厳・権利・社会への影響も別に検討する」です。講義で扱った人間中心の判断とガバナンスの条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
法令順守を確認した上で、尊厳・権利・社会への影響も別に検討する: 正解は「法令順守を確認した上で、尊厳・権利・社会への影響も別に検討する」です。講義で扱った人間中心の判断とガバナンスの条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
法律で明示されない行為は常に望ましい: 適法性と望ましさは同じ範囲ではありません。
倫理上の懸念があれば事実確認なしに違法と呼ぶ: 倫理と法的評価を混同せず根拠を分けます。
精度が高ければ法律も倫理も確認しない: 性能は権利や目的の妥当性を保証しません。
人間中心のAI利用として最も適切なものはどれですか。
正解は「人が根拠を確認し、出力を覆せる時間・能力・権限と代替手段を持つ」です。講義で扱った人間中心の判断とガバナンスの条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
人が根拠を確認し、出力を覆せる時間・能力・権限と代替手段を持つ: 正解は「人が根拠を確認し、出力を覆せる時間・能力・権限と代替手段を持つ」です。講義で扱った人間中心の判断とガバナンスの条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
画面に承認ボタンだけを置く: 操作の存在だけでは意味のある監督になりません。
担当者が千件を数秒で無条件承認する: 確認できない量では自動化バイアスが起きます。
最終責任という言葉だけを規程へ書く: 責任を果たす具体的な仕組みが必要です。
AI導入の便益と害を評価するとき適切な方法はどれですか。
正解は「誰が利益と不利益を受けるか、重大さ・回復可能性まで分けて記録する」です。講義で扱った人間中心の判断とガバナンスの条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
誰が利益と不利益を受けるか、重大さ・回復可能性まで分けて記録する: 正解は「誰が利益と不利益を受けるか、重大さ・回復可能性まで分けて記録する」です。講義で扱った人間中心の判断とガバナンスの条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
会社の費用削減だけを総利益とする: 対象者や社会へ移る負担を見落とします。
小さな利益で少人数への重大な害を自動的に相殺する: 合計点だけでは分配と重大な害が隠れます。
利用回数だけで倫理的に良いと判断する: 利用の多さは望ましさを単独で証明しません。
本人の自己決定を守る設計はどれですか。
正解は「AIの目的・影響を分かる言葉で示し、拒否・撤回・代替・異議申立てを用意する」です。講義で扱った人間中心の判断とガバナンスの条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
AIの目的・影響を分かる言葉で示し、拒否・撤回・代替・異議申立てを用意する: 正解は「AIの目的・影響を分かる言葉で示し、拒否・撤回・代替・異議申立てを用意する」です。講義で扱った人間中心の判断とガバナンスの条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
長い規約へ同意させれば他は不要とする: 形式的な同意だけでは理解と選択を保証しません。
AIを拒否した人へ必須サービスを提供しない: 実質的な選択肢がありません。
重要な判断でもAI利用を知らせない: 本人が判断や訂正を行えません。
混雑把握のため顔認識を検討するとき最初に行うべきことはどれですか。
正解は「人数センサーなど侵害の小さい代替で目的を達成できないか比較する」です。講義で扱った人間中心の判断とガバナンスの条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
人数センサーなど侵害の小さい代替で目的を達成できないか比較する: 正解は「人数センサーなど侵害の小さい代替で目的を達成できないか比較する」です。講義で扱った人間中心の判断とガバナンスの条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
最も高性能な顔認識を無条件で導入する: 目的に対して手段が過剰な可能性があります。
将来使う可能性だけで顔画像を永久保存する: 必要性と保存目的が特定されていません。
技術的に可能なら必要性を問わない: 可能性と正当な必要性は別です。
04|今日の理解度を確認する
今日の理解度を確認する
今日の整理をする
この3点を持ち帰る
- ✓ AI倫理は法律・精度と別の問いを持ち、人の尊厳・権利・社会への影響を扱う
- ✓ 便益と害を誰が受けるか分け、目的に必要な最小手段と代替案を比較する
- ✓ 人間中心には、意味のある監督、本人の選択、異議申立て、継続的な影響評価が必要
講義本文 4,074字
PRIMARY SOURCES