第6章|安全性・権限・Human-in-the-Loopを設計する
DAY 35 ・ 約30分Human-in-the-LoopとEscalation
人が見る条件、判断材料、時間、責任を設計する。
「Human-in-the-Loopを人が画面を見るだけでなく、判断条件、材料、権限、期限、Override、責任として設計します」を理解し、HITL & Escalation Planとして対象業務へ適用し、採用・保留・停止の理由を第三者へ説明できる。
言葉を知る
用語を暗記するだけでなく、どの判断に使う言葉かまで整理します。
Human-in-the-Loop
AI処理の途中に、人の判断、承認、修正、停止を組み込む設計です。
Escalation
AIや担当者の権限・能力・期限を超えた案件を上位の判断先へ渡すことです。
Service Level
確認や対応を完了する期限と品質の合意です。
Override
通常の結果を、権限を持つ人が理由付きで変更する操作です。
監査証跡(Audit Trail)
判断、承認、実行、変更について、誰が・いつ・何を・どの根拠で行ったかを後から検証できるよう残す一連の記録です。
HITL & Escalation Plan
「Human-in-the-Loopを人が画面を見るだけでなく、判断条件、材料、権限、期限、Override、責任として設計します」を、判断・制御・測定まで含む独自成果物へまとめます。
応答期限
本人からの訂正申立ては別窓口で受け、処理期限を監視します。
仕組みを理解する
この日の設計対象
Human-in-the-Loopを人が画面を見るだけでなく、判断条件、材料、権限、期限、Override、責任として設計します。 ここで扱うのは用語を覚えることではなく、対象業務について選択できる状態を作ることです。まず現在分かっている事実、まだ検証していない仮説、組織として決める方針を分けます。技術的に可能という説明だけでは、業務へ入れてよい根拠になりません。対象、利用者、目的、入力、出力、外部への影響を同じ境界で記し、今回あえて扱わない範囲も明示します。 承認、相談、例外処理、品質標本、事故対応を分け、すべての案件を同じ人へ流しません。 境界の内側だけを詳しくして、前後の依存を消さないことが重要です。前工程から何を受け取り、後工程が何を確定情報として使うかを確認します。設計の結論には、採用案だけでなく保留条件と不採用理由を残します。
構造を順に追う
AIが候補・根拠・不確実性を提示し、リスク条件で担当を選び、Service Level内に判断し、理由を記録します。 各段階へ、開始条件、入力、処理、出力、担当、完了条件を付けます。順番どおりに進む正常例だけでなく、入力不足、競合、タイムアウト、権限不足、外部停止のときにどこへ移るかを記します。AIの応答を得た時点を完了にせず、その結果が人またはシステムで正しく利用され、必要な記録が残るところまでを一つの流れとして見ます。 段階の間では、識別子、版、状態、根拠を引き渡します。自由文だけで状態を表すと、再開・重複防止・監査が難しくなります。後から部品を交換できるよう、業務上の契約と特定製品の設定を分けます。
似た概念を混ぜない
承認、相談、例外処理、品質標本、事故対応を分け、すべての案件を同じ人へ流しません。 似て見える仕組みを一つの箱へ入れると、誰が更新し、どの失敗を止め、何を評価するかが曖昧になります。目的、保存期間、権限、更新者、失敗時の影響という観点で比較し、同じ情報でも用途が違えば別の扱いにします。 名称の違いだけで分けるのではなく、実際の案件を一件通して、いつ何が必要になるかを確かめます。判断材料がなくても処理を進められる設計は、モデルが空白を推測で埋める危険があります。「分からない」「保留」「人へ戻す」を正しい状態として用意します。
判断を再現可能にする
高影響、低確信、基準競合、本人異議は専門家へEscalationし、期限超過時の代替も決めます。 判断票には、選択肢、採用理由、使った証拠、反対証拠、決定者、確認日を残します。点数を付ける場合も、合計点だけで結論を決めません。安全、権利、契約、説明責任など、満たさなければ進めない条件を別のゲートにします。 判断が人によって割れる場合は、平均で隠さず、どの前提が違うかを確認します。製品デモ、公式仕様、自社ログ、担当者の経験は証拠の強さが違います。結論を最も動かす未確認事項を、次の検証課題として担当と期限へ変えます。
失敗から先に設計する
一人へ大量承認が集中し、元資料を開く時間がなく、Approve連打が常態化します。 失敗を「回答が少し違う」の一種類にまとめず、発生原因、検知方法、影響範囲、回復可能性で分けます。外部へ送る、公開する、削除する、支払う、個人を評価するなどの操作は、下書きより厳しい条件を置きます。頻度が低くても重大な失敗は、平均品質へ埋めません。 通常経路を速くするだけでなく、危険な入力を正しく止めることも価値です。再試行が同じ外部操作を重ねないか、停止後に誰が案件を引き継ぐか、誤りを訂正して影響を受けた人へ説明できるかを確認します。
制御を一つに頼らない
根拠と差分を表示し、保留・修正・拒否を同等の選択肢にして、Escalation先を自動通知します。 指示文だけ、確認者だけ、ログだけの単独対策にせず、予防、検知、停止、対応、復旧を重ねます。固定条件はコードや権限で強制し、曖昧な分類はAIに候補を出させ、高影響の結論は必要な材料を見られる人が担います。人の確認には、時間、専門性、根拠、保留手段が必要です。 制御が働いた件数も記録します。ブロックが多すぎる場合は業務を止め、少なすぎる場合は検知漏れの可能性があります。例外対応を担当者の善意に任せず、連絡先、期限、代替経路、再開条件を運用へ含めます。
測る対象と基準を固定する
確認時間、差戻し、Override理由、期限超過、担当別負荷、AI結果への同調率を測ります。 指標には対象期間、母数、除外条件、測定者、データの所在を付けます。平均だけでなく中央値、分布、重大失敗を分け、導入前と導入後を同じ定義で比べます。活動量、出力品質、利用状況、事業成果は別の層です。生成回数が増えても、採用されず確認負荷が増えれば価値は出ていません。 測定のために過剰な個人情報を集めたり、学習目的を従業員評価へ無断転用したりしません。欠測をゼロとして扱わず、測れない項目は未確認として残します。どの数字ならGo、修正して再試験、停止のどれにするかを実行前に決めます。
データと責任を対応させる
この設計で使う情報には、所有者、提供者、品質責任者、アクセス承認者、更新頻度、保存期間を付けます。共有フォルダーに存在することは、正確で利用許可があることを意味しません。最新版、機密区分、個人情報、著作権、契約上の制約を確認し、目的に必要な最小範囲だけを扱います。 この設計に必要な情報と、念のため集めたい情報を分けます。訂正が生じたとき、元データ、参照知識、処理状態、出力履歴のどれを更新するかを決めます。データが古い、欠ける、権限外の場合に、AIが補完せず保留できる経路を作ります。
実装へ渡せる粒度にする
「AIが候補・根拠・不確実性を提示し、リスク条件で担当を選び、Service Level内に判断し、理由を記録します」を、特定の画面操作ではなく入出力契約として表します。各部品は、何を受け取り、何を返し、どの認証で、何秒待ち、何回再試行し、どのログを残すかを持ちます。外部作用の前後には、承認対象と実行対象が同一であることを確かめる識別子を置きます。 一つの巨大なエージェントへ任せず、固定処理、検索、モデル、人、既存システムを役割で分けます。ただし部品が多いほど受け渡しと障害点も増えます。必要最小限の構成から始め、品質と運用の証拠が得られた範囲だけを拡大します。
実例を三種類で通す
地方銀行の融資資料整理の通常例、境界例、失敗例を一件ずつ用意します。通常例では期待する流れと出力、境界例では判断が割れる条件、失敗例では停止・復旧・説明を確認します。成功例だけを繰り返しても、本番の安全性は分かりません。実例には個人情報を必要以上に含めず、架空化または利用許可のある代表データを使います。 各例について、どの情報を参照し、どの分岐を通り、誰が何を確定し、何が記録されたかを追います。設計図の外で担当者が補った作業は、見なかったことにせず図へ戻します。
関係者レビューを行う
業務責任者、実行担当、データ責任者、技術担当、リスク・法務、出力を受ける人は異なる懸念を持ちます。全員が毎回参加する必要はありませんが、誰の確認が欠けているかは残します。レビューでは「便利そうか」だけでなく、目的、境界、必要データ、最悪の失敗、停止、費用、測定を順に確認します。 「高影響、低確信、基準競合、本人異議は専門家へEscalationし、期限超過時の代替も決めます」という結論を第三者に復唱してもらい、解釈がずれれば成果物を修正します。専門用語だけで説明せず、実際の一件がどう変わるかを示します。反対意見は抵抗として捨てず、未発見の制約や影響を知る証拠として扱います。
変更と版を管理する
設計時点のモデル、外部サービス、規程、データ版、確認日を記録します。AI関連の仕様は変わるため、一度の合格を永久保証としません。入力分布、料金、権限、モデル、知識、業務ルールの変更を検知したら、影響する評価例と承認を再実行します。変更理由と差分を残し、以前の正常状態へ戻せるようにします。 「一人へ大量承認が集中し、元資料を開く時間がなく、Approve連打が常態化します」という問題が再発したとき、どの版で、誰が、どの証拠を見て判断したかを追えることが必要です。軽微な表示変更と、能力・権限・データ利用の変更を同じ承認にしません。後者は失敗影響が変わるため、再評価の対象です。
今日の完了条件
HITL & Escalation Planは、空欄をそれらしい言葉で埋めたら完成ではありません。「Human-in-the-Loopを人が画面を見るだけでなく、判断条件、材料、権限、期限、Override、責任として設計します」を、判断・制御・測定まで含む独自成果物へまとめます。 通常例と失敗例を第三者が追え、採用・保留・不採用の理由が証拠へ戻れ、次に誰が何を確かめるかが分かる状態を完成とします。 最後に、目的と対象外、主要な選択、残る不確実性、停止条件、次の見直し日を一段落で説明します。図と表の名称・識別子をそろえ、前日までの成果物と矛盾しないか確認します。未解決事項は欠点を隠すものではなく、次の安全な検証を定義する項目です。
実例で理解する
具体例で判断する
AIは財務資料から確認候補を作りますが、融資判断を行いません。欠損、矛盾、高額案件は審査担当へ渡し、候補と原資料の差分を表示します。担当者は採用、修正、保留を理由付きで選べます。本人からの訂正申立ては別窓口で受け、処理期限を監視します。 この例では、技術的に可能な最大範囲ではなく、目的を測れて失敗を小さく止められる範囲を選びます。担当者の経験を消すのではなく、どの判断材料と例外処理を維持するかを明示します。導入前の値、試験期間、対象件数、重大失敗を固定し、結果が良くても権限は自動で広げません。条件が変わった場合は、同じ成果物へ確認日と差分を追記して再評価します。
HITL & Escalation Plan
「Human-in-the-Loopを人が画面を見るだけでなく、判断条件、材料、権限、期限、Override、責任として設計します」を、判断・制御・測定まで含む独自成果物へまとめます。
- 対象と目的を固定する
- 「承認、相談、例外処理、品質標本、事故対応を分け、すべての案件を同じ人へ流しません。」を図へ反映する
- 「AIが候補・根拠・不確実性を提示し、リスク条件で担当を選び、Service Level内に判断し、理由を記録します。」を順に記録する
- 制御と人の責任を対応させる
- 「確認時間、差戻し、Override理由、期限超過、担当別負荷、AI結果への同調率を測ります。」で受入条件を置く
04|今日の理解度を確認する
今日の理解度を確認する
DAY35「Human-in-the-LoopとEscalation」で、「Human-in-the-Loop」の説明として適切なものはどれですか。
この日の基礎となるHuman-in-the-Loopの説明です。
Human-in-the-Loop:AI処理の途中に、人の判断、承認、修正、停止を組み込む設計です。: 正解です。この日の基礎となるHuman-in-the-Loopの説明です。
製品名だけでHuman-in-the-LoopとEscalationの結論を決める: 製品名だけでは、処理のどの段階で人が確認・承認・停止するかを定められません。
Escalation:AIや担当者の権限・能力・期限を超えた案件を上位の判断先へ渡すことです。: Escalationは本文中の関連概念ですが、設問が問うHuman-in-the-Loopとは役割が異なります。
Service Level:確認や対応を完了する期限と品質の合意です。: Service Levelも「Human-in-the-LoopとEscalation」に関係しますが、Human-in-the-Loopの定義を置き換えるものではありません。
「地方銀行の融資資料整理で一人へ大量承認が集中し、元資料を開く時間がなく、Approve連打が常態化します」という状況が起きました。最も適切な判断はどれですか。
目的、境界、責任を保った判断です。
高影響、低確信、基準競合、本人異議は専門家へEscalationし、期限超過時の代替も決めます。: 正解です。目的、境界、責任を保った判断です。
Human-in-the-Loopだけを確認し、Escalationが未確認でも「Human-in-the-LoopとEscalation」を本番運用へ進める: Human-in-the-Loopだけでは不十分です。本文はEscalationを含む条件が欠ける場合、保留または追加確認を求めています。
HITL & Escalation Planの根拠を残さず、AIの出力が自然なら「Human-in-the-LoopとEscalation」の判断を採用する: 出力の自然さは業務上の根拠になりません。「Human-in-the-LoopとEscalation」では証拠と判断条件を追跡する必要があります。
Service Levelの成功例だけで判断し、Overrideに関する例外と失敗影響を除外する: 成功例だけでは設問の状況を評価できません。Overrideに関する例外と失敗影響も判断材料です。
DAY35「Human-in-the-LoopとEscalation」で、対象を混同しないために置く区別として最も適切なものはどれですか。
役割と更新責任を分離できます。
承認、相談、例外処理、品質標本、事故対応を分け、すべての案件を同じ人へ流しません。: 正解です。役割と更新責任を分離できます。
「Human-in-the-LoopとEscalation」ではHuman-in-the-LoopとEscalationを同一視し、所有者と更新責任を共通化する: 本文はHuman-in-the-LoopとEscalationの役割・更新責任を分けています。同一視すると誤った状態を参照します。
HITL & Escalation Planの作成後は、入力・参照情報・生成履歴の版を区別しない: 成果物があっても情報の役割と版は別です。区別しないと変更と根拠を追跡できません。
「Human-in-the-LoopとEscalation」の例外を通常経路へ混ぜ、分からない状態や保留状態を設けない: 本文は未確認を推測で埋めず、保留・照会・停止へ分けることを求めています。
DAY35「Human-in-the-LoopとEscalation」の設計を運用後に評価する測定対象として最も適切なものはどれですか。
導入前後を同じ対象と条件で比べられます。
確認時間、差戻し、Override理由、期限超過、担当別負荷、AI結果への同調率を測ります。: 正解です。導入前後を同じ対象と条件で比べられます。
製品名だけでHuman-in-the-LoopとEscalationの結論を決める: 製品名だけでは、人の確認時間、差戻し、期限超過や担当者の負荷を評価できません。
「Human-in-the-LoopとEscalation」の処理件数だけを増やし、Human-in-the-Loopの品質と重大失敗は測らない: 活動量だけでは品質や安全を判断できません。本文の測定対象と合格条件が欠けています。
「Human-in-the-LoopとEscalation」の導入前後で対象期間と母数を変え、平均値だけを比較する: 条件が異なる比較では改善を判定できません。期間・母数・除外条件を固定する必要があります。
HITL & Escalation Planを実装へ渡せる状態にする設計はどれですか。
成果物の入力、判断、制御、確認を追跡できます。
HITL & Escalation Planの目的・入力・判断手順・制御・責任・受入条件を同じ版で対応付ける: 正解です。成果物の入力、判断、制御、確認を追跡できます。 詳細な確認事項: 対象と目的を固定する、「承認、相談、例外処理、品質標本、事故対応を分け、すべての案件を同じ人へ流しません。」を図へ反映する、「AIが候補・根拠・不確実性を提示し、リスク条件で担当を選び、Service Level内に判断し、理由を記録します。」を順に記録する、制御と人の責任を対応させる、「確認時間、差戻し、Override理由、期限超過、担当別負荷、AI結果への同調率を測ります。」で受入条件を置き、一つの版で対応付ける
HITL & Escalation Planに対象と目的を固定するだけを書き、判断根拠と受入条件は口頭確認にする: HITL & Escalation Planは一部項目だけでは実装・監査へ渡せません。判断、責任、受入条件を同じ版で追跡します。
HITL & Escalation Planの版を残さず、完成後にHuman-in-the-Loopの根拠を必要に応じて追記する: 後付けでは判断時点の根拠を再現できません。対象、根拠、責任、版を同時に固定します。
「Human-in-the-LoopとEscalation」の正常例だけで受け入れ、失敗時の停止・復旧・未確認を成果物へ含めない: 正常例だけでは安全な実装条件になりません。失敗経路と復旧条件も受入対象です。
04|今日の理解度を確認する
今日の理解度を確認する
今日の整理をする
この3点を持ち帰る
- ✓ Human-in-the-Loopを人が画面を見るだけでなく、判断条件、材料、権限、期限、Override、責任として設計します。
- ✓ 承認、相談、例外処理、品質標本、事故対応を分け、すべての案件を同じ人へ流しません。
- ✓ 根拠と差分を表示し、保留・修正・拒否を同等の選択肢にして、Escalation先を自動通知します。
講義本文 4,933字
PRIMARY SOURCES