第7章|AIの社会実装
DAY 31 ・ 約30分AIで解く課題を定める
AIありきではなく、価値・実現性・リスクから選ぶ。
業務上の困りごとを、対象・入力・望む出力・評価・人の役割へ分解し、AIを使う場合と使わない場合を比較して、実装すべき課題を選べる。
言葉を知る
用語を暗記するだけでなく、似た概念との違いと、何を判断するための言葉かまで整理します。
課題設定
誰のどの状態を、何によって、どの状態へ変えたいかを具体化する作業です。モデル名より先に定めます。
ベースライン
新しいAIと比較する基準です。現行業務、単純規則、人の判断、平均値予測など、AIを使わない方法も含みます。
KPI
目的の達成度を継続的に見る指標です。モデル精度だけでなく、時間、費用、事故、利用率など業務成果を測ります。
制約条件
予算、期限、法令、処理時間、設備、説明義務など、解決案が必ず守る条件です。
ステークホルダー
AIの開発・利用・判断・影響に関わる人や組織です。利用者だけでなく、判断対象者や保守担当も含みます。
フォールバック
AIが使えない、確信が低い、異常を検知した場合に、人や既存手順へ安全に戻す仕組みです。
問題定義
この例の課題定義は「メールを分類する」ではなく、「重大案件の初動を早める」です。
仕組みを理解する
1.AIを入れることを、目的にしない
「生成AIを使いたい」「画像認識を導入したい」から始めると、技術に合わせて困りごとを探す形になります。必要なのは、誰が、どの作業で、何に困り、現在どれだけ時間・費用・失敗が生じているかです。課題が明確なら、AI以外の改善も比較できます。 入力フォームを一項目減らすだけで処理時間が半分になるなら、複雑なモデルは不要です。固定規則で正確に判断できるなら、説明しやすい規則処理が適します。AIは、例外が多い、文章・画像など非構造データを扱う、過去データから傾向を学ぶ必要がある場合の候補です。
2.現状を数字で測ってから、変えたい状態を定める
問い合わせ対応を改善するなら、「遅い」という感想だけで始めません。一日何件、平均何分、待ち時間、再問い合わせ率、誤案内率、担当者の残業時間を測ります。現状値がなければ、導入後の改善を証明できません。 目標は「AI化率100%」ではなく、「平均初回回答を2時間から30分へ」「誤案内率を増やさず、下書き時間を30%削減」のようにします。速さを上げて品質が落ちる場合を考え、複数指標と守る下限を決めます。測定期間、対象部署、除外条件も記録します。
3.目的を、入力・出力・行動へ分解する
「売上を上げるAI」では広過ぎます。何を入力し、何を予測し、その結果を誰がどう使うかを分けます。購入履歴から翌週の需要数を予測し、担当者が発注候補を見るなら、モデル出力は需要数、業務行動は発注量の決定です。 予測と行動を混同すると、売上が上がらない原因をモデルだけへ求めます。予測が正しくても、在庫上限や発注締切が合わなければ成果になりません。目的、入力、モデル出力、人の判断、実行、結果を矢印でつなぎ、各段階の責任を決めます。
4.正解データを作れる課題か確認する
教師あり学習では、過去の入力と正解が必要です。退職予測を考えても、退職理由が記録されず、部署ごとに定義が違えば、すぐ高品質な学習はできません。画像検査でも、専門家同士で不良判定が割れるなら、ラベル基準から整えます。 正解が遅れて分かる課題、本人の行動で結果が変わる課題、将来の制度変更が大きい課題もあります。データがあることと、目的に合う正解があることを分けます。記録数、欠測、期間、対象集団、ラベル作成者、判断一致率を確認します。
5.価値・実現性・リスクの三軸で候補を比べる
価値は時間削減、売上、品質、利用者体験などです。実現性はデータ、技術、費用、設備、運用能力で見ます。リスクは誤りの影響、差別、個人情報、法令、信用、安全です。価値が高くても、誤り一件で生命へ影響する課題は慎重に進めます。 三軸を高・中・低など同じ基準で採点し、根拠を書きます。最初の候補には、価値が確認しやすく、データがあり、失敗しても人が止められる課題を選ぶ方が現実的です。高リスク課題を避けるだけでなく、人の承認や対象範囲でリスクを下げられるか考えます。
6.ステークホルダーごとに、利益と負担を確認する
管理者にとって処理が速くても、利用者が毎回長い入力を求められれば全体最適ではありません。担当者の作業が減っても、監査担当の確認が倍になる場合があります。予測対象にされた人が、誤りを訂正できない問題もあります。 利用者、判断対象者、現場担当、管理者、開発、保守、法務・安全のそれぞれについて、得る利益、新しい負担、誤りの影響、説明と異議申立てを書きます。声の大きい発注者だけで目的を決めず、影響を受ける人を含めます。
7.モデル指標と業務指標を分ける
分類モデルの適合率・再現率が高くても、業務時間が減るとは限りません。確認画面が使いにくい、低信頼例が多い、誤警報で担当者が疲れる可能性があります。モデル指標は予測能力、業務指標は導入結果を測ります。 両者をつなぐ仮説を明示します。「高優先問い合わせの再現率を上げれば、初動遅れが減る」のように書き、再現率、初動時間、見逃し件数を測ります。精度向上がどの行動を通じて価値へつながるか確認します。
8.誤りの種類と費用を、正解率の前に考える
医療支援で病気を見逃す偽陰性と、健康な人を要検査にする偽陽性は影響が違います。不正検知で誤って支払いを止めれば、利用者へ損害が出ます。全体正解率だけでは、重要な誤りが隠れます。 誤りごとに発生人数、金銭、時間、権利、安全、信用への影響を書きます。しきい値を変えると偽陽性と偽陰性のバランスが変わるため、業務上の費用から選びます。重大な例はAIだけで確定せず、人の確認へ送ります。
9.ベースラインと撤退条件を先に置く
AI案は、現行業務、単純な規則、既存ソフト、人の判断と比較します。過去七日平均の需要予測が十分なら、複雑な深層学習を維持する価値は小さいかもしれません。高精度でも費用と説明負担を含めて劣る場合があります。 開始前に「再現率が基準未満」「確認時間が減らない」「月額費用が削減額を超える」「重大事故が一件」のような停止・見直し条件を決めます。投じた費用を理由に続けるサンクコストを避けます。
10.DAY 31では、一枚の課題定義書を作る
候補課題を一つ選び、対象者、現状、望む変化、入力、モデル出力、業務行動、KPI、制約、誤り、フォールバック、ベースラインを一枚へまとめます。「AIで効率化する」のような抽象語を残さず、測れる言葉へ直します。 最後に「AIを使わない方がよい理由」を三つ書き、それでも使う根拠を確認します。反対案に答えられなければ、技術選定へ進まず課題設定へ戻ります。
実例で理解する
具体例で考える
小さな通販会社で、問い合わせメールの優先順位付けを支援する案を考えます。現状は一日300件を到着順に読み、配送事故や決済障害の発見が平均4時間遅れています。目標は、高優先案件の初回確認を60分以内にし、通常案件の誤った後回しを増やさないことです。 入力は件名、本文、注文状態です。モデル出力は「緊急・通常・確認必要」の候補と根拠箇所です。返信送信や返金は行わず、担当者が順番を決めます。優先順位付けと、顧客への最終対応を分けます。 ベースラインは、到着順、キーワード規則、人が最初の一文だけ確認する方法です。AIがキーワード規則より高精度でも、処理費用と確認画面の時間を含めて比較します。現在の初動時間、見逃し、誤警報を4週間測ります。 正解ラベルは、過去対応をそのまま正解にせず、緊急の定義を作ります。生命・安全、決済重複、配送紛失、個人情報を優先し、広告や単なる感情語だけで緊急にしません。担当者二人が独立に判定し、不一致例を規則へ反映します。 モデル指標は緊急案件の再現率を重視します。業務指標は60分以内の確認率、担当者の一件当たり確認時間、通常案件の待ち時間です。「怒っている」という表現が多い利用者だけを不当に優先しないよう、問い合わせ種類と言語別にも測ります。 偽陰性は緊急を通常へ落とす誤り、偽陽性は通常を緊急へ上げる誤りです。偽陰性の影響が大きいため、しきい値を調整し、確信が低い例は確認必要へ送ります。ただし緊急が多過ぎれば担当者が警告を無視するため、誤警報率の上限も決めます。 個人情報を含むメールを外部サービスへ送る場合、契約、保存、学習利用、アクセス権を確認します。必要なら個人情報を除去し、社内環境で処理します。問い合わせ本文を無期限に学習用へ保存しません。 PoCへ進む条件は、ラベル一致率が基準を満たし、キーワード規則より緊急再現率が改善し、担当者の確認時間が減ることです。撤退条件は重大案件の見逃し、月額費用が削減額を超える、利用者からの重大な苦情です。技術を導入する前に、価値・実現性・リスクを同じ表へ置きます。 費用はモデル利用料だけでなく、ラベル作成、画面開発、個人情報の管理、監視、担当者教育、問い合わせ対応を含めます。年間の削減見込みからこれらを引き、何か月で回収できるかを試算します。件数が少ない時期でも固定費を負担できるか確認します。 別案として、緊急語の規則を増やす、専任者が朝夕だけ先に確認する、問い合わせフォームで種類を選んでもらう方法も比較します。AI案が精度で勝っても、改修が容易な規則案との費用差を説明できなければ採用しません。 影響を受ける顧客には、AIが優先候補を作ること、最終判断は担当者であること、誤りの連絡先を必要に応じて説明します。担当者にはAIの候補を正解として扱わず、原文と注文状態を確認する訓練を行います。 この例の課題定義は「メールを分類する」ではなく、「重大案件の初動を早める」です。将来、分類方式が規則や別モデルへ変わっても、KPIと利用者保護は維持します。技術の名称ではなく、解決したい状態を正本にします。 半年後に問い合わせ件数や緊急の定義が変われば、当初の前提と現状を比較します。目標を達成したから自動的に利用範囲を広げず、新しい部署や言語は別の課題として再評価します。
手を動かして理解する
- 提供ケース「小規模な問い合わせ分類PoCを、課題・データ・評価・運用へ分ける」または自分が説明できる身近な事例を一つ選び、DAY31「AIで解く課題を定める」の判断観点で整理してください。提出物には、①対象と目的、②本文の用語を使った判断、③判断の根拠、④未確認事項または限界を記します。最後に学習目標「業務上の困りごとを、対象・入力・望む出力・評価・人の役割へ分解し、AIを使う場合と使わない場合を比較して、実装すべき課題を選べる。」を満たす説明になっているか自己確認してください。紙または端末の標準メモだけで実施でき、外部サービスへの登録や有料契約は不要です。 実在人物の個人情報、機密情報、未公開資料は使わず、架空または匿名化した情報だけを使ってください。
04|今日の理解度を確認する
今日の理解度を確認する
AI導入の課題設定で最初に確認すべきものはどれですか。
正解は「誰のどの作業に、現在どの程度の時間・費用・失敗があるか」です。講義で扱った仕組みと判断条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
誰のどの作業に、現在どの程度の時間・費用・失敗があるか: 正解は「誰のどの作業に、現在どの程度の時間・費用・失敗があるか」です。講義で扱った仕組みと判断条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
使いたい最新モデルの名称だけ: 技術名より前に解く課題と現状を定めます。
競合会社のAI広告の色: 広告表現は業務課題の根拠になりません。
学習パラメータ数だけ: 規模だけで価値や必要性は決まりません。
AI案のベースラインとして適切なものはどれですか。
正解は「現行業務、単純規則、人の判断など比較可能な方法」です。講義で扱った仕組みと判断条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
現行業務、単純規則、人の判断など比較可能な方法: 正解は「現行業務、単純規則、人の判断など比較可能な方法」です。講義で扱った仕組みと判断条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
AI案の成功例だけ: 成功例だけでは改善幅を比較できません。
テストデータへ合わせた最終モデルだけ: テストへ合わせると最終評価が漏れます。
費用を含めない理想値だけ: 現実の比較には時間・費用も含めます。
モデル指標と業務KPIの関係について適切な説明はどれですか。
正解は「予測性能が、どの行動を通じて時間・品質などへつながるか仮説を示す」です。講義で扱った仕組みと判断条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
予測性能が、どの行動を通じて時間・品質などへつながるか仮説を示す: 正解は「予測性能が、どの行動を通じて時間・品質などへつながるか仮説を示す」です。講義で扱った仕組みと判断条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
モデル精度が高ければ業務成果も必ず高い: 画面や人の運用で成果が出ない場合があります。
業務KPIがあればモデル評価は不要になる: 予測能力は別に測る必要があります。
二つは同じ意味なので分けない: 予測と導入結果は異なる層の指標です。
価値が高いが誤りの影響も大きいAI課題への適切な対応はどれですか。
正解は「対象範囲を限定し、人の承認・停止・フォールバックを設ける」です。講義で扱った仕組みと判断条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
対象範囲を限定し、人の承認・停止・フォールバックを設ける: 正解は「対象範囲を限定し、人の承認・停止・フォールバックを設ける」です。講義で扱った仕組みと判断条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
価値が高いので確認なしで全自動にする: 価値と安全条件は別に管理します。
平均正解率だけで安全と決める: 誤りの種類と影響を確認する必要があります。
重大な誤りを評価から除外する: 重大例こそ専用の評価と停止条件が必要です。
撤退条件を開始前に決める理由はどれですか。
正解は「投じた費用や関係者の期待に引かれず、証拠から停止を判断するため」です。講義で扱った仕組みと判断条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
投じた費用や関係者の期待に引かれず、証拠から停止を判断するため: 正解は「投じた費用や関係者の期待に引かれず、証拠から停止を判断するため」です。講義で扱った仕組みと判断条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
一度決めたAIを必ず永久利用するため: 撤退条件は継続を強制するものではありません。
テスト結果を見ずに成功扱いするため: 基準へ照らして失敗も判断します。
人の責任をモデルへ移すため: 責任分担は別に明確化します。
04|今日の理解度を確認する
今日の理解度を確認する
今日の整理をする
この3点を持ち帰る
- ✓ AIありきではなく、現状と望む変化を測れる言葉で定める
- ✓ 入力・予測・人の判断・実行・業務結果を分け、モデル指標とKPIをつなぐ
- ✓ ベースライン、誤りの費用、フォールバック、撤退条件を開始前に決める
講義本文 4,048字
PRIMARY SOURCES