第1章|AIの基礎
DAY 05 ・ 約15分過学習とAIの評価
練習問題に強いだけではなく、初めて見る状況で役立つかを判断する。
訓練・検証・テスト、過学習・汎化、データ漏洩・分布変化を理解し、AIを公平に評価する手順を説明できる。
言葉を知る
用語だけを暗記せず、似た言葉との違いまで説明できる状態を目指します。
訓練データ
モデルの重みを実際に調整するために使うデータです。問題集でいえば練習問題に当たります。同じ例へ合わせすぎると、訓練データでは高得点でも未知のデータで失敗します。
検証データ
学習方法、モデルの設定、停止する時期などを選ぶために使うデータです。練習の途中で受ける模擬試験に近く、訓練データとは分けます。検証結果を何度も見て調整すると、検証データにも合わせすぎる点に注意が必要です。
テストデータ
完成したモデルの性能を最後に公平に測るため、訓練や設定調整には使わず残しておくデータです。本番前の最終試験に当たります。結果を見て何度もモデルを直せば、もはや公平な未知データではなくなります。
過学習
訓練データの特徴や偶然のノイズまで覚え込み、訓練では高得点なのに新しいデータで性能が落ちる状態です。問題の答えを丸暗記し、少し表現が変わると解けない状態に似ています。
汎化
学習に使っていない新しいデータや状況でも、学んだ規則を適切に使える能力です。実務で必要なのは訓練点ではなく、利用者、季節、商品、表現が変わっても一定の品質を保つ汎化性能です。
データ漏洩
本来なら学習時に知ってはいけないテスト情報や未来の情報が、入力や特徴へ混ざることです。評価だけが不自然に高くなり、実運用では再現しません。個人情報の流出という意味とは別の、機械学習評価上の用語です。
分布変化
学習時と運用時で、利用者、商品、言葉、制度、撮影環境などデータの傾向が変わることです。公開時に合格したモデルも、環境変化によって性能が低下するため、運用後の監視が必要です。
評価指標
AIの性能を測る物差しです。正解率だけでなく、見逃し、誤検知、生成内容の正確さ、根拠、安全性、費用、処理時間、人の修正量など、目的に合う複数の指標を使います。
仕組みを理解する
1.訓練で高得点でも、実務で使えるとは限らない
学校の試験で、練習問題とまったく同じ問題だけが出れば、答えを丸暗記して満点を取れます。しかし数字や言い回しが変わった途端に解けなければ、本当に理解したとはいえません。AIも同じで、学習に使ったデータでの点数だけでは実力を判断できません。顧客対応AIなら、新しい商品、初めての言い回し、誤字を含む問い合わせにも対応する必要があります。過学習したモデルは、訓練データの本質的な傾向だけでなく、偶然含まれた背景、言葉、ノイズまで手掛かりにします。評価では、モデルがまだ見ていないデータを用意し、少し条件が変わっても働くかを確認します。
2.訓練・検証・テストは、役割を混ぜない
訓練データは重みを学ぶため、検証データは設定やモデルを選ぶため、テストデータは完成後の性能を測るために使います。三つを分ける理由は、自分が練習や調整に使った問題で自分を採点すると、実力を高く見積もるからです。検証データを見ながら何十回も設定を変えると、その検証問題へも間接的に合わせ込むため、最後に触れていないテストデータが必要です。さらに、同じ人物や同じ商品のほぼ同一データが別の組へ入ると、答えを推測しやすくなります。件数をランダムに分けるだけでなく、時間、顧客、店舗など実運用に合う単位で分けます。
3.データ漏洩は、未来を知っているような高得点を作る
退職予測で『退職後に発行される書類』を入力へ含めれば、非常に高い精度が出るかもしれません。しかし予測したい時点では、その情報はまだ存在しません。売上予測で翌月の集計値を誤って特徴へ入れる、テスト問題の正解を含む資料を生成AIへ渡す、同じ文章のコピーを訓練とテストへ分けるのも漏洩の例です。評価値が異常に高い場合は、優れたモデルだと喜ぶ前に、答えや未来情報が混ざっていないか確認します。ここでいうデータ漏洩は、秘密情報が外部へ流出するセキュリティ事故とは意味が異なります。文脈によって同じ言葉の意味を区別してください。
4.正解率だけでは、重要な失敗が見えない
1000件中、不正取引が10件しかないとします。すべてを『正常』と答えるAIでも990件が当たり、正解率は99%です。しかし不正を一件も見つけられず、目的は達成していません。医療の見逃し、迷惑メールの誤廃棄、危険投稿の見逃しなど、失敗の種類によって影響が違います。そこで、見つけるべきものをどれだけ拾えたか、警告したもののうち本当に正しかった割合などを分けて測ります。生成AIでは唯一の正解がない場合も多いため、事実性、指示遵守、読みやすさ、根拠、安全性を採点基準にし、人の修正時間や業務成果も合わせて評価します。
5.評価データは、実際の利用場面を代表している必要がある
きれいな商品写真だけで評価した画像AIは、暗い店内、斜め撮影、古いスマートフォンでは失敗するかもしれません。標準語だけで評価した音声AIは、方言、雑音、複数人の会話で精度が落ちる可能性があります。平均的な例だけでなく、よくある例、境界例、珍しい例、失敗時の影響が大きい危険例を含めます。利用者の属性によって性能差がないかも確認します。評価データの件数が多くても、実運用の範囲を代表していなければ安心材料にはなりません。誰が、どこで、どんな条件で使うかを先に定義する必要があります。
6.公開したあとも、分布変化で性能は落ちる
AIを公開した時点で評価が終わるわけではありません。新商品、新しい詐欺手口、制度改正、利用者層の変化、言葉の流行などにより、入力データは変わります。これが分布変化です。昨年の問い合わせで学んだ分類AIが、今年追加されたサービス名を知らず誤分類することがあります。生成AIサービス自体のモデル更新で、同じ指示への回答傾向が変わる場合もあります。運用では、誤り率、人の修正量、利用者からの指摘を記録し、一定の基準を超えたら人の処理へ戻す、再評価する、データや指示を更新するという手順を決めます。
7.AIの評価は、技術の点数と業務の結果を分けて考える
文章分類の正解率が上がっても、担当者の確認が増え、返信が遅くなれば導入成功とはいえません。反対に、完全自動化できなくても、下書き時間が半分になり、誤送信を人が防げるなら価値があります。技術評価では予測や生成の品質を測り、業務評価では時間、費用、顧客体験、事故、確認負担を測ります。さらに、誤ったときに止められるか、原因を調べられるか、元の運用へ戻せるかも重要です。『AIの点数が高いから使う』のではなく、許容できない失敗を先に決め、代表的なデータで比較し、安全に運用できる範囲を選びます。
8.チャットAIは、同じ質問を一度試すだけでは評価できない
分類AIは正解ラベルと出力を比較しやすい一方、チャットAIの回答には、事実の正しさ、指示への適合、読みやすさ、根拠、安全性など複数の評価軸があります。同じ質問でも表現や会話履歴によって答えが変わるため、一つの成功例だけを見て『使える』とは決められません。実務で多い質問、曖昧な依頼、誤った前提を含む質問、答えてはいけない依頼をまとめたテスト集を作り、同じ基準で繰り返し採点します。また、チャット画面の便利さとモデルの品質を分け、検索、引用、ファイル読込など追加機能が結果へ与える影響も記録します。
9.比較は、いまの仕事と同じ条件で行う
新しいAIを評価するときは、AIを使わない現在の方法も比較対象にします。担当者が手作業で分類した場合の時間と誤り、単純なルールで振り分けた場合の費用を先に測ると、AI導入で本当に改善したかが分かります。いきなり顧客へ自動送信せず、最初はAIの結果を保存するだけの試行や、人の判断と並べる運用で差を調べます。平均値だけでなく、曜日、担当者、商品、言語など条件別に失敗を見ます。結果が少し良くても確認負担や事故時の復旧費用が増えるなら、対象を限定する、ルールと組み合わせる、導入を見送る判断も適切です。
10.評価する人と採点基準にも偏りが入る
生成文章の『良さ』を人が採点する場合、評価者の知識、立場、好みによって点が変わります。質問と採点例を先に決め、複数人で一部を重複評価し、判断が大きく分かれる項目を見直します。AIが作った文章だと知るだけで評価が変わる場合もあるため、必要に応じて作成方法を伏せて比べます。失敗例は、都合のよい結果だけを選び、悪い例を『使い方が悪かった』として除外することです。評価データ、採点基準、変更履歴を残し、モデルや指示を変えたら同じテストを再実行できるようにします。
11.安全な評価計画を、自分の仕事で作る
読者演習として、自分がAIへ任せたい作業を一つ選び、成功条件、許容できない失敗、現在の方法、試すデータを一行ずつ書いてください。次に、通常例を五件、境界例を二件、影響が大きい危険例を二件用意し、訓練や調整に使わない最終確認用の例を残します。技術指標と、時間・費用・修正量など業務指標を分け、どの値を超えたら停止して人へ戻すかも決めます。個人情報や機密情報を試験データへ入れる前には利用条件と必要性を確認します。この計画を別の人が同じ手順で再実行できれば、印象ではなく証拠に基づく評価へ近づきます。
実例で理解する
具体例で考える
店舗の問い合わせ分類AIを導入するとします。過去1年分を無作為に分けるだけでは、同じ問い合わせの返信コピーが訓練とテストへ入り、高得点になるかもしれません。そこで古い期間を訓練、直近期間をテストにし、新商品や誤字、複数要件を含む例も加えます。分類の正解率だけでなく、誤った部署へ送った割合、担当者の修正時間、返信までの時間も測ります。公開後は新しい問い合わせ種類を毎月確認し、誤分類が基準を超えたら自動振り分けを止め、人の確認へ戻します。実施日、モデル、指示、採点結果も残します。この一連が、モデルの点数ではなく実務で使えるかを評価する流れです。初めて評価する人は、まず二十件ほどの問い合わせを自分で「商品」「配送」「返品」「その他」に分け、その答えを隠してAIへ同じ作業をさせます。合った件数だけでなく、どの種類を間違えたかを表にします。返品を商品質問へ送る誤りが多ければ、正解率が高くても実務では困ります。次に、誤字のある文、二つの用件が混ざった文、判断できない文を加えます。AIが分からない時に無理に分類せず、人へ渡せるかも合格条件です。この小さな試験を先に行うと、「高性能らしい」という印象ではなく、自分の仕事で安全に使えるかを確認できます。最後に、間違えた例を一件ずつ見直し、入力が曖昧だったのか、学習例が足りないのか、分類の基準が悪いのかを分けます。原因ごとに直す場所が違うため、点数だけを上げようとせず、失敗の中身を見ることが大切です。
手を動かして理解する
- 今日の三つの用語を、見ずに説明する
- 仕事や生活の例へ置き換える
- 間違えた確認問題の理由を声に出して説明する
04|今日の理解度を確認する
今日の理解度を確認する
訓練データでは非常に高得点なのに、初めて見る利用者のデータで性能が大きく落ちました。この状態は何ですか。
訓練データの偶然の特徴やノイズまで合わせ込み、未知データへ適用できていない状態が過学習です。
過学習: 訓練に合わせすぎ、未知データで性能が落ちる状態です。
汎化: 未知データでも適切に働く能力であり、問題文とは反対です。
推論の停止: 回答処理を止めることを表すだけで、訓練と未知データの性能差の名称ではありません。
ルールベースへの完全移行: 別方式への変更であり、起きている評価上の問題を表しません。
完成したモデルの性能を最後に公平に測るため、設定調整へ使わず残しておくデータはどれですか。
テストデータは最終評価用です。結果を見ながら何度も調整すると、公平な未知データではなくなります。
テストデータ: 学習や設定選びから分離し、完成後の未知性能を測ります。
訓練データ: モデルの重みを調整するために使うため、最終評価には適しません。
画面表示用データ: 評価工程を表す用語ではありません。
公開後に削除したデータ: 削除の有無だけでは、評価用に適切か判断できません。
退職予測モデルの入力へ「退職後にだけ発行される書類の有無」を含め、高得点が出ました。主な問題はどれですか。
予測したい時点では存在しない答えに近い情報が混ざり、実運用では再現しない高得点になっています。
予測時点では使えない未来情報が混ざるデータ漏洩: 評価を不自然に高くする代表的なデータ漏洩です。
モデルの文字数が少ない: モデル名や文章の長さは、この問題の原因ではありません。
教師なし学習を必ず使うべきだった: 退職する・しないの正解があるなら教師あり学習は候補になります。問題は未来情報の混入です。
画面の色が評価へ反映されていない: 予測性能の不正な高得点とは関係しません。
不正取引が1000件中10件だけのデータで、AIがすべて「正常」と答えて正解率99%でした。評価として最も適切な考え方はどれですか。
少数の重要事例を一件も見つけていません。データが偏る場合、正解率だけでは目的達成を判断できません。
正解率だけでなく、不正の見逃しを測る指標も確認する: 失敗の種類と業務影響を捉えるために必要です。
99%なので無条件で完全自動化する: 重要な不正をすべて見逃しており、目的を達成していません。
不正10件は少ないので評価から除外する: 少数でも影響が大きい事例こそ評価に含める必要があります。
正解率を100%と読み替える: 数値を変更しても性能は改善せず、誤解を増やします。
公開時に合格した問い合わせ分類AIが、新商品追加後に誤分類を増やしました。最も適切な対応はどれですか。
商品や言葉が変われば入力の傾向も変わります。運用後も性能を監視し、停止・再評価・改善の手順を持ちます。
分布変化を疑い、新しいデータで再評価し、基準を超えれば人の確認へ戻す: 運用中の変化へ安全に対応する流れです。
公開時に合格したので何もしない: 公開後も環境は変わり、性能低下が起こります。
誤分類の記録を削除する: 原因分析と改善に必要な情報を失います。
利用者へ同じ言い方だけを強制する: 現実の利用を狭めるだけで、モデルの変化対応や評価にはなりません。
04|今日の理解度を確認する
今日の理解度を確認する
今日の整理をする
この3点を持ち帰る
- ✓ 過学習を見抜くには、学習に使っていない実運用に近いデータで測る
- ✓ 訓練・検証・テストの役割を分け、未来情報や重複による漏洩を防ぐ
- ✓ 公開後も分布変化と業務成果を監視し、停止・再評価の基準を持つ