第2章|生成AIの仕組み
DAY 10 ・ 約15分学習・推論・追加適応
モデルを作る工程、使う工程、用途へ合わせる工程を分けて理解する。
事前学習・推論・プロンプト・検索拡張・ファインチューニングの違いを説明し、課題と評価結果に合う方法を安全に選べる。
言葉を知る
用語だけを暗記せず、似た言葉との違いまで説明できる状態を目指します。
事前学習
大量の一般データから言葉や画像のパターンを学び、幅広い仕事へ使える基盤モデルを作る工程です。多くの利用者が日常の会話で行うものではなく、提供者が大きな計算資源とデータ管理の下で実施します。
推論
学習済みモデルへ新しい入力を渡し、回答、分類、要約、画像などの出力を得る工程です。チャットAIへ質問するたびに通常行われるのは推論であり、会話だけで基盤モデル全体を再学習しているわけではありません。
プロンプト
推論時に渡す目的、前提、禁止事項、出力形式、例などの指示です。書き換えればすぐ試せ、モデルのパラメータを変更しません。最新情報や社内事実を知らない問題まで、指示だけで解決できるとは限りません。
RAG(検索拡張生成)
質問に関係する資料を先に検索し、見つけた部分を文脈へ加えて回答を生成する設計です。知識の更新や根拠提示に向きますが、検索が外した資料は回答へ届かず、取得文書の版や権限も別に管理する必要があります。
ファインチューニング
事前学習済みモデルへ特定用途の入出力例を追加で学習させ、分類傾向、文体、形式、指示への従い方などを調整する方法です。毎回資料を検索する仕組みではなく、学習データの品質と評価、再学習の保守が必要です。
パラメータ
学習によって調整され、モデルの振る舞いを形作る多数の数値です。プロンプトやRAGは推論時の文脈を変えますが、通常は基盤モデルのパラメータをその場で変更しません。ファインチューニングでは一部または全部を調整します。
評価セット
方法を選ぶ前後で品質を比べるための、正解や合格条件が分かっている代表的な問題集です。学習へ使った例と分け、通常例、境界例、失敗しやすい例、安全上の拒否例を含めることで、改善が本番でも通用するか確認します。
グラウンディング
回答を指定資料、検索結果、データベースなどの確認可能な情報へ結び付ける考え方です。資料を渡しただけで事実性が保証されるわけではなく、引用箇所が主張を本当に支えるか、利用者が原文へ戻って確かめます。
仕組みを理解する
1.まず、モデルを作る工程と使う工程を分ける
生成AIの改善を考えるとき、最初に事前学習、追加適応、推論を分けます。事前学習は大量のデータから基礎能力を得る大規模な工程です。ファインチューニングは完成した基盤モデルを特定の仕事へ合わせる追加学習です。推論は、利用者の入力からその場の出力を作る日常の利用工程です。チャットで例を示したからといって、通常はモデル全体が恒久的に学び直すわけではありません。逆に、提供者がモデルを更新すると、同じプロンプトでも結果が変わることがあります。どの層を変更したのかを区別しないと、改善理由も不具合の原因も追えません。
2.改善は、いちばん軽く戻しやすい方法から試す
回答が期待と違うと、すぐ専用モデルを作りたくなります。しかし多くの課題は、目的、対象読者、入力資料、出力形式、良い例、禁止事項をプロンプトへ明確にするだけで改善します。プロンプトは短時間で変更でき、失敗しても前の版へ戻しやすく、学習データの準備も不要です。まず同じ評価セットで、指示なし、改善した指示、少数の例を加えた指示を比較します。それでも不足する理由が『知識がない』『振る舞いが揃わない』『計算や承認が必要』のどれかを切り分けます。方法の名前から入らず、残った誤りの種類から次の手段を選びます。
3.プロンプトは、仕事の契約書として具体化する
よいプロンプトは長い魔法の言葉ではなく、仕事の条件を確認できる形にしたものです。役割だけでなく、何を達成するか、どの資料だけを根拠にするか、推測してはいけない項目、出力の項目、合格例と不合格例を示します。例えば問い合わせ分類なら、分類名の定義、迷う境界、複数候補がある場合の優先順位を入れます。ただし、指示を細かくしてもモデルが知らない今日の在庫や改定規程は生まれません。機密情報を指示へ貼り付けてよいとも限りません。プロンプトで直るのは主に、既にある能力を今の依頼へ向ける部分だと理解します。
4.知識の不足や更新には、検索拡張を検討する
最新の社内規程、商品仕様、顧客別の契約などを根拠に答えたい場合、モデルへ事実を覚え込ませるより、質問時に正しい資料を検索して渡すRAGが向くことがあります。文書を小さな単位へ分け、検索しやすい表現へ変換して索引へ登録し、質問と近い部分を取得し、それをプロンプトへ加えて生成します。資料を更新すれば索引を更新でき、回答から引用元へ戻しやすい利点があります。一方、分割が悪い、用語が合わない、検索順位が低い、旧版が残ると必要な根拠を取得できません。RAGは『検索の品質』と『生成の品質』を別々に測ります。
5.RAGは、資料を入れれば正しくなる仕組みではない
検索で取得した文章も、誤り、古さ、権限、悪意ある指示を含む可能性があります。モデルは取得文書に書かれた命令と、利用者が求めた仕事を混同することもあります。資料は参照情報として扱い、回答へ文書名、版、ページ、引用箇所を付け、主張が引用で支えられているか確認します。閲覧できる文書だけを利用者ごとに検索し、退職者向け資料や他部署の秘密を混ぜません。見つからないときは推測させず『根拠不足』と返す経路を用意します。検索件数を増やすほどよいわけではなく、関係の薄い資料が増えると重要箇所が埋もれます。
6.振る舞いを繰り返し揃えるなら、追加学習が候補になる
大量の問い合わせを同じラベルへ分類する、特定形式の構造化データを安定して出す、独自の文体や応答方針を多数の例から学ばせる、といった課題ではファインチューニングが候補です。良い入力と望ましい出力の組を用意し、モデルのパラメータを追加調整します。毎回長い例をプロンプトへ入れずに済み、特定作業の安定性や効率が上がる場合があります。ただし、今日の価格表を覚えさせる用途には向きません。学習時点の情報は更新のたびに再学習が必要になり、根拠の引用も難しいため、変わる知識はRAG、揃えたい振る舞いは追加学習と考えます。
7.ファインチューニングは、誤りを自動で消す万能薬ではない
学習例に偏り、誤記、個人情報、機密、権利上使えない文章があれば、その問題を振る舞いへ取り込む危険があります。例が少ない分類だけ成績が落ちる、学習例の表現をまね過ぎる、一般能力が弱まる、望ましくない応答まで一貫して出すこともあります。元モデルが事実を保証しない性質も、追加学習だけでは消えません。データの取得目的と利用権を確認し、重複や秘密を除き、代表性を調べます。学習セットとは別の評価セットで比較し、特定モデルへの依存、費用、終了方法、再学習の責任者まで決めてから導入します。
8.チャットAIの『覚える』機能と、追加学習を混同しない
チャットAIには会話履歴、保存された好み、プロジェクト資料、検索、メモリなどが組み合わされる場合があります。以前伝えた名前や形式を次の会話で使うと、モデルが自分専用に再学習されたように見えます。しかし、保存情報を推論時の文脈へ加えているだけの場合も多く、ファインチューニングとは別です。何が保存され、どの会話で参照され、削除できるかはサービスと設定で変わります。重要な業務要件を会話の記憶だけへ預けず、正式な仕様と正本を管理します。個人向けの便利な記憶と、組織が監査できる学習・検索基盤を区別します。
9.実務では、プロンプト・RAG・追加学習を組み合わせる
方法は一つだけ選ぶとは限りません。問い合わせ支援なら、プロンプトで役割と出力形式を定め、RAGで最新マニュアルを取得し、必要なら分類や文体をファインチューニングで安定させます。さらに、料金計算は通常のプログラム、顧客情報の取得は権限付きデータベース、送信は人の承認に任せます。生成AIへ全部を背負わせず、確定計算、検索、生成、承認を分けると検証しやすくなります。どの層が失敗したかをログで追い、検索を直すのか、指示を直すのか、学習例を直すのか判断します。チャット画面が一つでも、内部の責任は分けて設計します。
10.失敗例は、知識不足を追加学習だけで埋めること
ある会社が毎月変わる商品価格へ答えるAIを作るため、過去の価格表でファインチューニングしたとします。導入直後は自然に答えましたが、翌月の改定後も古い価格を自信を持って返し、どの表を根拠にしたか示せませんでした。原因は、変わる事実と、揃えたい回答形式を分けなかったことです。価格は権限付きの現行データを検索または照会し、回答形式はプロンプトや必要な追加学習で整えるべきでした。『専用学習したから正しい』という名前の安心感も確認を弱めました。方法を選ぶ前に、情報がどの頻度で変わり、どこが正本かを確認します。
11.安全性は、データと出力の両側で評価する
学習や検索へ使うデータには、個人情報、営業秘密、著作物、差別的表現が含まれる可能性があります。利用目的、同意、契約、保存期間、削除手順、アクセス権を確認し、必要最小限へ絞ります。出力側では、正確さだけでなく、有害な助言、個人情報の再現、不公平な分類、指示の乗っ取り、根拠の捏造を試します。高リスクな判断は自動確定させず、人の承認と異議申立ての経路を用意します。提供者の評価結果だけで自社用途の安全を断定せず、実際の利用者、言語、資料、失敗時の影響に合わせて試験します。問題時に停止し、前の方式へ戻せることも完成条件です。
12.確認方法と読者演習は、同じ問題集で公平に比べる
導入前に、日常例、境界例、意地悪な入力、古い資料、根拠不足、安全上拒否すべき依頼を含む評価セットを作ります。正答率だけでなく、引用の一致、形式遵守、処理時間、費用、人の修正時間、重大誤りを記録します。読者演習として、自分の業務を一つ選び、誤りを『指示不足』『知識不足』『振る舞いのばらつき』『確定処理が必要』へ十件分類してください。まずプロンプト改善を試し、知識不足だけにRAG、反復する振る舞いの不足だけに追加学習を仮定します。同じ十件で比較表を作り、合格基準、確認者、更新責任者、元へ戻す条件を書けば、技術名ではなく証拠から方法を選べます。
実例で理解する
具体例で考える
旅行会社が問い合わせ支援を改善する場面を考えます。『案内文を丁寧語の三項目で出す』という形式はプロンプトで指定します。営業時間、料金、運休情報は毎日変わるため、公式の現行ページだけを検索対象にし、回答へURLと確認時刻を付けるRAGを使います。問い合わせの種類を数十個の社内ラベルへ安定して分類する必要があり、十分な正解例と評価セットが集まった段階でだけ、追加学習を比較候補にします。予約の確定と返金額の計算は生成AIに任せず、予約システムと規則で処理し、例外は担当者が承認します。評価では、正しい案内だけでなく、検索で根拠が取れないときに推測せず保留できるか、古いページを使わないか、個人情報を回答へ出さないかを確認します。この分担なら、更新しやすい知識、揃えたい振る舞い、確定処理をそれぞれ適した仕組みへ任せられます。
手を動かして理解する
- 今日の三つの用語を、見ずに説明する
- 仕事や生活の例へ置き換える
- 間違えた確認問題の理由を声に出して説明する
04|今日の理解度を確認する
今日の理解度を確認する
社内規程が毎月改定され、現在有効な版を根拠に回答させたい場合、まず検討する方法はどれですか。
頻繁に変わる知識は、現行資料を検索して回答へ使うRAGが更新と根拠確認に向きます。検索品質と文書の版・権限は別に管理します。
過去の全規程を追加学習し、更新しない: 旧版を覚えたままになり、改定後の正しさと根拠を保ちにくくなります。
現行の正本を検索して回答時の文脈へ渡す: 変わる知識を正本から取得し、引用元へ戻れる設計です。
質問のたびに基盤モデルを事前学習し直す: 事前学習は大規模なモデル作成工程で、日常の質問ごとに行うものではありません。
出典を示さず長い回答を作らせる: 回答の長さは最新性や正確さを保証せず、根拠も検証できません。
出力形式と分類基準が曖昧で、回答が毎回ばらついています。最初の改善として最も適切なものはどれですか。
まず軽く戻しやすいプロンプト改善を試し、同じ問題で効果を測ります。その後、残る誤りの種類に応じて次の方法を選びます。
目的・基準・形式・例を明示した指示を同じ評価セットで試す: 既存能力を仕事へ向ける最小の変更で、効果も比較できます。
機密データを無条件で学習へ追加する: 利用目的、権利、個人情報、保存条件を確認せず学習へ使うのは危険です。
正解例を作らずモデル名だけで選ぶ: 自社用途の評価がなければ、改善や重大な失敗を判断できません。
検索件数を最大にして形式指定をやめる: 知識検索と出力形式は別の問題で、無関係な資料が増える危険もあります。
ファインチューニングの用途として、最も適切な候補はどれですか。
追加学習は、十分な例から特定の分類傾向や出力形式を揃える用途が候補です。変わる事実の取得、権限突破、確定計算の代わりではありません。
今日の在庫数を自動で知る: 最新在庫はデータベースや検索から取得すべきで、追加学習だけでは更新されません。
閲覧権限のない資料を取得する: 追加学習はアクセス権を与える仕組みではなく、権限を守る必要があります。
返金額を法定規則どおり確定する: 確定計算は明示的な規則や業務システムで処理し、例外は人が承認します。
多数の正解例から独自ラベル分類の振る舞いを安定させる: 反復する特定作業の振る舞いを例から揃える、適切な候補です。
検索拡張を導入した後も、回答が必要な規程を引用できません。切り分けとして最初に確認することはどれですか。
RAGでは検索と生成を分けて評価します。必要箇所が取得されていなければ、生成側を直す前に分割、索引、質問表現、版管理を確認します。
回答文の丁寧さだけを採点する: 文体が良くても、根拠が取得されていなければ正しい回答にはなりません。
学習済み知識が多いので放置する: モデル内部の知識だけでは、現行規程の版と引用を保証できません。
必要な文書断片を検索段階で取得できたか確認する: 検索失敗と生成失敗を分ける、適切な診断です。
同じ誤答を正解例として追加する: 誤りを学習へ取り込み、問題を悪化させます。
改善方法を本番へ採用する前の評価として、最も適切なものはどれですか。
学習と分けた代表的な評価セットで、正確さだけでなく根拠、安全性、運用費、修正時間を比較し、停止・復旧条件も決めます。
学習に使った例だけで満点なら採用する: 学習例への当てはまりだけでは、新しい入力へ通用するか分かりません。
通常例・境界例・安全例を含む未使用の問題で、品質・根拠・費用・重大誤りを比較する: 未知の代表例と失敗例を含め、実務に必要な複数指標で比べる方法です。
一度自然な回答が出れば評価を終える: 出力は変動し、自然さも事実性や安全性の証拠にはなりません。
提供者の紹介文だけで自社用途の安全を判断する: 実際の利用者、資料、言語、影響へ合わせた自社評価が必要です。
04|今日の理解度を確認する
今日の理解度を確認する
今日の整理をする
この3点を持ち帰る
- ✓ 事前学習・追加適応・推論は、目的と変更される部分が異なる
- ✓ 変わる知識は検索、揃えたい振る舞いは追加学習、明確な条件はプロンプトから試す
- ✓ 同じ評価セットと人の承認で、品質・安全・費用・更新性を比較する