第2章|生成AIの仕組み
DAY 07 ・ 約15分生成AIは、どうやって答える?
検索箱ではなく、続きを予測するモデルとして理解する。
事前学習・パラメータ・推論の流れを理解し、生成AIが自然な回答と誤りの両方を生む理由、安全な確認手順を説明できる。
言葉を知る
用語だけを暗記せず、似た言葉との違いまで説明できる状態を目指します。
事前学習
大量の文章などを使い、言葉の並び、関係、文章の型をモデルへ学ばせる最初の大きな学習工程です。完成した回答集を保存するのではなく、一部を隠したり続きを予測させたりし、誤差を小さくするよう内部の値を繰り返し調整します。
パラメータ
モデルが学習中に調整する多数の数値です。言葉同士の関係や文脈の特徴が、この数値の組み合わせとして表現されます。個々のパラメータを読めば一つの知識がそのまま書かれている、という単純な対応ではありません。
推論
学習済みモデルへ新しい入力を渡し、実際の回答を生成する工程です。利用者がチャットAIへ質問するとき、多くの場合はモデル全体を再学習させているのではなく、現在の入力と参照できる文脈を使って推論しています。
次要素予測
文章の途中までを手掛かりに、次に続きそうな語や語の一部を確率として計算する考え方です。選ばれた要素を文脈へ追加し、次を再び予測する処理を繰り返すことで、短い返事から長い説明まで組み立てます。
コンテキスト
現在の回答を作るときに参照できる情報の範囲です。利用者の指示、会話履歴、システム側の指示、添付資料、検索結果などが含まれる場合があります。モデルの事前学習で得た性質と、その場のコンテキストは区別します。
Instruction tuning
事前学習したモデルへ、指示と望ましい応答の例を追加で学ばせ、質問への回答、要約、形式指定など人の依頼へ従いやすくする調整です。利用者が一回のプロンプトを書くこととは異なり、モデル提供側が行う学習工程です。
サンプリング
モデルが計算した複数の候補から、実際に出力する次の要素を選ぶ処理です。有力な候補をどの程度優先するかで、安定した文章にも多様な文章にもなります。同じ入力でも回答が変わり得る理由の一つです。
ハルシネーション
モデルが事実でない内容、存在しない出典、誤った数字などを、自然な文章として生成する現象です。次に自然な要素を作る能力と、現実の事実を照合して保証する能力が同じではないため、重要情報には別の確認が必要です。
仕組みを理解する
1.回答が届くまでを、学習と利用に分ける
生成AIの仕組みは、モデルを作る学習段階と、完成したモデルを使う推論段階へ分けると理解しやすくなります。事前学習では大量の文章を読み、隠された部分や続きを予測し、予測と実際の文章の差を小さくするようパラメータを調整します。その後、指示に従いやすくする追加調整や安全性の調整を行う場合があります。利用者が質問すると、学習済みモデルはその場の入力を数値として処理し、回答を生成します。毎回インターネット全体を学び直すのでも、質問文を自動的に将来の学習へ登録するのでもありません。サービスごとのデータ利用条件は別に確認します。
2.モデルの中は、文章を並べた本棚ではない
言語モデルは、学習した文書を一冊ずつ検索し、そのページをそのまま返す仕組みではありません。学習を通じて、言葉の使われ方、文法、話題同士の関係、説明の型などをパラメータへ分散して反映します。そのため、見たことのない質問にも、学んだ関係を組み合わせて回答できます。一方で、どの資料のどの文を根拠にしたかを、モデル内部の数値だけから簡単に示せるとは限りません。学習データの影響を受けながら新しい表現を作るので、完全なコピーでも、事実を保管したデータベースでもないのです。引用や最新記録が必要な仕事では、検索や参照資料を別に用意します。
3.文章は、次に続く候補を繰り返し選んで作る
質問を受けたモデルは、入力とそれまでに生成した文章から、次に続く候補ごとの確率を計算します。例えば「日本の首都は」に続く候補として「東京」が強くても、文脈によっては説明文の始まりや別の表現が候補になります。一つを選んで追加すると、新しい全体を使って次の候補を計算します。この繰り返しが文章になります。単なる携帯電話の短い予測変換より、はるかに広い文脈と多数のパラメータを使うため、要約、翻訳、説明、コード作成まで行えます。ただし、次に自然な文章を選ぶことと、内容が事実であることは同じ目標ではありません。
4.文脈を見る仕組みが、質問に合う回答を支える
同じ言葉でも、周囲によって意味は変わります。「銀行」は金融機関かもしれず、川岸を表す英語のbankかもしれません。Transformer系の言語モデルでは、Attentionという仕組みを使い、入力内の各部分が他の部分とどれほど関係するかを計算します。これにより、前に示した主語、条件、例、出力形式などを踏まえた回答を作りやすくなります。しかし、参照できるコンテキストには上限があり、長い会話で初期の条件が範囲外になる、重要な指示が大量の文章に埋もれる、似た情報を取り違えることがあります。長文を渡せることと、全箇所を同じ精度で理解できることは別です。
5.Instruction tuningで、続き予測が対話へ近づく
事前学習だけのモデルは、文章の続きを作る能力があっても、利用者の依頼へ親切に答えるとは限りません。そこで、質問と望ましい回答の組を追加で学習し、指示に従う、形式を守る、危険な依頼へ適切に対応するといった性質を整えます。人の評価やモデルによる評価を使って調整する場合もあります。ただし、調整後も誤りや偏りがゼロになるわけではなく、安全規則もすべての状況を完全に判断できません。また、利用者が会話欄で例を示すプロンプトは、今の回答を方向付けますが、通常は基礎モデルのパラメータをその場で変更しません。
6.同じ質問で答えが変わるのは、故障とは限らない
モデルは次の候補を確率として持ち、サンプリングによって実際の出力を選びます。有力な候補だけを強く選べば回答は安定しやすく、候補の幅を広げれば表現や発想の多様性が増えます。会話履歴、モデル更新、検索結果、設定が違っても出力は変わります。コピー案やアイデア出しでは多様さが役立ちますが、請求額、契約条件、在庫数など毎回同じ正確な結果が必要な処理には、そのまま任せるべきではありません。計算、検索、データベース、明示的なルールを使い、生成AIは説明や候補作成へ限定する方が安全な場合があります。
7.チャットAIは、モデルだけで答えているとは限らない
チャットAIは、言語モデルへ会話画面、システム側の指示、安全機能、検索、ファイル読込、計算、外部ツールなどを組み合わせたサービスです。最新ニュースへ正しく答えたとき、モデルが学習時点から知っていたのではなく、検索結果を参照した可能性があります。逆に、検索機能が使われなければ、学習後の出来事を知らない場合があります。回答を評価するときは、どのモデルかだけでなく、検索したか、どの資料を渡したか、会話履歴に何があったかを記録します。チャット画面が同じでも、契約や設定によって利用可能な機能とデータの扱いは変わります。
8.できることは、文脈に合う変換と候補作成
言語モデルは、大量の例から文章の型を学んでいるため、長文の要点整理、対象読者に合わせた言い換え、箇条書きから文章化、複数案の作成、翻訳、コードのたたき台などに力を発揮します。ゼロから完成品を任せるより、確認済みの材料を与え、出力形式と目的を明確にし、人が選ぶ使い方に向きます。知らない業務でも、用語集や見本をコンテキストとして渡せば、その範囲で回答を調整できます。ただし、資料が古い、矛盾している、必要な情報が欠けている場合は、誤った前提を滑らかにまとめることがあります。材料の品質は回答の品質へ直結します。
9.できないことは、事実・意図・責任を自動保証すること
モデルは文章の関係を計算しますが、現実世界を人間と同じように経験し、発言の結果へ責任を持つ存在ではありません。質問が誤った前提を含めば、その前提に沿って答えることがあり、知らない固有名詞や数字を自然に補うこともあります。皮肉、地域事情、組織内の暗黙の了解を取り違える可能性もあります。医療、法律、金融、採用、安全設備など影響が大きい分野では、情報整理や下書きに留め、公式資料と専門家による確認を置きます。「詳しく答えた」「自信のある口調だった」「出典らしい文字列が付いた」は正しさの証拠ではありません。
10.失敗例は、存在しない出典をそのまま使うこと
担当者が生成AIへ「この制度の根拠を三つ挙げて」と頼み、返された文献名を企画書へ掲載した例を考えます。題名、著者、発行年が整っていたため本物に見えましたが、検索すると文献は存在しませんでした。モデルは引用形式のパターンを学んでおり、内容が不足しても形式を作れます。失敗の原因はモデルだけでなく、参照先を指定せず、リンクを開かず、主張を支える箇所を確認しなかった運用にもあります。別のAIへ聞き直すだけでは独立した確認になりません。公式サイト、原典、組織の正本など、生成結果とは別の情報源へ戻ります。
11.安全確認は、入力・根拠・影響の三つを見る
入力では、個人情報や機密情報を含めてよい契約と環境か、匿名化や削除で最小限にできるかを確認します。根拠では、固有名詞、数字、引用、制度、手順を一次情報と照合し、検索を使った場合は実際の参照先を開きます。影響では、誤りが誰にどの程度の損害を与えるかを考え、高リスクなら自動送信・自動公開を避け、権限を持つ人の承認を置きます。モデル、プロンプト、参照資料、実行日、修正内容を記録すると、再現と原因調査がしやすくなります。安全性は「AIが賢いか」だけでなく、利用工程全体で作ります。
12.読者演習で、生成と確認の境界を見つける
自分の仕事から短い文章作成を一つ選び、まずAIへ渡す事実を三つ、推測してはいけない項目を二つ、出力形式を一つ書いてください。架空データを使い、同じ指示で三回生成し、共通する内容と変化した内容へ印を付けます。次に、各主張を「元資料で確認済み」「人の判断が必要」「削除」の三つへ分けます。最後に、検索や資料参照を使わない場合と、確認済み資料を添えた場合を比較し、修正時間を記録します。この演習により、言語モデルが得意な候補作成と、人が担う事実確認・承認の境界を具体的に説明できるようになります。
実例で理解する
具体例で考える
旅行会社が神戸の一日観光案を作る場面を考えます。担当者は、利用者の年齢、移動手段、希望、確認済みの施設一覧を渡し、生成AIへ三つの案を作らせます。モデルは条件と文章の型から、移動順や説明を組み立てます。しかし、営業時間、休館日、運賃、予約状況は推論だけでは保証できません。担当者は施設と交通機関の公式情報を開き、確認日とURLを記録し、移動時間に余裕があるかを地図で確かめます。存在しない催事や割引を補っていないかも見ます。AIは候補と文章化を担当し、最新情報の確定、現実性の判断、公開承認は人が担当します。この役割分担が、生成の速さと現場の正確さを両立させます。
手を動かして理解する
- 今日の三つの用語を、見ずに説明する
- 仕事や生活の例へ置き換える
- 間違えた確認問題の理由を声に出して説明する
04|今日の理解度を確認する
今日の理解度を確認する
大量の文章を使った学習で、言葉同士の関係を反映するために繰り返し調整されるものはどれですか。
学習では予測の誤差を小さくするよう多数のパラメータを調整し、言葉や文脈のパターンをモデルへ反映します。
パラメータ: モデルが学習中に調整する数値で、関係や特徴が分散して反映されます。
公開URL: サービスの場所を示しますが、モデル内部で学習される数値ではありません。
画面の配色: 利用画面のデザインであり、文章を生成する中核の学習対象ではありません。
利用者の役職: 入力条件になり得ますが、モデル全体の学習で調整される内部値の名称ではありません。
学習済みの言語モデルが長い回答を作る基本的な流れとして、最も適切なものはどれですか。
現在の入力と生成済みの文脈から次の候補を計算し、選択と再計算を繰り返して文章を組み立てます。
完成文を一冊の本からそのまま取り出す: モデルは回答集を検索する本棚ではなく、学んだ関係から出力を生成します。
毎回すべての学習データを読み直す: 利用時の推論で、訓練データ全体を毎回答え合わせするわけではありません。
候補の確率を計算し、選んだ要素を加えて次を再計算する: 文章生成の基本的な反復処理を表しています。
質問を受けるたびモデル全体をゼロから再学習する: 通常のチャット利用は学習ではなく、完成したモデルによる推論です。
同じ質問への回答が利用のたびに少し変わりました。原因として最も適切なものはどれですか。
サンプリング、会話履歴、検索結果、設定、モデル更新などで、同じ質問でも出力は変わり得ます。
必ずモデルが壊れている: 確率的な候補選択による変化は、直ちに故障を意味しません。
候補の選び方や会話履歴などの条件が変わり得る: 回答の変動を生む代表的な要因です。
質問文が保存されるとパラメータが毎回倍になる: 通常の推論でモデルのパラメータ数が毎回増えるわけではありません。
言語モデルは確率を一切使わない: 次の候補ごとの確率を計算して出力を選びます。
生成された企画書に、実在しそうな文献名と発行年が書かれていました。公開前の対応はどれですか。
モデルは引用らしい形式も生成できます。出典の実在と主張を支える箇所を独立した一次情報で確認します。
書式が整っていれば本物とみなす: 形式の自然さは、出典の実在や内容の正しさを保証しません。
別の生成AIに同じ質問をして一致すれば確定する: 似た学習傾向から同じ誤りを出す可能性があり、原典確認の代わりになりません。
発行年だけを削除して公開する: 出典そのものが架空なら、表記を減らしても根拠にはなりません。
一次情報で実在と該当箇所を確認し、担当者が承認する: 根拠確認と公開責任を分けて行う安全な手順です。
旅行案内を生成AIで作るとき、役割分担として最も適切なものはどれですか。
生成AIは案と文章化を支援し、変わりやすい事実と現実性、承認は人が一次情報で確認します。
AIに候補を作らせ、営業時間・料金・移動時間は公式情報で人が確認する: 生成の速さを活かしつつ、最新事実と責任を人が担う分担です。
AIの文章が詳しければ、予約状況も確認済みと扱う: 詳しさは外部システムを確認した証拠ではありません。
最新情報が必要でも検索や資料参照を使わない: 学習後の変更を反映できないため、最新情報の確認には不適切です。
顧客の個人情報をすべて入力し、そのまま自動公開する: 必要最小限の入力と公開前確認の両方を欠いています。
04|今日の理解度を確認する
今日の理解度を確認する
今日の整理をする
この3点を持ち帰る
- ✓ 言語モデルは学習で関係をパラメータへ取り込み、推論で次の候補を繰り返し選ぶ
- ✓ チャットAIの回答はモデル、コンテキスト、検索・ツール、設定の組み合わせで決まる
- ✓ 自然さと事実性を分け、入力・根拠・影響を人が確認する