第2章|生成AIの仕組み
DAY 06 ・ 約15分AIと生成AIは、何が違う?
大きな『AI』の中で、生成AIが担う役割を整理する。
生成AIを従来型AIやチャットAIと区別し、生成の仕組み、得意・不得意、安全な確認手順を実務例から説明できる。
言葉を知る
用語だけを暗記せず、似た言葉との違いまで説明できる状態を目指します。
生成AI
学習したデータのパターンを使い、文章、画像、音声、動画、プログラムなどの新しい内容を作るAIです。保存済みの完成品をそのまま検索する仕組みとは異なり、入力された指示と文脈に合わせて出力を組み立てます。
生成モデル
データがどのような特徴や関係で成り立つかを学び、似た性質を持つ新しいデータを作るモデルです。文章を続ける言葉を予測するモデルや、雑音から画像を段階的に整えるモデルなど、扱う対象に応じて方式が異なります。
プロンプト
生成AIへ渡す指示や質問、条件、参考情報の総称です。短い命令だけでなく、目的、対象読者、形式、禁止事項、元資料なども含みます。プロンプトはモデルを再学習させるものではなく、その回の出力を方向付ける入力です。
推論
学習済みモデルへプロンプトなどの新しい入力を与え、文章や画像を生成する工程です。普段サービスを使うときは、多くの場合この推論を利用しています。会話のたびに基礎モデル全体を一から学習し直しているわけではありません。
確率的生成
候補の中から文脈に合いそうな要素を確率に基づいて選びながら出力を作る性質です。同じ指示でも設定や文脈によって結果が変わり得ます。自然さや多様さを生む一方、同じ入力へ必ず同じ正解を返す保証にはなりません。
ハルシネーション
生成AIが、事実でない内容、存在しない出典、誤った数字などを、もっともらしい形で出す現象です。本人のような意図的な嘘ではなく、自然な続きの生成と事実の保証が別であることから起こります。重要事項は一次情報で照合します。
チャットAI
生成モデルを会話形式で利用するためのサービスや画面です。会話履歴、検索、ファイル読込、画像生成、外部ツールなどが組み合わさる場合があります。生成AIは技術の範囲、チャットAIは利用形態なので、同じ意味ではありません。
仕組みを理解する
1.生成AIは、AI全体の中の一つの分野
AIは、分類、予測、認識、最適化、生成などを含む広い技術の総称です。従来型のAIは、写真が犬か猫かを分類する、来月の需要を数値で予測する、不正らしい取引を検知する、といった決められた答えの候補を選ぶ仕事で多く使われてきました。生成AIは、その中でも新しい内容を作ることを中心にした分野です。文章の下書き、画像案、音声、動画、コードなどを入力に合わせて作れます。ただし、分類AIが古く、生成AIが何でも上位という関係ではありません。請求額の計算や法定条件の判定は明示的な規則、迷惑メール判定は分類、説明文の案は生成というように、目的に合う方式を選びます。
2.検索・記録・生成は、似て見えても働きが違う
検索は、登録済みの情報から条件に合うものを見つけます。データベースは、保存した顧客名や在庫数を決められた形で返します。生成AIは、学習した関係と現在の入力を使って新しい表現を組み立てます。チャット画面で質問すると、検索結果のように見える完成した文章が返るため、三つを混同しやすくなります。実際のサービスでは検索と生成を組み合わせることもありますが、モデル自身の学習内容だけで答えたのか、外部資料を検索したのか、引用を付けたのかは別々に確認する必要があります。生成された文章が詳しいからといって、最新の台帳や公式記録を参照した証拠にはなりません。
3.モデルは、パターンから出力を少しずつ組み立てる
文章生成では、入力文をモデルが計算できる単位へ分け、これまでの文脈に続きそうな要素を順に選びます。大量の文章で学習する過程を通じて、文法、言葉の関係、説明の型などをモデルの多数の重みに反映します。画像生成では、文章の指示を画像の特徴と結び付け、雑音から段階的に形を作る方式などがあります。ここで重要なのは、モデルが完成文や画像を倉庫から一つ選んでコピーしているわけではないことです。一方で、学習データの影響が消えるわけでもなく、似た表現、偏り、誤りを受け継ぐことがあります。仕組みを知ると、創造的な案を出せる理由と、根拠を保証できない理由を同時に理解できます。
4.プロンプトは、目的と制約を伝える設計図
生成AIは、目的を自分で決めません。利用者がプロンプトで、何を、誰向けに、どの資料を使い、どんな形式で作るかを伝えます。「宣伝文を書いて」よりも、商品の事実、対象読者、文字数、避ける表現、確認が必要な箇所を示した方が、仕事に合う案を得やすくなります。ただし、丁寧なプロンプトは事実性を保証する魔法ではありません。元資料が誤っていれば誤りを整えてしまい、モデルが知らないことを無理に答えさせれば架空の内容を補う場合があります。入力の質、モデルの能力、参照資料、出力後の確認を一つの流れとして設計します。
5.できることは、案の作成と変換を速くすること
生成AIは、白紙から最初の案を作る、長文を要約する、難しい説明を初心者向けに言い換える、複数案を比較する、表の項目を文章へ直す、プログラムの例を作るといった作業が得意です。文章以外にも、画像の構図案、音声の文字起こし、動画の絵コンテなどへ利用範囲が広がっています。実務で価値が出やすいのは、正解を丸ごと任せることではなく、人が目的と材料を渡し、AIが候補を増やし、人が選び直す工程です。繰り返し作業の時間を減らし、検討の出発点を早くできます。出力速度が速いほど、確認を省いてよいわけではありません。
6.できないことは、真実と責任を自動で保証すること
生成AIは、自然な文章を作れても、その内容が最新か、法律上正しいか、組織の方針に合うかを自動で保証しません。現実世界を直接観察していない場合、質問に含まれる誤った前提にも沿って答えることがあります。相手の気持ちや地域の事情を人間と同じ経験から理解しているわけでもなく、事故が起きたとき責任を引き受ける主体にもなりません。医療、法律、契約、採用、融資など影響の大きい場面では、情報整理や下書きに範囲を限定し、資格や権限を持つ人が根拠と最終判断を確認します。「できる文章」と「任せて安全な決定」を分けることが重要です。
7.チャットAIは、生成モデルに利用機能を重ねたもの
チャットAIの画面では、会話履歴を保つ、ファイルを読む、ウェブを検索する、画像を作る、外部サービスを操作するといった機能が追加されることがあります。同じ会社の同じ画面でも、選ぶモデル、契約、設定、利用可能なツールによって結果は変わります。生成AIという技術と、ChatGPTなどのサービス名、内部モデル、追加機能を区別すると、「会話できるから常に最新情報を検索する」「ファイルを読めるから内容を永続的に記憶する」といった誤解を防げます。比較するときは、モデルの品質だけでなく、検索の有無、データ利用条件、共有範囲、費用も確認します。
8.典型的な失敗は、流ちょうさを正しさと取り違えること
社内報へ歴史を紹介する担当者が、生成AIの回答にあった架空の受賞歴を確認せず掲載した例を考えます。文章は具体的で読みやすく、年や人物名まで付いていたため、担当者は正しいと思い込みました。この失敗の原因は、AIが間違えたことだけではありません。出典を指定せず、確認担当を決めず、重要な固有名詞や数字を一次情報と照合しなかった運用にもあります。別の失敗は、顧客名や未公開価格をそのまま入力し、便利な要約を得ることです。良い出力が得られても、情報管理上の事故になり得ます。品質と安全は別々に確認します。
9.安全に使うには、入力・出力・公開の三段階を見る
入力前には、個人情報、機密情報、著作物を入れてよい環境か、目的に必要な最小限へ削れるかを確認します。出力後には、固有名詞、数字、引用、制度、手順を公式資料と照合し、差別的・攻撃的な表現や権利侵害の可能性も見ます。公開前には、誰が責任を持って承認したか、AI利用の表示が必要か、元データと生成物をどこへ保存するかを決めます。高リスクな処理は自動公開や自動送信から始めず、下書きとして人が確認できる形で試します。問題が起きたとき停止し、元の手順へ戻せることも安全設計の一部です。
10.同じ課題で比較し、再現できる確認をする
生成AIを選ぶときは、宣伝文句や一度の成功例ではなく、自分の仕事から代表例と失敗しやすい例を用意します。同じプロンプト、同じ参考資料、同じ採点基準で複数回試し、事実性、指示への適合、読みやすさ、修正時間、安全性、費用を記録します。同じ指示でも結果が変わるため、一回だけで合否を決めません。検索やファイル参照を使った場合は、その条件も残します。出典を求めても実在しない引用を作る可能性があるので、リンク先の一次資料を自分で開き、主張を支える箇所まで確かめます。
11.自分の仕事を、生成に向く部分と向かない部分へ分ける
読者演習として、今週行う仕事を一つ選び、工程を「情報を集める」「判断する」「案を作る」「承認する」「送る」に分けてください。各工程について、生成AIが候補を作れるか、間違ったとき戻せるか、個人情報や機密情報を含むかを書きます。例えば会議案内なら、日程と参加者の確定は台帳と人、文章の下書きは生成AI、宛先と送信は担当者の承認に分けられます。最後に、入力前、出力後、公開前の確認項目を一つずつ決め、実際の資料を使わない架空データで試します。この分解ができれば、便利さを活かしながら判断と責任を手元に残せます。
12.生成物の来歴と権利も確認する
文章や画像を外部へ出すときは、内容が正しいかだけでなく、どの資料と設定から作ったか、利用条件に反していないか、第三者の権利を侵害しないかも確認します。AIが作ったという事実だけで自由に利用できるとは限りません。サービスの規約、所属組織の方針、素材のライセンス、人物や商標の扱いを用途ごとに見ます。可能なら元資料、プロンプト、生成日時、修正者、承認者を記録し、公開後に疑問が出たとき説明できる状態にします。来歴表示や透かしは有力な手掛かりですが、それだけで内容の正確さや権利関係まで保証するものではありません。
実例で理解する
具体例で考える
新商品の紹介文を作る場面を考えます。商品名、確認済みの仕様、対象読者、文字数、使ってはいけない表現をプロンプトへ渡し、生成AIに三案の下書きを作らせます。担当者は、価格と性能を商品台帳で照合し、根拠のない最上級表現や他社比較を削り、法務確認が必要な表現へ印を付けます。顧客名や未公開の原価は入力しません。生成AIは案を作る速度と表現の幅を担当し、事実の確定、権利確認、承認、公開は人が担当します。検索した公式資料を使った場合はURLと確認日も記録します。この役割分担なら、生成AIを『答えを出す人』ではなく『確認可能な候補を作る道具』として安全に使えます。
手を動かして理解する
- 今日の三つの用語を、見ずに説明する
- 仕事や生活の例へ置き換える
- 間違えた確認問題の理由を声に出して説明する
04|今日の理解度を確認する
今日の理解度を確認する
社内でAIの用途を整理するとき、生成AIに当たるものはどれですか。
生成AIは、学習したパターンと現在の入力を使い、新しい文章や画像などの内容を組み立てます。
依頼条件に合わせて新しい説明文の下書きを作る: 入力に応じて新しい内容を生成する代表例です。
登録済みの社員番号を完全一致で検索する: 保存済みの記録を探す処理であり、新しい内容を作る生成とは異なります。
決められた税率で金額を計算する: 明示された式による計算で、生成モデルを必要としません。
温度が基準を超えたら警報を鳴らす: あらかじめ決めた条件に従うルールベースの処理です。
生成AIが詳しい回答を返しました。重要な数字を外部公開する前の対応として最も適切なものはどれですか。
生成結果の自然さは事実性の保証ではありません。一次情報との照合と責任者の承認を分けて行います。
文章が自然ならそのまま公開する: 流ちょうさと事実の正しさは別なので、確認を省けません。
同じAIに『正しいですか』と一度だけ聞く: 同じ誤りを繰り返す可能性があり、独立した根拠の確認になりません。
公式資料の該当箇所と照合し、担当者が承認する: 根拠確認と公開責任を人が担う適切な流れです。
回答を長く書き直せば正しいと判断する: 文章量を増やしても、数字の正しさは保証されません。
チャットAIと生成AIの関係を説明するものとして最も適切なのはどれですか。
生成AIは内容を作る技術の範囲、チャットAIはそれを会話形式で使うサービスや画面です。
両者は必ず同じ製品名を指す: 技術分野と利用サービスを混同しています。
生成AIは会話履歴を持つ画面だけを指す: 生成AIには画像・音声・コード生成など、会話画面以外の利用もあります。
チャットAIは生成とは無関係な検索専用装置である: 検索を組み合わせる場合はありますが、回答生成の中核とは区別します。
チャットAIは生成モデルへ会話や検索などの機能を組み合わせた利用形態である: モデル、画面、追加機能を正しく分けた説明です。
新商品の紹介文を生成AIで作るとき、最初の試行として安全性と実用性を両立しやすい進め方はどれですか。
低リスクなデータと人の確認から始め、生成は下書き、承認と公開は人という役割分担を保ちます。
顧客情報と未公開原価をすべて入力し、自動公開する: 必要最小限の入力と公開前承認の両方を欠いています。
架空データで下書きを作り、事実・権利・表現を人が確認する: 戻せる範囲で試し、確認可能な候補として使う方法です。
AIが断定した内容は台帳より優先する: 生成結果は公式記録の代わりになりません。
一つの成功例だけで今後の全商品を自動化する: 結果は入力や条件で変わるため、代表例と失敗例による評価が必要です。
生成AIサービスを仕事へ採用する前の比較方法として最も適切なものはどれですか。
確率的な出力と実務条件を考慮し、同じテストと採点基準で再現可能な比較を行います。
代表例と危険例を同じ条件で複数回試し、品質・修正時間・安全性を記録する: 一回の印象ではなく、用途に即した証拠で比較できます。
有名なサービスを一度試し、読みやすければ採用する: 知名度と一度の流ちょうな出力だけでは業務適合性を判断できません。
回答速度だけを測り、内容は評価しない: 速くても誤りや修正負担が大きければ導入価値は下がります。
モデル名が新しければ利用条件を確認しない: データ利用、共有範囲、費用などの条件はモデルの新しさと別に確認します。
04|今日の理解度を確認する
今日の理解度を確認する
今日の整理をする
この3点を持ち帰る
- ✓ 生成AIはAI全体の一分野で、検索や分類とは目的と仕組みが異なる
- ✓ チャットAIは生成モデルへ会話・検索・ファイルなどの機能を重ねた利用形態
- ✓ 入力・出力・公開を分けて確認し、事実と責任は人が引き受ける