CHAPTER 03 / REVIEW
現在の生成AI
現在できることと、検索や外部連携で広がる仕組みを学びます。
15問毎回順番が変わります。満点後も何度でも挑戦できます。
QUESTION 01社内規程への質問に答えるRAGの基本的な処理順として、最も適切なものはどれですか。
RAGは、質問に関係する情報を先に取得し、その内容を生成モデルの文脈へ渡して回答と出典を作ります。権限は取得前に適用します。
回答を先に作り、後から似た資料名を添える: 主張を作った後に出典を飾る方法では、根拠に基づく回答にならず、引用の捏造も防げません。
全資料を毎回一つの入力へ入れ、権限は生成後に確認する: 不要情報と秘密をモデルへ渡してしまい、入力上限や情報流出の危険も増えます。
質問に関係する閲覧可能な箇所を取得し、根拠として回答と出典を作る: 取得、権限、生成、出典確認を正しい順でつなぐRAGの基本です。
モデルへ規程を永久に覚えるよう一度だけ依頼する: 会話上の依頼は基盤モデルの恒久的な再学習ではなく、改定への追随や根拠提示も保証しません。
QUESTION 02AIで週次レポートを作る取り組みが仕事全体を改善したか確かめる評価はどれですか。
生成の速さだけでなく、確認や修正を含む業務指標を導入前のベースラインと比較して、実際の価値を判断します。
生成した文章の文字数だけを増やす: 文章量は、正確さや作業時間の改善を示しません。
導入前と、総作業時間・修正率・誤り・費用・再作業を比較する: 仕事全体の価値と負担を確認できる適切な評価です。
AIを使った回数だけを数える: 利用回数は手段の指標で、成果や安全を示しません。
最も成功した一回だけを選んで発表する: 代表例、例外、危険例での再現性や失敗を確認できません。
QUESTION 03学習方法を選ぶ前の実務確認として、最も適切な進め方はどれですか。
課題の形と比較基準を先に定義すると、必要以上に複雑な方法を選ばず、価値と危険を同じ条件で評価できます。
最新の名称を持つ方法を無条件で選ぶ: 学習方法は性能の順位ではなく、課題とデータの形に合わせて選びます。
目的・利用できる手掛かり・失敗費用・ベースラインを先に決める: 業務目的から方法と評価を選び、現行手順より改善したか確認できる進め方です。
学習データは出所を確認せず、量だけを増やす: 不正確、無許可、偏ったデータを増やすと品質と安全の問題も拡大します。
平均性能だけを見て、少数集団の誤りは除外する: 全体平均が高くても、重要事例や特定集団に重大な失敗が集中する可能性があります。
QUESTION 04短い動画が本物か確かめる手順として、最も適切な組み合わせはどれですか。
出所、内容、文脈、独立した裏付けを組み合わせます。確認できない状態を『本物』か『偽物』へ無理に分類せず、保留できることも重要です。
映像の表情だけを見る→違和感がなければ即共有する: 高品質な合成を見落とす一方、本物の圧縮映像を誤って疑う可能性があります。
検出器を一つ使う→表示された数値だけで投稿者を処分する: 検出器にも対象外や誤判定があり、重大な決定を単独結果へ委ねられません。
元投稿と完全版へ戻る→日時・文脈・独立資料・来歴を確認する→根拠不足なら保留する: 複数の独立した材料を確認し、不確実性も明示する適切な手順です。
拡散数を見る→多く共有されていれば公式情報とみなす: 拡散の多さは、発信元や内容の正しさを保証しません。
QUESTION 05社長そっくりの音声で、普段と異なる口座へ緊急送金するよう求められました。最初の対応として最も適切なものはどれですか。
高品質な音声は聞き分けにくいため、真偽を声だけで決めません。送金を止め、受信経路とは独立した既知の連絡先、口座変更手続、複数承認で確認します。
声に違和感がなければ、その場で少額だけ送金する: 自然な声は本人証明にならず、少額でも攻撃者へ支払いや口座確認の機会を与えます。
処理を止め、社内名簿などで確認済みの連絡先から本人と手続を確認する: 音声の鑑定に依存せず、本人確認と取引確認を独立した経路で行う安全な対応です。
音声を同僚全員へ転送し、多数決で本物か決める: 多数の印象でも本人確認にはならず、合成音声や個人情報を不要に拡散します。
受信メッセージに書かれた別番号へ電話し、同じ相手に確認する: 攻撃者が用意した連絡先かもしれず、受信経路から独立した確認になりません。
QUESTION 06製品番号の完全一致と、言い換えられた問い合わせの両方を探したい場合、検討に適した検索方法はどれですか。
キーワード検索は型番などの一致、ベクトル検索は意味の近さに強みがあります。組み合わせた後も代表質問で取得品質を評価します。
キーワード検索とベクトル検索を組み合わせるハイブリッド検索: 完全一致と意味の近さを補い合う候補です。設定後の評価は別に必要です。
文書を無作為に一件だけ選ぶ方法: 質問との関連性を使わないため、必要な根拠へ安定して到達できません。
回答文の長さだけで資料を順位付けする方法: 文章量は質問との関連性や正本性を示しません。
検索せずにモデルの学習済み知識だけを使う方法: 社内固有情報、最新の改定、正確な製品番号へ到達できる保証がありません。
QUESTION 07誤った情報が広がる場面を整理するとき、ミスインフォメーションとディスインフォメーションを分ける中心的な点はどれですか。
どちらも誤情報になり得ますが、ディスインフォメーションは欺く意図を含みます。意図は推測で断定せず、確認できる証拠に基づいて扱います。
人を誤らせる意図が確認できるか: 誤って共有した情報と、意図的に欺くため作られた情報を分ける中心です。
画像か文章かという媒体の違い: 画像、音声、動画、文章のどれでも、意図のない誤りと意図的な偽情報があり得ます。
投稿の文字数が長いか短いか: 長さは情報の正確さや発信者の意図を示しません。
生成AIの有料プランを使ったか: 利用プランは、情報が誤りか、欺く意図があるかを決めません。
QUESTION 08人間参加型の確認を、形だけでなく安全策として機能させる設計はどれですか。
誰が、いつ、何を見て、どの条件なら承認・修正・停止するかを定めることで、人の確認が実際の安全策になります。
AIの案を見ず、担当者が毎回同じボタンを押す: 機械的な承認は誤りや危険を見つけられず、安全策になりません。
担当者を決めず、問題が起きた後だけ探す: 判断と対応が遅れ、責任の所在も曖昧になります。
承認前でも外部送信し、後で取り消す: 送信後は相手へ影響が出るため、承認前に止める必要があります。
金額・根拠不足・個人情報など、人へ戻す条件と確認項目を決める: 高影響・不確実な場面を見分け、人が必要な材料を確認できる設計です。
QUESTION 09視聴時間だけを報酬にした推薦が、刺激の強い動画へ偏りました。改善策として最も適切なものはどれですか。
一つの代理指標だけを最大化すると、本来の目的を損なう近道が選ばれます。複数指標、禁止制約、監視、停止を組み合わせます。
視聴時間の報酬をさらに大きくする: 現在の偏りをさらに強める可能性があります。
利用者の操作権限をすべて広げる: 権限拡大は報酬設計を直さず、影響範囲を広げる危険があります。
満足・安全・多様性も評価し、制約と停止条件を置く: 測りやすい数字と本来の目的のずれを減らし、望ましくない行動を止める設計です。
偏りを隠すためログを残さない: 原因確認と是正ができなくなり、説明責任も果たせません。
QUESTION 10RAGの回答に引用が付いているとき、公開前の確認として最も適切なものはどれですか。
引用は自動的な正しさの保証ではありません。主張を直接支えるか、現行版か、例外を落としていないかを人が原文で確かめます。
引用件数が多ければ本文を読まずに承認する: 出典数は、個々の主張が根拠で支えられている証拠になりません。
リンクが開けば、版や適用条件は確認しない: 実在する文書でも旧版や対象外の条件である可能性があります。
回答の各主張を引用箇所と照合し、版・例外・根拠不足を確認する: 主張と根拠の対応、現在性、適用範囲を確認できる方法です。
引用元に書かれていない部分は一般知識で自然に補う: 根拠のない補完はRAGの確認可能性を失わせるため、保留や確認先を示します。
QUESTION 11同じ週次記事作成を再実行したとき、二重公開を防ぐために最も重要な設計はどれですか。
状態として実行IDと反映済み操作を記録し、再試行しても一度だけ反映されるようにします。会話の記憶だけへ依存しません。
毎回別のモデル名へ変更する: モデル名の変更は、同じ外部操作が二度実行される問題を防ぎません。
実行IDと完了済み操作を保存し、公開前に既存結果を確認する: 再開と再試行を区別し、重複反映を避けるための適切な状態管理です。
会話履歴をすべて削除し、進捗を分からなくする: 完了状況を失うと、同じ処理を再び実行する危険が高まります。
再実行では承認手順を必ず省略する: 再実行でも影響と権限を再確認し、必要な承認を残します。
QUESTION 12ディープフェイク対策を業務手順へ組み込む考え方として、最も適切なものはどれですか。
生成品質が変わっても使える防御は、送金、認証、機密共有などの行動を、別経路確認と通常承認で止められる仕組みです。
全社員に顔の違和感だけを見抜く訓練を行い、承認手順はなくす: 目視には限界があり、承認をなくすと一度の誤判定が直接被害になります。
合成か断定できなくても、高影響の依頼を止められる確認・複数承認・報告手順を作る: 真偽判定の不確実性を前提に、行動の被害を防ぐ実務的な設計です。
社内から届いた動画は、発信元確認なしですべて本物として扱う: アカウント乗っ取りや連絡先偽装もあるため、社内らしい表示だけでは足りません。
疑わしい素材は注意喚起のため必ずSNSへ再投稿する: 本人の権利侵害、被害拡大、誤認の拡散につながるため、報告先と共有範囲を限定します。
QUESTION 13過去の問い合わせに正しい担当部署が付いており、新しい問い合わせの担当部署を予測したい場合、最初に検討する方法はどれですか。
入力と正解部署の組があり、未知の入力を既存の種類へ分ける課題なので、教師あり学習の分類が候補です。
教師なし学習で名前のない群だけを作る: 正解部署を予測する目的なのに、利用できるラベルを使わないため課題の形と合いません。
教師あり学習で部署ラベルを予測する: 問い合わせと正解部署の組から、新しい問い合わせの部署を分類する適切な考え方です。
強化学習で無制限に部署を変更する: 各件の正解ラベルがある分類問題であり、現実の業務で無制限な試行錯誤をさせる必要はありません。
回答文を生成するだけで部署を決める: 自然な文章の生成と、定義済みラベルを一貫して予測する分類は別の課題です。
QUESTION 14旧版の規程が検索結果へ混ざる問題を減らすため、最も有効な準備はどれですか。
現在有効な版を検索時に選べる管理情報が必要です。正本更新時には旧チャンクの削除や無効化も確認します。
旧版のタイトルを短くして目立たなくする: 表示名を変えても、検索索引に残る旧内容を排除できません。
検索件数を無制限に増やす: 旧版や無関係資料も増え、重要な根拠が埋もれる可能性があります。
文書の版を回答生成後に推測する: 版は推測せず、文書登録時の管理情報と正本から確認します。
施行日・終了日・版をメタデータへ持たせ、現行版で絞り込む: 検索前に現行性を制御し、回答から版へ追跡できる適切な設計です。
QUESTION 15生成AIのモデル単体と、AIエージェントの仕組みを分ける説明として最も適切なものはどれですか。
モデルは判断や生成の中核ですが、エージェントとして仕事を進めるには、外部機能を呼ぶツール、結果を戻して続けるループ、状態、権限、承認などの周辺設計が必要です。
どちらも会話画面があれば、構成と権限は必ず同じになる: 画面が似ていても、利用できるツール、状態、外部操作の権限はサービスや設定で異なります。
エージェントはモデルに指示・ツール・実行制御・状態・安全策を組み合わせる: モデル単体ではなく、複数の構成要素を含むシステムとして捉える適切な説明です。
モデル単体も、許可なしで外部サービスを自由に操作できる: 外部操作には接続手段と権限が必要で、実行側が検査しなければなりません。
エージェントには生成モデルが使われることはない: 多くのエージェントでは、指示を理解して次の行動を選ぶ中核に生成モデルが使われます。
章末テスト
第3章・定着テスト
0/ 15