CHAPTER 04 / REVIEW
安全・法律・社会原則
安全な利用と、法律・権利・組織の責任を具体例から学びます。
15問毎回順番が変わります。満点後も何度でも挑戦できます。
QUESTION 01顧客メール返信支援のPoCを設計するとき、最も適切な進め方はどれですか。
PoCは完成品作りではなく、重要な不確実性へ期限内に答える小さな検証です。
対象と期間を絞り、代表例・境界例・危険例で現状と比較し、受入基準と中止基準を開始前に決める: 価値、品質、安全を偏りなく測り、次の判断へつなげられます。
全機能を完成させてから、何を測るか考える: 費用を使った後まで重要な不確実性が残り、PoCの目的と逆になります。
担当者が選んだ成功しやすい例だけで評価する: 本番の例外や重大失敗を見落とし、性能を過大評価します。
試行中の結果に合わせて合格基準を何度でも下げる: 都合よく成功を定義できてしまい、客観的な判断材料になりません。
QUESTION 02承認済みの生成AIへ資料をアップロードした後の運用として、最も適切なのはどれですか。
情報保護は入力時だけで終わりません。生成、保存、共有、連携、削除までを追い、各段階の閲覧範囲と保持を管理します。
承認済みなら、共有リンクを期限なしで誰にでも公開する: サービスの利用承認と、個々の情報を外部共有する許可は別です。
出力への秘密の再出現、保存先、共有範囲、保持期間を確認し、不要になれば規程どおり削除する: データのライフサイクル全体を管理する適切な運用です。
入力が安全なら、生成された出力にはアクセス制御が不要になる: 出力が元情報を含んだり、新たな機密成果物になったりするため、同様に管理します。
履歴から消せば、すべてのログと接続先から即時に消えたと判断する: 画面上の履歴、提供者の保持、監査ログ、連携先の保存は別の可能性があります。
QUESTION 03生成AIで作った契約・医療・送金に関わる案を扱う運用として、最も適切なのはどれですか。
高影響な用途では、AIを候補作成へ限定し、根拠確認、人の承認、記録、問題時の停止と訂正を組み合わせます。
AIが自信を示した案だけを自動確定する: 自信のある表現は事実性や安全性を保証せず、高影響な決定の根拠になりません。
誤りが見つかっても、その一文だけ直して記録を残さない: 同じ方法で作った成果物へ誤りが広がっている可能性があり、範囲確認と記録が必要です。
案を主張と根拠へ分け、一次情報で確認し、権限を持つ人が承認して記録する: 検証と責任を人の運用へ組み込む、影響に見合った方法です。
生成速度が速ければ、影響評価と停止手順を省略する: 速さは安全性を示さず、事故時に止めて訂正できる手順が必要です。
QUESTION 04AIガバナンスで最初に作る利用台帳へ記録する内容として、最も適切なのはどれですか。
名称だけでなく、どの業務で何が入り、誰へ影響し、誰が止めるかまで把握して初めて審査・監視できます。
サービス名と月額料金だけ: 費用管理には使えますが、データ、影響、責任を判断できません。
利用者の感想だけ: 使いやすさの参考にはなっても、リスクと責任の管理には不足します。
目的、入力情報、出力先、影響、自動化範囲、責任者、見直し日: 利用実態と管理責任を追える台帳として適切です。
提供会社の広告コピーだけ: 提供者の説明は参考資料であり、自社の実際の用途を表しません。
QUESTION 05問い合わせ分類AIを公開する前の評価として、最も適切なものはどれですか。
全体平均に加え、意味のある集団別に偽陽性・偽陰性などを調べ、危険な差が出たときの運用まで決めます。
全体の正解率が高ければ、そのまま全件を自動処理する: 小さな集団の失敗と誤りの影響を見落とします。
最も多い問い合わせだけをテストする: 珍しいが影響の大きい例や少数集団を評価できません。
AIへ公平かどうかを尋ね、肯定回答を保存する: 自然な回答は、実データを使った独立した監査の証拠になりません。
目的に合う集団ごとに件数と誤りを比較し、停止基準と人への引継ぎを決める: 測定と安全な運用を一続きにした適切な評価です。
QUESTION 06怪しい取引先メールをチャットAIで確認するときの使い方として、最も適切なのはどれですか。
チャットAIは文面の特徴や確認項目を整理できますが、送信者の本人確認や画面外の契約状態を保証できません。秘密を減らし、公式手順で確定します。
顧客名や口座番号を含む全文を入力し、AIが本物と言えば送金する: 情報漏えいと誤判定の両方を招くため、秘密を伏せ、送金は別に確認します。
AIへ送信者本人の認証を任せ、社内確認を省く: 文面だけでは本人を認証できず、通常の確認と承認を省いてはいけません。
AIの文章が自然なら、元メールも安全だと判断する: 自然な文章は生成でき、内容と発信元の真正性を示しません。
秘密情報を伏せて注意点を整理させ、本人確認と送金判断は既知の連絡先と社内手順で行う: AIを補助に限定し、高影響な判断を独立した確認へ戻す安全な使い方です。
QUESTION 07フィッシングとソーシャルエンジニアリングの関係を最も適切に説明しているものはどれですか。
信頼、権威、焦りなどを利用して安全確認を省かせるのが中心です。メール、SMS、電話、偽サイトなど複数の媒体が組み合わされます。
どちらも端末を物理的に壊す攻撃だけを指す: 人をだまして秘密や操作を引き出す攻撃であり、物理的破壊だけではありません。
フィッシングは常に誤字が多く、自然な文章では行われない: 実在情報や生成AIを使い、自然で個別化された文面を作ることもできます。
ソーシャルエンジニアリングは人の心理や手順を利用し、フィッシングはその代表的な手段の一つになり得る: 心理的誘導という広い考え方と、偽連絡などの具体的手口の関係を正しく表します。
フィッシングは個人だけが対象で、組織には起こらない: 取引先や経営者になりすます請求詐欺など、組織も標的になります。
QUESTION 08ある小さな集団のテスト件数が非常に少ない場合、結果を扱う方法として最も適切なのはどれですか。
少数の割合は大きく揺れます。断定せず、データ不足を可視化し、安全な代替手順へつなげます。
一件の結果から、集団全体の性能を断定する: 標本が小さく、偶然の影響を強く受けるため断定できません。
件数と不確かさを示して評価不能も選び、追加データや人の確認を用意する: 不確かさと実務上の安全を両方扱う適切な方法です。
その集団を報告から削除し、問題がないことにする: 見えていないリスクを隠し、改善の機会を失います。
個人を特定できる詳細データを全社へ公開する: 公平性監査にもプライバシー保護と最小権限が必要です。
QUESTION 09生成AIサービスを三年間使う案の費用を比べるとき、最も適切な見積りはどれですか。
総保有コストは、購入や利用開始だけでなく、運用・変更・終了までに必要な人、時間、金額を含みます。
初月の利用料だけを比較する: 継続運用と利用量増加、障害や変更への費用を見落とします。
開発費だけを数え、確認担当者の時間をゼロとする: 人の確認は実際の運用コストであり、省くと効果を過大評価します。
高性能モデルを選べば監視と再評価は不要と考える: データ、用途、モデル、規約が変わるため、性能にかかわらず監視と再評価が必要です。
利用料、データ整備、連携、確認、教育、監視、事故対応、変更時の再評価、終了時の移行まで含める: 導入期間全体の費用を比較できる適切な見積りです。
QUESTION 10日本のAI新法と他のルールの関係について、最も適切な説明はどれですか。
AI新法は推進とリスク対応の国の枠組みです。個人情報、著作権、労働、消費者保護、契約などを置き換えるものではありません。
AI新法だけ確認すれば、個人情報や著作権の確認は不要: 既存法上の義務は残るため、用途ごとの確認が必要です。
AI新法はすべてのAI利用を一律禁止する: 研究開発と活用を推進しながら、必要なリスク対応を進める枠組みです。
AI新法の枠組みに加え、用途に関係する既存法、契約、ガイドラインも確認する: 複数の要求を重ねて判断する適切な理解です。
AI新法は提供会社だけに関係し、利用企業には関係しない: 利用側にも、自社の用途と影響を管理する責任があります。
QUESTION 11一度審査に合格した生成AIの運用について、最も適切な考え方はどれですか。
AIと利用環境は変化します。定期見直しと、重要な変更をきっかけにした臨時審査の両方が必要です。
一度合格すれば、規約やモデルが変わっても見直さない: 前提が変われば、過去の評価結果をそのまま使えません。
モデル・規約・用途・法令の変更や苦情増加を再審査の条件にし、定期確認も続ける: 変化を監視と再評価へ結び付ける適切な運用です。
出力品質が落ちても、契約期間中は必ず使い続ける: 停止基準を超えた場合は、契約中でも人の処理へ戻す必要があります。
法令の適用日は解説記事だけで確認し、公式情報を見ない: 対象地域、役割、例外、施行日を公式情報で確認する必要があります。
QUESTION 12生成AIが論文へのリンクを引用として示したとき、確認方法として最も適切なのはどれですか。
出典の存在だけでなく、適切な版と対象で、原文の該当箇所が主張を直接支持するかを確かめます。
リンクを開き、著者・発行元・日付・対象範囲と、本文が主張を支える箇所を確認する: 出典の真正性、最新性、適用範囲、内容の一致を確認できる手順です。
リンクが青色で表示されれば、本文は読まずに採用する: 表示形式は出典の実在や内容の一致を保証しません。
引用が三件以上あれば、すべて独立した一次情報だとみなす: 同じ情報の転載や二次資料かもしれず、件数だけでは独立性を判断できません。
検索結果の見出しだけが一致すれば、論文全体も一致すると判断する: 見出しや抜粋は文脈を省くため、原文の該当箇所まで読みます。
QUESTION 13試行で時間短縮は確認できた一方、古いFAQを参照する例が残りました。次の判断として最も適切なのはどれですか。
価値があっても不確実性が残る場合は、対策と再評価条件を明確にした条件付き試行が適切です。
時間短縮だけを根拠に、確認なしの自動送信へ広げる: 品質上の失敗を無視し、戻しにくい範囲へ危険を拡大します。
全社導入を保留し、版指定と更新通知を追加した限定試行で再評価する: 見つかった原因へ対策し、限定範囲で証拠を追加する妥当な判断です。
一度問題が出たため、再検討条件を残さず永久に禁止する: 見送り自体は選択肢ですが、改善可能な条件と再検討時期を残す方が判断を更新できます。
AIへ導入可否を質問し、その回答だけで決裁する: AIは組織の費用、契約、責任、リスク許容度を完全には把握できません。
QUESTION 14検索機能や社内RAGを使う生成AIについて、最も適切な説明はどれですか。
検索やRAGは根拠を与えて危険を下げる助けですが、取得と生成の両工程を検証し、正しさを保証されたものとは扱いません。
資料を取得できれば、回答の読み違いは絶対に起きない: 正しい資料があっても、関係箇所の選択や要約で誤る可能性があります。
現在情報や固有資料へ近づけるが、検索漏れ・古い版・取得ミス・生成時の誤りは残る: 検索・RAGの利点と限界を両方示す適切な説明です。
社内文書を使う場合は、アクセス権や版管理を考えなくてよい: 秘密情報の権限、文書の最新版、取得範囲を管理する必要があります。
検索結果が一件あれば、他の一次情報との照合は不要になる: 重要な主張は適用範囲を確認し、必要に応じて独立資料や担当窓口で裏取りします。
QUESTION 15大規模言語モデルで、もっともらしい誤答が生じ得る理由として最も適切なのはどれですか。
言語モデルは学習した関係から続きとして適切そうな出力を作りますが、全主張を事実データベースへ照合して保証する仕組みではありません。
モデルが利用者を困らせる意図を必ず持つため: ハルシネーションを意図的なうそと決めつけず、生成の仕組みと情報不足から考えます。
長い回答ではコンピューターが計算を一切しないため: 長い回答でもモデルは計算を行います。問題は計算の目的と事実保証が同じではないことです。
学習した文章を毎回一字一句そのまま取り出すため: 出力は入力と文脈に応じて生成され、必ず原文をそのまま取り出すわけではありません。
文脈に続きそうな要素の生成と、現実の事実を一文ずつ保証する処理が同じではないため: 自然な続きの生成と事実確認を分けて理解する説明です。
章末テスト
第4章・定着テスト
0/ 15