本文へ移動
← 目次 AIエージェント0→1 DAY 21

第5章|安全に動かす運用を確かめる。

DAY 21 ・ 約15〜20分

権限と人の承認

読む・作る・変更する・送る・公開する・削除するを分け、影響に応じて人へ判断を戻す。

今日できるようになること

権限と承認の違いを説明し、最小権限、承認点、拒否・再開までを含む安全な実行経路を設計できる。

01 言葉を知る02 仕組みを理解する03 実例で理解する04 今日の理解度を確認する05 今日の整理をする
01|言葉を知る

言葉を知る

権限

エージェントやツールが技術的に実行できる操作と、到達できるデータの範囲。

承認

具体的な操作を実行する直前に、権限を持つ人が内容と影響を確認して進行を許す判断。

最小権限

役割を完了するために必要な操作、対象、期間だけを許可し、不要な能力を持たせない原則。

承認点

送信、公開、削除などの前で処理を止め、人の判断を受け取る工程上の場所。

監査証跡

誰が、いつ、どの対象と内容を、何を根拠に承認・拒否し、実行結果がどうなったかを追える記録。

取り消し

高リスク、機密、取り消しにくい操作には人の介入が重要です。

承認疲れ

永続許可は承認疲れを減らす一方、後から届く悪意ある入力へ同じ能力を与えるため、読み取り中心の定型操作へ限定します。

02|仕組みを理解する

仕組みを理解する

答えるAIから行動するAIへ進むと、権限が中心課題になる

チャットAIが文章案を返すだけなら、その内容を採用するかは利用者が決めます。しかしAIエージェントがファイルを変更し、メールを送り、サイトを公開できるようになると、モデルの一回の誤判断が外部の状態を変えます。便利さは、現実へ働きかけられる能力と同時に生まれます。だから安全性は「モデルが賢いか」だけでなく、「どこまで技術的にでき、どこで止まり、誰が実行を許すか」で決まります。 権限は、エージェントができる操作の外枠です。承認は、その外枠の内側にある具体的な一回の操作を、本当に今進めるか判断する仕組みです。たとえばサイト編集権限があっても、未完成の原稿を本番公開してよいとは限りません。反対に、人が「公開してよい」と会話で答えても、公開ツールと必要な認証がなければ実行できません。権限と承認は代替関係ではなく、両方がそろって初めて安全な行動になります。 OpenAIは、サンドボックスが技術的な到達範囲を決め、承認方針が範囲を越える操作や副作用のあるツール呼び出しで停止する時を決めると説明しています。高リスク、機密、取り消しにくい操作には人の介入が重要です。安全なエージェントとは、何でも自動で行うものではなく、低リスクの工程を自分で進め、高い影響の境界で必要な情報をそろえて人へ制御を返せる仕組みです。

操作を、読む・作る・変える・外へ出す・消すに分ける

「メールを扱える」「サイトを操作できる」という大きな権限名だけでは、影響を判断できません。まず操作を段階へ分けます。読む・検索するは情報を取得する操作、下書きを作るは外へ出さない成果物の作成、内部データを更新するは組織内の状態変更です。送信・公開は第三者へ情報や判断を届ける操作、削除・支払い・契約・権限変更は取り消しが難しい、または責任が大きい操作です。 同じサービスでも段階は違います。受信メールを検索する、返信案を保存する、返信を送る、過去メールを削除するは別々に許可します。記事についても、公開情報を調べる、原稿を作る、確認用環境へ置く、本番公開する、公開範囲を変える、古い記事を削除するは別です。最初から一つの万能接続を渡すと、調査担当の誤りが送信や削除まで届く経路を作ってしまいます。 チャットAIとの違いは、回答内容だけでなく外部効果があることです。文章の提案は誤っていても送らなければ直せますが、誤送信後は受信者の端末から取り戻せません。できることを細かく分け、外部へ出るほど強い確認を置けば、能力を残しながら事故の影響を小さくできます。

最小権限は、道具・対象・時間の三方向で設計する

最小権限とは、必要な仕事を完了できる最小の能力だけを渡す考え方です。道具だけを絞っても十分ではありません。何の操作を許すか、どのデータやフォルダーを対象にするか、いつまで使えるかを組み合わせます。調査担当なら公式サイトの閲覧と指定資料の読み取りだけ、執筆担当なら専用原稿フォルダーへの保存だけ、公開担当なら承認済み版を指定サイトへ反映する操作だけにします。 Microsoftは、役割ごとに知識を分け、外部システムへは狭いAPIを公開し、認証トークンへ必要最小限の権限を与えることを勧めています。CodexやClaude Codeの公式資料でも、作業領域を技術的に制限するサンドボックスと、操作ごとの承認を別の防御層として扱います。プロンプトへ「このファイルを読まない」と書くだけでは、強制的な権限制御になりません。命令が誤って解釈されても越えられない境界を、ツールと実行環境で作ります。 権限不足が起きた時、エージェント自身が範囲を広げてはいけません。必要な操作、対象、理由、期間を示し、人または管理者が追加を判断します。将来使うかもしれないという理由で送信・削除・管理者権限まで与えると、便利さより攻撃面と誤操作の影響が増えます。

承認はボタンではなく、判断に必要な情報の束である

人の承認点を置いても、画面に「実行しますか」とだけ表示されれば安全とは言えません。承認者には、実行する操作、正確な対象、送る本文や変更差分、外部への影響、使った根拠、未確認事項、取り消し方法を示します。メールなら宛先、件名、本文、添付、送信元を確認します。公開なら対象URL、原稿版、変更範囲、公開後のアクセス範囲、戻し方を示します。 「すべて承認」「このエージェントを信頼する」のような広い選択は、次の操作の対象と内容が分からないまま権限を開きます。OpenAI Agents SDKでは、承認が必要なツール呼び出しを実行前に中断し、ツール名や引数を含む保留項目として人へ出し、承認または拒否後に同じ実行状態から再開できます。重要なのは、モデルの説明ではなく、実際に呼ばれるツールと引数を確認できることです。 承認者も適切でなければなりません。依頼者、データ所有者、経理責任者、公開責任者では判断できる範囲が違います。エージェントAがエージェントBの操作を承認しても、人の責任判断を置き換えたことにはなりません。承認は責任を曖昧にする儀式ではなく、影響を理解できる人へ決定を戻す工程です。

承認は、対象と内容が確定した実行直前に求める

承認が早すぎると、承認後に本文、宛先、対象版が変わる危険があります。遅すぎれば、すでに外部効果が発生しています。したがって、承認は必要な準備と検査が終わり、実行対象と内容が固定された後、送信・公開・削除などの直前に置きます。承認を受けた内容、対象、版、期限を記録し、どれかが変われば前の承認を無効にして再確認します。 同種の低リスク操作を一括承認する場合も、範囲を限定します。たとえば「このフォルダー内の十件を指定形式へ変換する」は対象と結果を事前に列挙できます。しかし「今後届くすべてのメールへ自動返信する」は、未知の宛先と内容まで含みます。一回だけ、今回の実行中だけ、常に許可する、という選択の影響も分けます。永続許可は承認疲れを減らす一方、後から届く悪意ある入力へ同じ能力を与えるため、読み取り中心の定型操作へ限定します。 承認待ちが長くなる仕事では、状態を保存します。待機中に原稿版が更新された、対象アカウントが変わった、承認者の役割が失効した場合は、そのまま再開しません。再開時に本人、権限、対象、版、期限を再検証してから実行します。

拒否・期限切れ・中止を、失敗とは別の正常経路にする

人が拒否した時、それはシステム障害ではなく意図された判断です。エージェントは別の手段で同じ操作をこっそり実行したり、表現を変えて承認を取り直し続けたりしてはいけません。拒否理由を必要な範囲で状態へ残し、修正して再提出する、下書きのまま終了する、担当者へ引き渡す、のどれかへ進みます。拒否された外部操作を未実行のまま保つことが合格です。 期限切れと通信エラーも区別します。期限までに返答がない時は、承認されたと推測せず停止します。通信エラーで結果が不明な時は、同じ送信をすぐ再試行せず、送信履歴や処理IDで実行済みか確認します。承認済みでも、二重送信や二重決済が許されるわけではありません。操作ごとの一意なID、実行前後の記録、再実行しても重複しない仕組みが必要です。 承認、拒否、期限切れ、中止、実行エラーを別の状態にすれば、原因と次の行動が明確になります。「完了できませんでした」という一文だけでは、人の判断で止まったのか、権限が足りないのか、実行後の確認に失敗したのか分かりません。

よくある失敗は、広すぎる権限と承認疲れから始まる

一つ目の失敗は、将来便利だからと万能権限を与えることです。調査中に読んだ外部ページへ不正な命令が含まれていた場合、読み取りだけの担当なら影響は限定されますが、送信や秘密情報の取得まで許していれば被害が広がります。権限は、モデルが必ず正しく判断するという期待ではなく、誤った時の最大被害を小さくするために絞ります。 二つ目は、承認疲れです。安全な読み取りまで毎回確認し、短い間に大量の確認を出すと、人は内容を読まず承認するようになります。低リスク操作は狭いサンドボックス内で自動化し、高リスク操作だけを具体的な情報付きで提示します。警告の数ではなく、一件ごとの判断品質を上げます。 三つ目は、モデルの自己申告を証拠にすることです。「権限を確認しました」「送信していません」「公開できました」という文章だけでは実際の状態を証明しません。権限設定、ツール呼び出し、送信履歴、公開URL、アクセス範囲、削除対象の存在を外部の記録で確かめます。四つ目は、承認済みの操作へ別の対象を差し替えることです。内容や版が変わったら再承認が必要です。

権限表・否定テスト・監査証跡で正しく動いたか確かめる

最初に役割と操作の表を作ります。行へ読む、検索、下書き保存、内部更新、送信、公開、削除、支払い、権限変更を置き、列へ役割を置いて、許可、承認必須、禁止を記入します。通常経路だけでなく、別フォルダー、別顧客、期限切れトークン、未承認版、権限のない利用者で実行する否定テストを行います。禁止操作が本当に拒否され、拒否後も別経路から実行できないことを確認します。 承認画面はスマホでも、対象、主要な変更、影響、実行と拒否の選択を省略せず読める必要があります。長い本文は差分や要約と元内容への導線を示し、誤タップを防ぎます。実行後は、返答ではなく実データを確認します。メールの送信済み記録、サイトのURLと版と公開範囲、変更対象の差分、削除や支払いの結果を照合します。 監査証跡には、タスクID、提案した操作、対象と版、承認者、判断時刻、承認・拒否、実行結果、確認証拠を残します。ただし、本文や秘密情報を無制限に複製しません。必要な追跡性とデータ最小化を両立します。設定変更後は同じ否定テストを再実行し、以前の拒否境界が崩れていないか確かめます。

読者演習では、任せる範囲を一段ずつ広げる

自分の仕事から、情報を読む、下書きを作る、内部へ保存する、外部へ送る操作を一つずつ含む流れを選んでください。最初に、各工程の対象、必要権限、失敗した時の最大影響を書きます。次に、低リスクで戻せる工程だけを自動実行へし、送信、公開、削除の直前へ承認点を置きます。承認表示には、対象、内容、影響、根拠、未確認、戻し方を含めます。 その設計を、正常な承認、拒否、返答なし、承認後の内容変更、同じ実行要求の二重到着で紙上実行します。拒否時に完成表示にならないか、承認後に対象が変われば停止するか、二重到着で外部効果が一回に保たれるかを確認します。最後に、どの証拠を見れば本当に成功したと分かるかを決めます。 できることは、狭い範囲の調査や下書きを自動化し、具体的な高リスク操作だけ人へ戻すことです。できないことは、承認という一回のクリックで責任、事実確認、法的判断をAIへ移すことです。権限と承認は、AIを止めるためだけではなく、安心して任せられる範囲を明確にし、成功した範囲を安全に広げるための設計です。

03|実例で理解する

実例で理解する

具体例で考える

店舗のお知らせページを更新する場合、エージェントには正式資料の読取り、原稿の下書き、リンク確認までを許可します。公開操作には、対象ページ、変更内容、掲載期間、確認結果を示したうえで、担当者の承認を必要とします。夏季休業のお知らせに対する承認を、料金改定のお知らせへ流用してはいけません。承認後に原稿を直した場合も、変更部分をもう一度確認します。公開後は実際のページを開き、日付、リンク、スマートフォン表示を確かめます。承認されない、期限が切れた、表示確認に失敗した場合は下書きのまま止め、別の方法で勝手に公開しません。

手を動かして理解する

  1. 自分の仕事を、読む・下書き・内部更新・送信・公開・削除へ分ける
  2. 役割ごとに許可・承認必須・禁止を記した権限表を作る
  3. 承認画面へ対象、内容、影響、根拠、未確認、戻し方を書く
  4. 拒否、期限切れ、承認後の版変更、二重要求を紙上で流す
  5. 実行後に確認する外部の証拠と、監査証跡へ残す項目を決める

04|今日の理解度を確認する

DAY 21の理解度を確認する

1 / 5
QUESTION 01

公開情報の調査と社内向け下書きだけを担当するエージェントに、最初から与える範囲として最も適切なのはどれですか。

QUESTION 02

記事を本番公開する直前の承認表示として、承認者が最も判断しやすいものはどれですか。

QUESTION 03

DAY 21の原稿版Aを本番公開する承認を得た後、本文が版Bへ変更されました。最も適切な進め方はどれですか。

QUESTION 04

メール送信の承認依頼が期限切れになり、返答がありません。エージェントの扱いとして最も適切なのはどれですか。

QUESTION 05

送信ツールが通信エラーを返し、メールが実際に送られたか不明です。二重送信を防ぐ最初の対応はどれですか。

05|今日の整理をする

今日の整理をする

ここまで分かれば次へ

  • ✓ 権限は技術的にできる範囲、承認は具体的な操作を今進めるかの判断であり、両方を分けて設計する
  • ✓ 読む・下書き・内部変更・送信・公開・削除を分け、役割・対象・期間を最小権限へ絞る
  • ✓ 高い影響の操作は対象と内容を固定して実行直前に承認し、拒否・期限切れ・版変更では未実行のまま止める

講義本文 4,622字

参考資料

公式の一次情報で確かめる

NEXT LESSONDAY 22「プロンプトインジェクションと情報流出」へ次のDAYに進む →