第1章|AIエージェントの正体を確かめる。
DAY 02 ・ 約15〜20分「自律する」とはどういうことか
人が離れることではなく、決めた範囲で次の行動を選べること。
AIエージェントの自律性を段階で捉え、任せる判断と人へ戻す判断を設計できる。
言葉を知る
自律性
目的と現在の状況を基に、人が一手ずつ指示しなくても、許可された範囲で次の行動を選べる性質。
権限
何を読み、作成し、変更し、送信・公開できるかを定めた操作範囲。
承認点
実行前に人の明示的な確認を必要とする場所。
停止条件
回数、時間、費用、失敗、危険度などを基に処理を止める基準。
自律レベル
人の確認や許可を挟む範囲を示す段階。操作の影響に応じて設定する。
監視
実行状況や結果を確認し、異常や停止条件を見つけること。
ロールバック
変更前の状態に戻す手順。外部送信など取り消せない操作もある。
仕組みを理解する
「自律」という言葉が誤解を生みやすい理由
AIエージェントの説明では、「自律的に動く」「人の代わりに仕事をする」という表現がよく使われます。この言葉だけを聞くと、AIが目的まで自分で決め、人の管理を離れて自由に行動する姿を想像しやすくなります。しかし実務で必要な自律性は、そのような無制限の自由ではありません。人が与えた目的、使ってよい情報、許可された道具、守るルールの中で、次に何をするかを選べる性質です。 会議資料の準備では、関連ファイルの探索、数字確認、構成、下書きの順序を選べます。一方、会議日程の変更、未確認の数字の社外送信、原本の削除まで許されたわけではありません。手順を選ぶことと目的や権限の拡張は別です。 OpenAIはガードレール内の道具選択と失敗時の修正・停止・人への制御返却を重視します。Anthropicも計画、行動、観察、調整の反復と、人によるツール・許可方法の設定を示します。自律性は人が離れる度合いではなく、人が決めた枠内で選べる判断の広さです。
自律性は一つのスイッチではなく段階で考える
自律性を「ある・ない」の二択にすると、必要以上に怖がるか、反対に任せすぎるかのどちらかになりがちです。実務では、仕事ごとに段階を分けます。最初の段階は助言です。AIは候補や注意点を示しますが、選択と実行は人が行います。次は下書きです。AIが文章、計画、変更案を作り、人が内容を確認して採用します。この二段階では、外部への影響は人の操作によって初めて生じます。 三つ目は、実行前承認付きの行動です。AIが次の操作を選び、メールの宛先と本文、変更するファイル、登録する予定などを準備したあと、実行直前で人へ確認を求めます。四つ目は、低リスク範囲の自動実行です。決められたフォルダーでの整理、読み取り専用の情報収集、社内下書きの保存など、失敗しても戻しやすい仕事を自動で進めます。例外や条件外の入力を見つけた時だけ人へ戻します。 五つ目は、定期実行や長時間実行です。決めた時刻や出来事をきっかけに起動し、複数工程を継続します。この段階では、処理状態、重複防止、再試行、費用上限、通知、停止方法が必要です。自律性が高くなるほど、プロンプトを詳しくするだけでは足りません。周囲のソフトウェアで、何ができるか、いつ止まるか、何を記録するかを強く定める必要があります。大切なのは、製品全体へ一つの自律レベルを付けるのではなく、操作ごとに段階を変えることです。
目的・判断・行動を分ける
エージェントへ仕事を任せる時は、目的、判断、行動を分けて考えます。目的は「問い合わせへ迅速で正確に対応する」のような到達したい状態です。これは人が決めます。判断は「どの資料を確認するか」「どの分類に当てはまるか」「追加情報が必要か」のように、状況に応じて選ぶ部分です。ここがエージェントの自律性を活かしやすい場所です。行動は、検索、保存、送信、変更、削除など、外部へ実際の影響を与える操作です。 判断と無条件の実行は別です。問い合わせの分類やサイトの修正案・テストを任せても、顧客への返信や本番公開は人が承認できます。一方、社内の一時ファイルへの下書き保存は自動実行しやすい場合があります。 この分け方をすると、「AIにどこまで任せるか」という大きすぎる質問を、具体的な設計へ変えられます。目的は誰が決めるか、途中で選んでよい項目は何か、実行できる操作は何か、どの操作だけ承認を求めるかを一つずつ決めます。自律性はモデルだけが持つ能力ではなく、モデルの判断と周囲の権限設定を組み合わせて作るものです。
権限は能力ではなく実際の行動範囲を決める
高性能なモデルでも、接続されていないメールは読めず、書き込み権限がなければファイルを変更できません。逆に、広い権限を与えると、意図を誤解した時の影響も広がります。そのため、モデルが何を理解できるかという能力と、実際に何をしてよいかという権限を分けます。自律性を安全に高める基本は、最小権限です。 最小権限とは、仕事の完了に必要な操作だけを許可する考え方です。メール対応なら、検索、閲覧、下書き作成、送信、削除を別の権限として扱います。調査と下書きまでが目的なら、送信や削除を許可する必要はありません。カレンダーでも、予定の検索、候補作成、登録、招待送信、既存予定の削除は危険度が異なります。 さらに、対象範囲も絞ります。「全ファイルを読み書き可能」ではなく、特定プロジェクトの作業フォルダーだけを許可します。「すべての顧客へ送信可能」ではなく、社内テスト先だけで試します。時間、金額、件数、変更数にも上限を置けます。エージェントが適切な判断を続けることへ期待するだけでなく、誤判断しても大きな被害へ進めない構造を用意することが、自律運用の土台です。 ファイル権限は表示名だけでなく実際の保存先を確認します。シンボリックリンクを通じ、許可フォルダー内の名前が外部を指す場合があるためです。2026年9月のClaude Code更新でも、実体が許可範囲外なら自動承認しないよう修正されました。実パスで範囲を検査し、同じ拒否を繰り返さず人へ戻す停止条件を設けます。
人の承認は多ければ安全とは限らない
危険を避けるため、すべての操作で人へ確認させればよいように見えます。しかし、一分ごとに「許可しますか」と聞かれると、人は内容を読まずに承認し始めます。確認が多すぎる状態では、承認ボタンが安全装置ではなく、作業を進めるための形式になります。重要なのは承認回数を増やすことではなく、影響の大きい場所へ承認を集中させることです。 承認点を決める時は、取り消せるか、外部へ出るか、金銭や契約へ影響するか、個人情報を扱うか、対象が広いかを確認します。送信、公開、削除、決済、契約、権限変更は、原則として高い注意が必要です。一方、読み取り専用の検索、隔離された作業場所での下書き、戻せる変更、機械的な形式確認は、条件を決めて自動化しやすい操作です。 承認画面では「実行してよいですか」だけを見せても判断できません。何を、どこへ、誰に、どの範囲で、実行すると何が変わるかを示します。メールなら宛先、件名、本文、添付を見せます。ファイル変更なら対象と主な差分を示します。承認者が結果を想像できる情報を揃えて初めて、Human in the Loopが機能します。
自分で止まれることも自律性の一部
自律的に進める仕組みには、進み続ける能力だけでなく、分からない時に止まる能力が必要です。情報が足りない、指示が矛盾している、許可された範囲を超える、同じ失敗が続く、予算や時間の上限へ近づいた、といった状態では、人へ引き継ぎます。停止は失敗ではなく、決められた安全動作です。 停止条件は具体的にします。「危なそうなら止まる」では判定できません。検索しても公式情報が二件以上見つからない、同じツールが三回連続で失敗する、予定金額が一万円を超える、変更ファイルが十件を超える、個人情報を検出する、完了条件を満たせない、といった確認可能な条件にします。処理時間やツール呼び出し回数の上限も必要です。 止まったあとの引き継ぎ内容も決めます。何を目的にしていたか、どこまで完了したか、何が分からないか、どの操作の承認が必要か、再開するならどこからかを残します。「できませんでした」だけでは、人が最初から調べ直すことになります。適切なエスカレーションは、人とAIの作業を途切れさせないための機能です。
チャットAIとの違いは会話回数ではない
チャットAIも、何度か会話を重ねれば複雑な相談に対応できます。利用者が毎回「次はこの資料を見て」「では表にして」「ここを直して」と指示する使い方では、仕事の進行を管理しているのは人です。AIは各依頼へ回答しています。これに対してエージェントは、目的とルールを受け取り、途中結果を見て次の行動を選びます。必要なら検索を追加し、結果が不十分なら方法を変え、条件を超えたら人へ戻します。 したがって、長い会話をするだけで自律的になるわけではありません。自律性を確認するには、誰が次の工程を決めているか、結果に応じて計画を変えられるか、使える道具が定義されているか、状態を保持して再開できるか、停止条件があるかを見ます。 また、会話をせず定期的に動く仕組みでも、決められた手順を同じ順番で実行するだけなら従来型の自動化です。従来型自動化が劣るわけではありません。条件が明確な計算や転記は、固定手順のほうが速く安定します。曖昧な情報を読み、状況に応じて調査先や手順を選ぶ部分だけエージェントへ任せる組み合わせが、実務では有効です。
できることと、できないことを現実的に見る
適切な範囲を与えたエージェントは、人が一手ずつ指示しなくても、資料を集める、複数案を比較する、不足情報を探す、下書きを作る、形式を検査する、途中結果を保存するといった仕事を続けられます。人は細かな操作から離れ、目的、例外、最終判断へ集中できます。定型手順だけでは扱いにくかった表現の違いや、情報不足にも対応しやすくなります。 一方で、エージェントは組織の責任者にはなれません。依頼者が伝えていない事情、最新の契約条件、暗黙の社内判断を自動で理解するとは限りません。複数の資料が食い違う時に、どちらを正式な正本とするかは人が決める必要があります。文章として自信を持っていても、判断が正しい証拠にはなりません。 また、自律性が高いほど常に効率がよいわけではありません。簡単な処理へ複雑な計画、監視、記録を付けると、時間と費用が増えます。仕事の価値、変化の多さ、失敗時の影響を見て、自律段階を選びます。最も高い自律性を目指すのではなく、目的を安全に達成できる最小の自律性を選ぶことが正解です。
失敗例から自律性の境界を見直す
よくある失敗は、目的だけを渡して権限と停止条件を決めないことです。「問い合わせへ適切に対応して」という依頼で送信権限まで与えると、AIは確認が必要な例外を通常案件と誤認し、外部へ誤った返信を出すかもしれません。反対に、検索のたびに承認を求める設計では作業が進まず、人がすべて操作する状態へ戻ります。 もう一つは、成功率だけを見て影響の大きさを無視することです。千件中九百九十九件が正しくても、一件の誤送金や個人情報公開が重大事故になる仕事があります。平均の正確さだけで自動化範囲を決めず、最悪の場合に何が起きるかを確認します。 さらに、AIの返答を実行結果だと思い込む失敗があります。「保存しました」「送信しました」という文章ではなく、保存先、送信履歴、変更差分など外部の証拠を確認します。自律性の評価は、モデルが賢そうに見えたかではなく、許可範囲を守り、完了条件を満たし、例外時に止まり、証拠を残せたかで行います。
正しく動いたかを四つの記録で確認する
自律運用を評価する時は、最終成果物だけでなく過程を見ます。第一に、目的達成の記録です。必要な項目が揃い、正しい保存先へ置かれ、期限を守ったかを確認します。第二に、判断の記録です。どの資料を根拠にし、なぜ次の行動を選び、どの条件で人へ確認したかを追えるようにします。 第三に、権限と操作の記録です。利用したツール、読み書きした対象、送信や公開の有無を残します。許可されていない操作を試していないかも確認します。第四に、停止と復旧の記録です。何回失敗し、どの上限で止まり、再開時に重複が起きなかったかを確認します。 導入初期は人が成果を確認し、誤りと手直し時間を記録します。正答率だけでなく重大ミス、承認差し戻し、無駄な実行、費用、完了時間を測り、証拠が揃ってから低リスク操作の承認を減らします。結果に応じて自律範囲を広げたり戻したりします。
実例で理解する
具体例で考える
AIニュース記事なら、公式サイトの検索、日付確認、要点抽出、下書き保存、リンク検査までは自動で進めます。一次情報が二件未満、情報が矛盾、同じ検索が三回失敗した時は停止します。公開は人が出典と本文を確認して承認し、実行後は公開URLを証拠として残します。
手を動かして理解する
- 任せたい仕事を工程へ分ける
- 各工程を「自動・条件付き自動・承認・人が実施」へ分類する
- 権限、承認点、停止条件を一つずつ具体的に書く
- 成功を確認する成果物・ログ・外部記録を決める
04|今日の理解度を確認する
DAY 2の理解度を確認する
AIエージェントの自律性を説明する表現として、最も適切なものはどれですか。
自律性は無制限の自由ではなく、人が決めた目的・権限・停止条件の内側で判断できる性質です。
目的や権限もAIが自由に変更できること: 目的や権限の境界は人やシステムが定めます。AIが勝手に広げる設計は安全ではありません。
人が一切関与しない状態にすること: 高リスク操作や例外では、人の承認や引き継ぎが必要です。
許可された範囲で、状況に応じて次の行動を選べること: 正解です。自律性は、決められた枠内で次の手順や道具を選ぶ性質です。
最も高性能なモデルを使うこと: モデル性能と、実際に許される行動範囲は別です。
問い合わせ対応エージェントの導入初期に、人の承認を残す場所として最も適切なものはどれですか。
外部の相手へ影響し、誤りを完全には取り消しにくい操作へ承認を集中させます。
顧客への返信送信: 正解です。外部送信は評判や顧客対応へ直接影響するため、導入初期は人が確認します。
社内資料の読み取り: 参照範囲と個人情報には注意が必要ですが、送信より低リスクで自動化しやすい操作です。
下書きの一時保存: 隔離された保存先で戻せるなら、条件付きで自動実行しやすい操作です。
文章形式の機械検査: 文字数や必須項目の検査は、通常は決められたルールで自動化できます。
長時間動くエージェントの停止条件として、最も確認しやすいものはどれですか。
停止条件は、回数、時間、費用、対象数など機械的に判定できる形へします。
AIが危ない気がした時: 危険の基準が曖昧で、同じ条件でも停止判断が変わります。
うまくいかない時は適当に止まる: 「うまくいかない」と「適当」の判定基準がありません。
同じツールが3回連続で失敗した時: 正解です。回数と失敗状態が明確で、自動的に判定できます。
利用者が不安になった頃: 利用者の状態をエージェントが正確に判断できるとは限りません。
自律性を安全に高める方法として、最も適切なものはどれですか。
戻せる工程で成功率と失敗例を集め、証拠に基づいて承認や権限を調整します。
最初から送信・削除・決済まで全面自動化する: 影響が大きく取り消しにくい操作を最初から任せるのは危険です。
すべての操作で承認を求め続ける: 承認疲れが起こり、重要な確認まで形式化するおそれがあります。
実績に関係なく一度決めた権限を変えない: 運用結果や環境変化に合わせて、範囲を広げたり戻したりする必要があります。
低リスク工程から始め、記録を基に自動範囲を調整する: 正解です。段階導入と継続評価で安全性と効率を両立します。
エージェントが例外を検出して停止しました。人へ引き継ぐ情報として最も不十分なものはどれですか。
人が安全に判断・再開できるよう、目的、進行状態、停止理由、必要な操作を残します。
目的と完了済み工程: 何を目指し、重複させてはいけない作業は何かを把握できます。
停止理由と必要な承認: 人が次に判断すべき内容を特定できます。
再開位置と未完了工程: 完了済み作業の重複を防ぎ、途中から再開できます。
「できませんでした」という一文だけ: 正解です。原因も現在地も分からず、人が最初から調査し直すことになります。
04|今日の理解度を確認する
DAY 2の理解度を確認する
今日の整理をする
ここまで分かれば次へ
- ✓ 自律性は無制限の自由ではなく、決めた範囲で次の行動を選ぶ性質
- ✓ 仕事全体ではなく操作ごとに自律段階と権限を変える
- ✓ 高リスク操作へ承認を集中し、例外時は止めて人へ戻す
- ✓ 実行証拠と失敗記録を測りながら自動範囲を調整する
講義本文 5,176字
公式の一次情報で確かめる
PRIMARY SOURCES