本文へ移動
← 目次 生成AI発展講座 DAY 03

第1章|人工知能とは

DAY 03 ・ 約30分

フレーム問題と組合せ爆発

現実のすべてを考え切れない理由を理解する。

今日できるようになること

フレーム問題、状態、探索空間、組合せ爆発を身近な計画へ置き換え、AIへ前提・範囲・停止条件を与える理由を説明できる。

01 言葉を知る02 仕組みを理解する03 実例で理解する04 今日の理解度を確認する05 今日の整理をする
01|言葉を知る

言葉を知る

用語を暗記するだけでなく、似た概念との違いと、何を判断するための言葉かまで整理します。

フレーム問題

ある行動で変わることだけでなく、変わらない無数のことをどう扱うかという問題です。現実のすべてを明示的に記述・推論することは困難です。

状態

ある時点で、問題を解くために必要とみなした情報のまとまりです。何を状態へ含めるかが、解ける範囲と計算量を左右します。

探索空間

問題を解く過程で候補となる状態や行動の全体です。候補が増えるほど、すべてを調べることが難しくなります。

組合せ爆発

選択肢や手順が少し増えただけで、組合せの数が急激に増える現象です。計算時間や記憶容量が現実的な範囲を超えます。

ヒューリスティック

必ず最適解を保証するとは限らないものの、経験則や見込みを使って有望な候補を優先する方法です。限られた時間で実用的な答えを探します。

ゴール判定

この組合せ爆発は、ゲーム、スケジュール、経路、設計などで現れます。

全探索

各選択肢が少なく見えても、段階が増えると全探索できません。

02|仕組みを理解する

仕組みを理解する

1.行動によって『変わらないこと』まで考えると終わらない

机の上のコップを持ち上げる場面を考えます。変わるのはコップの位置です。しかし、机の色、部屋の壁、外に止まっている車、遠くの山など、多くのものは変わりません。人は通常、関係する変化だけへ注意し、無関係なものを一つずつ確認しません。コンピューターへ論理規則で世界を記述する場合、「コップを動かしても机の色は変わらない」「壁は移動しない」といった不変事項をどう扱うかが問題になります。 これがフレーム問題の出発点です。現実には、行動の結果として起こり得る例外もあります。コップの下に紙があれば紙が動くかもしれず、水が入っていればこぼれるかもしれません。関係する条件を漏れなく列挙しようとすると、記述が膨大になります。逆に大部分を無視すると、重要な例外を見落とします。限られた情報と時間の中で「今の目的に関係する範囲」を選ぶことが、知的な処理の中心になります。

2.問題を解くには、世界を状態へ切り取る

AIが現実全体をそのまま計算することはできません。目的に必要な情報を選び、状態として表現します。経路案内なら現在地、目的地、道路の接続、通行時間などを使います。運転者の好きな音楽や建物の壁紙は通常含めません。何を入れ、何を外すかによって、問題の形が決まります。 ただし、外した情報が実は重要だった場合、答えは現実に合いません。雨天の通行止めを状態へ入れなければ、地図上の最短経路が使えないことがあります。配送計画で荷物の温度条件を外せば、距離は短くても商品を傷めます。モデルの性能だけでなく、問題設定と入力データを確認する理由がここにあります。AIが誤ったというより、人が切り取った世界が目的に不足している場合があります。

3.候補は、掛け算で急速に増える

一つの工程で3通りの選択があり、それが10工程続くと、単純計算で3の10乗、つまり59,049通りになります。工程が20になると約34億通りです。旅行計画でも、移動手段、出発時刻、宿泊先、食事、観光地をすべて組み合わせれば、候補は急増します。各選択肢が少なく見えても、段階が増えると全探索できません。 この組合せ爆発は、ゲーム、スケジュール、経路、設計などで現れます。チェスや囲碁では、一手ごとの候補から将来の局面が枝分かれします。すべての終局まで計算するのは現実的ではありません。生成AIの文章も、次の単語候補が連続して組み合わさるため、すべての文章を比較してから最良を選ぶわけではありません。候補を絞り、見込みの高い方向を優先する必要があります。

4.ヒューリスティックは、限られた時間で前へ進む

すべてを調べられないとき、経験則や評価関数で有望な候補を優先します。地図で目的地に近づく方向を選ぶ、ゲームで自分に有利そうな局面を先に調べる、商品検索で条件に合うものを上位へ出す、といった方法です。これがヒューリスティックです。必ず最適解を見つける保証がなくても、現実の時間内に十分よい答えを得られます。 ただし、経験則には偏りがあります。「距離が短い道を優先」すると渋滞や急坂を見落とすかもしれません。「売れ筋を優先」すると新商品が表示されにくくなります。何を有望と評価するかは、目的と価値判断を含みます。ヒューリスティックを使う場合は、最適性の保証、失敗しやすい条件、再探索の方法を明らかにします。

5.生成AIでも、関係する文脈を選ぶ問題は残る

大規模言語モデルは、入力された文脈から関係を推定し、回答を作ります。長い資料を渡せても、すべての情報を同じ強さで扱うわけではありません。質問と関係の薄い情報が多ければ、重要条件が埋もれます。会話の途中で目的が変われば、古い指示と新しい指示が衝突することもあります。 そのため、目的、対象範囲、重要条件、非対象を明示します。長い仕事では、確定事項と未確認事項を分け、現在の状態を保存します。「全部考えて最善にして」という依頼は、何を最善とするかが不明です。価格、時間、安全、品質の優先順位を決める必要があります。文脈を増やせば自動的に良くなるのではなく、関係する情報を選びやすくする設計が重要です。

6.範囲・停止条件・人への確認が、現実的な対策になる

フレーム問題を完全に解消し、あらゆる例外を事前に列挙することはできません。実務では、扱う範囲を限定し、範囲外を検出したら止めます。配送計画なら対象地域、荷物種類、車両条件、天候データの時点を定めます。未知の危険物や通行止め情報の矛盾があれば、人へ確認を戻します。 停止条件は失敗ではなく、安全な設計です。情報不足、矛盾、上限超過、高い影響の操作を検出したら、AIが推測で進まないようにします。結果の良さだけでなく、分からないときに正しく止まれるかを評価します。現実のすべてを計算できないという前提を受け入れることで、AIへ任せる範囲と人が受け持つ例外を明確にできます。

7.閉じた世界と開いた世界では、推論の前提が違う

データベースでは、「登録されていないなら存在しない」とみなせる場合があります。全社員の在籍表に名前がなければ、在籍していないと判断する設計です。これは対象範囲が閉じているから可能です。現実世界では、情報がないことは存在しない証明になりません。ニュースで見つからない出来事、台帳へ未登録の故障、報告されていない症状があり得ます。 AIへ質問するとき、この違いを意識します。指定した商品一覧だけから選ぶ課題と、世界中の候補から最善を探す課題では完成条件が違います。開いた世界で「他にない」と断定するには、調査範囲と確認時刻を示します。情報不足を否定へ変換しないよう、「確認できない」「対象範囲では見つからない」という状態を用意します。

8.時間制限の中で十分よい答えを選ぶ

現実の意思決定には期限があります。救急の搬送先を選ぶのに、世界中の病院を比較して最適解を待つことはできません。限られた時間、情報、計算資源の中で、目的を十分に満たす答えを選ぶ必要があります。この考えは限定合理性とも関係します。完全な最適化より、制約を満たす実行可能な選択を優先します。 AIシステムには、処理時間、探索回数、費用、候補数の上限を設けます。上限に達したとき、最善候補を返すのか、人へ確認するのか、処理を失敗として止めるのかを決めます。無制限に考え続けることは品質ではありません。期限内に根拠と不確実性を示せることも、実務上の性能です。

9.例外テストで、切り取った世界の弱点を探す

通常例だけで試すと、問題設定の不足が見えません。シフト作成なら、全員が同じ日に休みを希望する、資格者が欠勤する、必要人数を満たせない、労働時間の上限が衝突する例を入れます。経路案内なら、通行止め、データ更新遅延、同名地点、通信切断を試します。 すべての例外を網羅することはできませんが、影響が大きい例と起こりやすい例を優先できます。失敗時に誤った完成を返すより、「条件を満たす解がない」「情報が古い」と明示して止まれるかを確認します。フレーム問題を学ぶと、テストの目的が正解率の測定だけでなく、モデルが見ていない世界の境界を発見することだと分かります。

10.生成AIのハルシネーションにも、範囲設定が関係する

生成AIが誤った事実を作る原因を、知識不足だけで説明すると対策を誤ります。質問の対象時期、地域、人物が曖昧なら、モデルは文脈からもっともらしい範囲を補います。存在しない情報でも文章を完成させようとします。これは、関係する世界の切り取りと、分からない場合の停止が不十分な状態です。 依頼では、基準日、対象、使える情報源、確認できない場合の返し方を指定します。回答後は、主張ごとに根拠を対応させます。全知識を持たせることはできませんが、どこまで確認し、どこから未確認とするかは設計できます。フレーム問題は古い記号AIだけの話ではなく、現在の生成AI運用にもつながります。

11.DAY 3では、問題を小さな状態へ切り取る

身近な計画を一つ選び、状態に含める情報を十個書いてください。次に、目的へ関係が薄いため外す情報を三つ、見落とすと危険な例外を三つ書きます。候補数が増える選択を見つけ、全探索せずに優先する基準を一つ決めます。最後に、条件を満たせない場合の停止文を作ります。 この演習で「必要情報をすべて入れる」としか書けない場合、範囲がまだ定義できていません。誰が、いつ、どこで使うかを限定してください。完全な世界モデルを作るのではなく、目的に十分な状態を作り、境界で止まることが実務的な解決です。

12.目的関数の置き方で、有望な候補は変わる

探索の候補が多いとき、何を良い答えとするかを数値や優先順位で表します。配達計画なら距離だけを短くすると、遅配、積載量、運転者の休憩が軽視されるかもしれません。売上だけを最大化すると、在庫切れや長時間労働を招くこともあります。計算が正しくても、目的の置き方が狭ければ結果は望ましくなりません。 目的は一つの数字へ無理にまとめず、絶対に守る制約と、できるだけ改善する項目に分けます。安全や法令は制約、時間や費用は比較項目とする例です。重みを変えた複数案を並べ、人が違いを確認します。組合せ爆発への対策は計算を速くするだけではなく、何を残し、何を捨てるかを説明できる基準を作ることでもあります。

03|実例で理解する

実例で理解する

具体例で考える

小さな飲食店で1週間分のシフトを作る場合、従業員10人がそれぞれ複数の希望を持ち、必要人数、資格、連続勤務、休憩、予算を組み合わせると候補は急増します。全組合せを確認するより、「必要資格を満たす」「希望休を守る」「連続勤務を避ける」を優先し、候補を絞ります。 それでも、急な体調不良や地域イベントによる来客増は事前に完全予測できません。AIは通常条件の候補作成まで行い、欠員、法定条件の境界、希望の衝突は責任者へ返します。世界のすべてを考えさせるのではなく、状態・優先順位・範囲外の処理を決めることが実用化です。候補表には、守れた条件だけでなく、妥協した条件と未解決の衝突も表示します。責任者は完成した表だけを見るのではなく、AIが切り捨てた候補と判断理由を確認できます。

手を動かして理解する

  1. 提供ケース「架空の写真整理サービスを、AIの定義・目的・評価の観点で説明する」または自分が説明できる身近な事例を一つ選び、DAY3「フレーム問題と組合せ爆発」の判断観点で整理してください。提出物には、①対象と目的、②本文の用語を使った判断、③判断の根拠、④未確認事項または限界を記します。最後に学習目標「フレーム問題、状態、探索空間、組合せ爆発を身近な計画へ置き換え、AIへ前提・範囲・停止条件を与える理由を説明できる。」を満たす説明になっているか自己確認してください。紙または端末の標準メモだけで実施でき、外部サービスへの登録や有料契約は不要です。 実在人物の個人情報、機密情報、未公開資料は使わず、架空または匿名化した情報だけを使ってください。

04|今日の理解度を確認する

今日の理解度を確認する

1 / 5
QUESTION 01

フレーム問題が示す難しさはどれですか。

QUESTION 02

選択肢が各段階で10通りあり、5段階続くと候補はいくつになりますか。

QUESTION 03

開いた世界で情報が見つからなかった場合の適切な表現はどれですか。

QUESTION 04

探索が大きすぎる業務で現実的な設計はどれですか。

QUESTION 05

配達計画で距離だけを最小化する目的関数の問題は何ですか。

05|今日の整理をする

今日の整理をする

この3点を持ち帰る

  • ✓ フレーム問題は、関係する変化と無関係な不変事項をどう切り分けるかという問題
  • ✓ 選択肢は段階ごとに掛け算で増え、全探索が現実的でなくなる
  • ✓ 実務では状態・優先順位・範囲・停止条件を設計し、例外を人へ戻す

講義本文 4,592字

PRIMARY SOURCES

確認に使った一次資料・原典

本文は各資料を参照し、初学者向けに独自構成・独自表現で解説しています。
NEXT LESSONDAY 4「シンボルグラウンディング問題」へ次のDAYに進む →