第5章|ディープラーニングの要素技術
DAY 21 ・ 約30分全結合層・畳み込み層・プーリング層
情報を混ぜる、特徴を拾う、要約する役割を分ける。
全結合・畳み込み・プーリングの接続方法と役割を、画像の形状・パラメータ数・位置変化への強さから説明できる。
言葉を知る
用語を暗記するだけでなく、似た概念との違いと、何を判断するための言葉かまで整理します。
全結合層
前の層のすべての値を、次の層の各ユニットへ接続する層です。情報を全体的に組み合わせますが、入力位置ごとに別の重みを持ちます。
畳み込み層
小さな重みの窓を入力上で動かし、局所的な模様を検出する層です。同じ重みを位置を変えて共有します。
カーネル/フィルタ
畳み込みで使う小さな重みの集合です。学習により、線、色の変化、模様など予測に役立つ局所特徴へ反応します。
特徴マップ
一つのフィルタを入力全体へ適用して得る出力です。どの位置にその特徴が強く現れたかを二次元配置のまま保持します。
ストライド/パディング
ストライドはフィルタを動かす間隔、パディングは入力の周囲へ値を補う処理です。出力の縦横サイズを左右します。
プーリング層
小領域の最大値や平均値を取り、特徴マップを要約する層です。位置の小さなずれへの強さと計算量削減を狙います。
受容野
あるユニットの出力へ影響する入力範囲を受容野と呼びます。
仕組みを理解する
1.全結合層は、すべての情報を一度に組み合わせる
入力が四つ、出力が三つなら、全結合層は4×3個の重みと3個のバイアスを持ちます。各出力は四つの入力を別々の重みで足します。表形式の特徴をまとめる場合や、ネットワークの最後に抽出済み特徴から分類結果を作る場合に使われます。 画像をそのまま全結合へ入れると、縦・横・色の全画素を一列へ並べます。隣り合う画素という関係が構造としては残らず、画像の位置ごとに別の重みが必要です。224×224のRGB画像を1,000ユニットへ接続すれば、重みだけで約1億5千万個になります。画像の局所性を利用せず、計算と過学習の負担が大きくなります。
2.畳み込み層は、小さな範囲を順番に調べる
3×3のフィルタなら、注目位置と周囲八画素を見て、重み付き和を一つ出します。その窓を左から右、上から下へ動かし、画像全体の特徴マップを作ります。小さな範囲へ注目する性質を局所結合と呼びます。 画像では近い画素同士が線、角、模様を作るため、局所結合が課題の構造に合います。ただし3×3という大きさは自然法則ではなく設計値です。音声なら時間方向、文章ならトークン方向へ一次元畳み込みを使えます。畳み込みは画像専用の魔法ではなく、近い位置の関係を同じ規則で調べる計算です。
3.重み共有が、位置ごとの重複を減らす
一つの縦線フィルタは、画像の左上でも中央でも右下でも同じ重みを使います。これが重み共有です。3×3のRGB入力を一つのフィルタで処理する重みは3×3×3=27個で、位置の数だけ重みを増やしません。バイアスを加えて28個です。 同じ特徴が場所を変えて現れる課題では、少ないパラメータで効率よく学べます。畳み込みの出力は入力の移動に応じて移動するため、位置が完全に無関係になるわけではありません。位置を少し変えても最終判断を保つ性質は、プーリング、データ拡張、後段の集約と合わせて作ります。
4.入力と出力は、縦・横・チャンネルで追う
カラー画像は通常、縦×横×3チャンネルで表します。畳み込みフィルタは入力の全チャンネルを見て、一枚の特徴マップを出します。フィルタを32個用意すれば、出力チャンネルは32です。各フィルタが異なる局所パターンへ反応します。 二層目はRGBではなく、前層が作った32枚の特徴マップを入力にします。3×3フィルタ一つの重みは3×3×32個です。フィルタ数を64にすれば出力は64チャンネルになります。テンソルの縦・横・チャンネルを各層で書くと、接続の意味とパラメータ数を確認できます。
5.ストライドとパディングが、出力サイズを決める
ストライド1は窓を一画素ずつ、ストライド2は二画素ずつ動かします。間隔を広げると出力の縦横は小さくなり、計算量も減りますが、細かな位置情報を飛ばす可能性があります。パディング0では端ほど窓を置けず、出力が小さくなります。 3×3フィルタの周囲へ1画素のゼロを補い、ストライド1にすると、縦横サイズを保てます。ゼロ補完が端に人工的な境界を作る場合は反射など別方式も検討します。出力サイズは、入力、パディング、フィルタ、ストライドから計算します。割り切れない設定を曖昧にせず、実装仕様を確認します。
6.プーリングは、近い範囲の代表値を残す
2×2の最大プーリングは四つの値から最大値を一つ残します。強い特徴が少し移動しても同じ領域にあれば残りやすく、縦横サイズを半分へできます。平均プーリングは領域の平均を取り、全体傾向を滑らかに残します。 プーリングには通常、学習する重みがありません。計算を軽くする一方、細かな位置や弱い信号を失います。小さな傷の位置が重要な検査で強く縮小すれば、傷を消す危険があります。ストライド付き畳み込みで縮小を学習させる設計もあります。目的に必要な空間解像度から縮小回数を決めます。
7.層を重ねると、受容野が広がる
あるユニットの出力へ影響する入力範囲を受容野と呼びます。最初の3×3畳み込みは3×3を見ます。さらに3×3を重ねると、二層目の一値は前層の周囲を通じて元画像の5×5相当へ影響を受けます。小さなフィルタを重ねると、非線形変換を挟みながら広い関係を扱えます。 深い層ほど必ず人間が理解する部品を一つずつ表すわけではありません。学習目的に役立つ表現が複数チャンネルへ分散します。受容野が画像全体へ広がっても、実際の影響が中心へ偏る場合があります。形状上の範囲と、学習後に強く使う範囲を分けて評価します。
8.1×1畳み込みと全体平均も、情報のまとめ方である
1×1畳み込みは一画素だけを見るため空間的な周囲は混ぜませんが、その位置の全チャンネルを重み付きで混ぜます。チャンネル数を減らして計算量を抑えたり、新しい特徴の組合せを作ったりできます。小さいから無意味なのではなく、どの軸を混ぜるかが違います。 Global Average Poolingは各特徴マップの縦横を平均し、一チャンネル一値へします。大きな全結合層を減らし、位置ごとのパラメータを持たずに分類へつなげられます。ただし平均で位置を失うため、座標そのものを答える課題には別の出力構造が必要です。
9.形状と役割を表にすれば、設計を読み解ける
ネットワーク図を見るときは、各層について入力形状、処理、出力形状、学習パラメータ、失う情報を書きます。畳み込みは局所特徴を抽出し、プーリングは縦横を要約し、全結合は抽出特徴を全体的に組み合わせます。名称だけではなく、情報がどう変わるかを追います。 精度が低いときも、すぐ層を追加しません。入力解像度で対象が見えるか、縮小し過ぎていないか、フィルタ数が不足または過剰でないか、訓練と検証の差があるかを確認します。構造の比較では精度、パラメータ数、演算量、メモリ、遅延を同じ条件で記録します。
10.DAY 21では、手計算で特徴マップを作る
4×4の一チャンネル画像と2×2フィルタを用意します。ストライド1、パディングなしで、左上から重み付き和を計算し、3×3の特徴マップを作ります。フィルタを縦線検出と横線検出へ変え、反応位置を比べます。 次に2×2最大プーリングを適用し、どの値が残り、どの位置情報が失われるかを書きます。同じ入力を一列へして全結合する場合のパラメータ数とも比較します。局所結合、重み共有、縮小の三点を数値で説明できれば、それぞれの層の役割を理解しています。
実例で理解する
具体例で考える
倉庫で、商品の外箱に破れがあるかを画像で確認する場面を考えます。入力画像は256×256のRGBです。最初の3×3畳み込み32枚で、色の境界や細い線に反応する特徴マップを作ります。パディング1、ストライド1なら縦横サイズは保たれます。 2×2最大プーリングで128×128へ縮小し、次の畳み込みで模様の組合せを学びます。ただし破れが数画素しかないなら、早い段階の縮小で消える可能性があります。破れの実寸と撮影距離から、入力解像度と縮小回数を決めます。 後段はGlobal Average Poolingで各チャンネルを一値へし、全結合層で「破れあり」「破れなし」のロジットを出します。softmax確率だけで出荷停止を自動確定せず、しきい値未満や撮影不良を人へ戻します。 3×3、RGB、32フィルタの第一層は重み864個、バイアス32個です。同じ画像を全画素から32ユニットへ全結合すれば、重みは256×256×3×32で約629万個です。CNNが画像構造を利用してパラメータを減らすことを数字で確認できます。 学習データには破れだけでなく、印刷線、テープ、影、箱の折り目を含めます。モデルが「暗い線なら破れ」と近道を学んでいないか、背景や照明を変えたテストで確認します。特徴マップの可視化は手掛かりですが、因果的な説明と断定しません。 誤分類を調べるときは、元画像、各層の縦横サイズ、破れ部分の大きさを並べます。前半で反応していた傷がプーリング後に消えたなら、入力解像度、ストライド、縮小位置を見直します。後段まで反応が残るのに誤るなら、分類層や訓練例を確認します。 本番ではカメラ、照明、撮影距離、画像圧縮が変わります。畳み込みの重み共有だけで全変化へ強くなるわけではありません。想定変化をデータ拡張と実機評価へ入れ、対象外画像を検知します。構造上の強みと、運用上の保証を分けて管理します。 比較用に、全結合だけの小型モデル、畳み込みだけで縮小しないモデル、最大プーリングを使うモデルを同じ分割で学習します。精度だけでなく、パラメータ数、1画像の処理時間、破れの大きさ別の再現率を並べます。最大プーリング版が全体精度では高くても、小さな破れだけ見逃すなら採用条件を満たしません。 最後に一枚の画像について、入力256×256×3、畳み込み256×256×32、プーリング128×128×32という形状表を作ります。各段で何を学び、何を失うかを書けば、モデル図を見ただけでなく計算の意味まで説明できます。
手を動かして理解する
- 提供ケース「架空の画像分類業務を、入力・層・出力・失敗条件へ分ける」または自分が説明できる身近な事例を一つ選び、DAY21「全結合層・畳み込み層・プーリング層」の判断観点で整理してください。提出物には、①対象と目的、②本文の用語を使った判断、③判断の根拠、④未確認事項または限界を記します。最後に学習目標「全結合・畳み込み・プーリングの接続方法と役割を、画像の形状・パラメータ数・位置変化への強さから説明できる。」を満たす説明になっているか自己確認してください。紙または端末の標準メモだけで実施でき、外部サービスへの登録や有料契約は不要です。 実在人物の個人情報、機密情報、未公開資料は使わず、架空または匿名化した情報だけを使ってください。
04|今日の理解度を確認する
今日の理解度を確認する
画像へ畳み込み層を使う主な理由として適切なものはどれですか。
正解は「近い画素の関係を局所結合で調べ、同じ重みを位置を変えて共有できる」です。講義で扱った仕組みと判断条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
近い画素の関係を局所結合で調べ、同じ重みを位置を変えて共有できる: 正解は「近い画素の関係を局所結合で調べ、同じ重みを位置を変えて共有できる」です。講義で扱った仕組みと判断条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
画像の全画素へ位置ごとに必ず別の重みを持つ: これは全結合に近く、畳み込みの重み共有と逆です。
画素の縦横関係を最初にすべて削除する: 畳み込みは空間配置を保った特徴マップを作ります。
正解ラベルなしで必ず100%分類できる: 構造を使っても正解や完全精度を保証しません。
3×3のRGB入力を扱うフィルタを16枚使う畳み込み層のパラメータ数は、各フィルタのバイアスを含めていくつですか。
正解は「448個」です。講義で扱った仕組みと判断条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
448個: 正解は「448個」です。講義で扱った仕組みと判断条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
432個: 432個は重みだけで、16個のバイアスが抜けています。
160個: フィルタの縦・横・入力チャンネル・枚数をすべて掛けていません。
1,296個: 同じ重みを位置で共有するため、画像の縦横画素数は掛けません。
3×3畳み込み、ストライド1で入力と同じ縦横サイズを保つ代表的な設定はどれですか。
正解は「周囲へ1画素のパディングを加える」です。講義で扱った仕組みと判断条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
周囲へ1画素のパディングを加える: 正解は「周囲へ1画素のパディングを加える」です。講義で扱った仕組みと判断条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
ストライドを3にする: ストライドを広げると通常は出力が小さくなります。
必ず最大プーリングを先に行う: プーリングは縦横を縮小することが多い処理です。
全画素を一列へ並べる: 一列化は空間形状を保つ方法ではありません。
小さな傷を検出する画像モデルでプーリングを強くし過ぎた場合の主なリスクはどれですか。
正解は「細かな位置や弱い傷の情報を縮小時に失う」です。講義で扱った仕組みと判断条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
細かな位置や弱い傷の情報を縮小時に失う: 正解は「細かな位置や弱い傷の情報を縮小時に失う」です。講義で扱った仕組みと判断条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
学習パラメータが必ず無限に増える: プーリング自体には通常、学習重みがありません。
画像の色数が必ず3倍になる: 色数を増やす処理ではありません。
正解ラベルが自動で修正される: ラベル品質を自動修正する機能ではありません。
畳み込み層でフィルタを32枚用意した場合、出力について適切な説明はどれですか。
正解は「32チャンネルの特徴マップが得られる」です。講義で扱った仕組みと判断条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
32チャンネルの特徴マップが得られる: 正解は「32チャンネルの特徴マップが得られる」です。講義で扱った仕組みと判断条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
出力は必ず32×32画素になる: 縦横サイズは入力、フィルタ、ストライド、パディングで決まります。
入力チャンネルは必ず32へ変わる: 入力チャンネル数は元データまたは前層で決まります。
パラメータは必ず32個だけになる: 各フィルタには縦×横×入力チャンネルの重みとバイアスがあります。
04|今日の理解度を確認する
今日の理解度を確認する
今日の整理をする
この3点を持ち帰る
- ✓ 全結合は全入力を混ぜ、畳み込みは局所結合と重み共有で特徴を拾う
- ✓ ストライド・パディング・プーリングが空間サイズと失う情報を決める
- ✓ 形状、パラメータ、受容野、必要解像度を数値で追って設計を判断する
講義本文 4,105字
PRIMARY SOURCES