CHAPTER 04 / REVIEW
ディープラーニングの概要
ニューラルネットワークが誤差から学び、未知の入力へ対応する仕組みを理解します。 5日分の知識を、用語暗記ではなく判断へ使えるか確認します。
15問問題と選択肢の順番は挑戦ごとに変わります。
QUESTION 01ReLUの出力として正しいものはどれですか。
正解は「入力が正ならそのまま、0以下なら0」です。講義で扱った定義と判断条件に一致します。正解以外の理由も比べ、計算や設計で使い分けられるようにしましょう。
入力が正ならそのまま、0以下なら0: 正解は「入力が正ならそのまま、0以下なら0」です。講義で扱った定義と判断条件に一致します。正解以外の理由も比べ、計算や設計で使い分けられるようにしましょう。
どの入力にも0.5: 0.5はシグモイドへ0を入れたときの値です。
入力を必ず-1〜1へ変換: -1〜1はtanhの出力範囲です。
複数出力の合計を1にする: 合計1はsoftmaxの性質です。
QUESTION 02勾配チェックで確認できることと、できないことの組合せはどれですか。
正解は「微分実装の整合は確認できるが、学習目的やラベルの妥当性までは保証しない」です。講義で扱った定義と判断条件に一致します。正解以外の理由も比べ、計算や設計で使い分けられるようにしましょう。
微分実装の整合は確認できるが、学習目的やラベルの妥当性までは保証しない: 正解は「微分実装の整合は確認できるが、学習目的やラベルの妥当性までは保証しない」です。講義で扱った定義と判断条件に一致します。正解以外の理由も比べ、計算や設計で使い分けられるようにしましょう。
因果関係と公平性をすべて証明できる: 数値微分との比較は因果や公平性を証明しません。
テストデータが不要になる: 最終的な未知性能評価は別に必要です。
学習率の最適値を必ず一意に決められる: 勾配検査だけで最適な学習率は決まりません。
QUESTION 03人工ニューロンが活性化関数へ渡す基本的な値はどれですか。
正解は「入力と重みの積を足し、バイアスを加えた値」です。講義で扱った定義と判断条件に一致します。正解以外の理由も比べ、計算や設計で使い分けられるようにしましょう。
入力と重みの積を足し、バイアスを加えた値: 正解は「入力と重みの積を足し、バイアスを加えた値」です。講義で扱った定義と判断条件に一致します。正解以外の理由も比べ、計算や設計で使い分けられるようにしましょう。
正解ラベルを文字順に並べた値: ラベルの文字順はニューロンの基本計算ではありません。
テストデータの件数だけ: データ件数だけでは個々の入力を処理できません。
利用者が決めた最終判断そのもの: ニューロンは計算値を出し、最終判断そのものを担うとは限りません。
QUESTION 04勾配降下法の基本的な更新方向はどれですか。
正解は「現在の勾配と反対方向」です。講義で扱った定義と判断条件に一致します。正解以外の理由も比べ、計算や設計で使い分けられるようにしましょう。
現在の勾配と反対方向: 正解は「現在の勾配と反対方向」です。講義で扱った定義と判断条件に一致します。正解以外の理由も比べ、計算や設計で使い分けられるようにしましょう。
現在の勾配と必ず同じ方向: 勾配と同じ方向は局所的に損失を増やします。
重みに関係なく毎回0へ移動: 重みを一律0へする方法ではありません。
最も大きい入力値の方向だけ: 入力の大きさだけで更新方向は決まりません。
QUESTION 05L1正則化とL2正則化の違いとして適切なものはどれですか。
正解は「L1は重みを0にしやすく、L2は大きな重みを滑らかに抑えやすい」です。講義で扱った定義と判断条件に一致します。正解以外の理由も比べ、計算や設計で使い分けられるようにしましょう。
L1は重みを0にしやすく、L2は大きな重みを滑らかに抑えやすい: 正解は「L1は重みを0にしやすく、L2は大きな重みを滑らかに抑えやすい」です。講義で扱った定義と判断条件に一致します。正解以外の理由も比べ、計算や設計で使い分けられるようにしましょう。
L1はテスト専用、L2は訓練禁止: 両方とも訓練時の正則化として使えます。
どちらも重みを必ず同じ値にする: 罰則の形が異なり、同じ値へ固定しません。
どちらもデータ拡張の種類である: データを変換して増やす手法とは別です。
QUESTION 06隠れ層へ非線形な活性化関数を入れる主な理由はどれですか。
正解は「線形変換だけでは表せない複雑な関係を学べるようにする」です。講義で扱った定義と判断条件に一致します。正解以外の理由も比べ、計算や設計で使い分けられるようにしましょう。
線形変換だけでは表せない複雑な関係を学べるようにする: 正解は「線形変換だけでは表せない複雑な関係を学べるようにする」です。講義で扱った定義と判断条件に一致します。正解以外の理由も比べ、計算や設計で使い分けられるようにしましょう。
正解ラベルを不要にする: 教師あり学習では引き続きラベルが必要です。
すべての出力を必ず確率にする: 隠れ層の出力が確率である必要はありません。
データの権利問題を自動解決する: 活性化関数は法的権利を処理する仕組みではありません。
QUESTION 07損失関数の主な役割はどれですか。
正解は「予測の誤りを学習用の数値にし、パラメータを直す方向を定める」です。講義で扱った定義と判断条件に一致します。正解以外の理由も比べ、計算や設計で使い分けられるようにしましょう。
予測の誤りを学習用の数値にし、パラメータを直す方向を定める: 正解は「予測の誤りを学習用の数値にし、パラメータを直す方向を定める」です。講義で扱った定義と判断条件に一致します。正解以外の理由も比べ、計算や設計で使い分けられるようにしましょう。
モデルの法的責任者を決める: 責任分担は組織・契約・運用で定めます。
テストデータを訓練へ混ぜる: テスト混入は評価情報の漏えいです。
利用者の満足を必ず完全に表す: 損失は業務価値の代理であり、完全一致するとは限りません。
QUESTION 08Dropoutの学習時と利用時の扱いとして適切なものはどれですか。
正解は「学習時に一部ユニットを確率的に無効化し、利用時は通常すべて使う」です。講義で扱った定義と判断条件に一致します。正解以外の理由も比べ、計算や設計で使い分けられるようにしましょう。
学習時に一部ユニットを確率的に無効化し、利用時は通常すべて使う: 正解は「学習時に一部ユニットを確率的に無効化し、利用時は通常すべて使う」です。講義で扱った定義と判断条件に一致します。正解以外の理由も比べ、計算や設計で使い分けられるようにしましょう。
利用時だけ正解ラベルを消す: ラベル操作ではありません。
学習時も利用時も同じユニットを永久に削除する: ランダムに一部を無効化する学習手法で、永久削除ではありません。
テストデータを複製する: 評価データの複製ではありません。
QUESTION 09Momentumの主な考え方はどれですか。
正解は「過去の更新方向を蓄え、同じ方向へ進みやすくし振動を抑える」です。講義で扱った定義と判断条件に一致します。正解以外の理由も比べ、計算や設計で使い分けられるようにしましょう。
過去の更新方向を蓄え、同じ方向へ進みやすくし振動を抑える: 正解は「過去の更新方向を蓄え、同じ方向へ進みやすくし振動を抑える」です。講義で扱った定義と判断条件に一致します。正解以外の理由も比べ、計算や設計で使い分けられるようにしましょう。
各重みを乱数で毎回初期化する: 毎回初期化すると学習を蓄積できません。
勾配を計算せず正解率だけで更新する: Momentumも勾配を利用します。
利用時にも重みを変更し続ける: 通常の推論では重みを固定します。
QUESTION 10Dying ReLUを軽減する候補として適切なものはどれですか。
正解は「負の領域にも小さな傾きを残すLeaky ReLUを試す」です。講義で扱った定義と判断条件に一致します。正解以外の理由も比べ、計算や設計で使い分けられるようにしましょう。
負の領域にも小さな傾きを残すLeaky ReLUを試す: 正解は「負の領域にも小さな傾きを残すLeaky ReLUを試す」です。講義で扱った定義と判断条件に一致します。正解以外の理由も比べ、計算や設計で使い分けられるようにしましょう。
全重みを大きな負値へ固定する: 負領域へ固定すると0出力から戻りにくくなります。
学習中の勾配をすべて0にする: 勾配を0にするとパラメータを学習できません。
出力ラベルを削除する: ラベル削除は活性化の問題を解決しません。
QUESTION 11線形変換だけを何層も重ねた場合の説明として適切なものはどれですか。
正解は「全体を一つの線形変換へまとめられ、複雑な非線形境界は作れない」です。講義で扱った定義と判断条件に一致します。正解以外の理由も比べ、計算や設計で使い分けられるようにしましょう。
全体を一つの線形変換へまとめられ、複雑な非線形境界は作れない: 正解は「全体を一つの線形変換へまとめられ、複雑な非線形境界は作れない」です。講義で扱った定義と判断条件に一致します。正解以外の理由も比べ、計算や設計で使い分けられるようにしましょう。
層を増やすだけで必ず因果関係が分かる: 多層化は因果関係を証明しません。
自動的にパラメータが0個になる: 線形層にも通常は重みとバイアスがあります。
どんな課題でも必ず正解できる: 表現力、データ、評価には限界があります。
QUESTION 12学習率が大きすぎると起こりやすいことはどれですか。
正解は「最小値を飛び越えて損失が振動・発散する」です。講義で扱った定義と判断条件に一致します。正解以外の理由も比べ、計算や設計で使い分けられるようにしましょう。
最小値を飛び越えて損失が振動・発散する: 正解は「最小値を飛び越えて損失が振動・発散する」です。講義で扱った定義と判断条件に一致します。正解以外の理由も比べ、計算や設計で使い分けられるようにしましょう。
更新が小さすぎて必ず停止する: これは学習率が小さすぎる場合に近い症状です。
パラメータ数が自動で減る: 学習率はモデル構造の接続数を変えません。
テスト情報の漏えいが必ずなくなる: データ分割の漏えいとは別の問題です。
QUESTION 13大きな誤差を二乗して強く重く扱う、回帰の代表的な損失はどれですか。
正解は「平均二乗誤差(MSE)」です。講義で扱った定義と判断条件に一致します。正解以外の理由も比べ、計算や設計で使い分けられるようにしましょう。
平均二乗誤差(MSE): 正解は「平均二乗誤差(MSE)」です。講義で扱った定義と判断条件に一致します。正解以外の理由も比べ、計算や設計で使い分けられるようにしましょう。
交差エントロピーだけ: 交差エントロピーは主に分類の確率へ使います。
正解率: 正解率は分類の評価指標です。
AUC: AUCは順位性能を見る評価指標です。
QUESTION 14学習時と利用時の順伝播について適切な説明はどれですか。
正解は「学習時は損失と勾配計算へつなげ、利用時は固定した重みで予測を作る」です。講義で扱った定義と判断条件に一致します。正解以外の理由も比べ、計算や設計で使い分けられるようにしましょう。
学習時は損失と勾配計算へつなげ、利用時は固定した重みで予測を作る: 正解は「学習時は損失と勾配計算へつなげ、利用時は固定した重みで予測を作る」です。講義で扱った定義と判断条件に一致します。正解以外の理由も比べ、計算や設計で使い分けられるようにしましょう。
利用時は入力のたびに必ず重みを更新する: 一般的な推論では学習済み重みを固定します。
学習時は順伝播を行わない: 学習時も予測と損失を得るため順伝播します。
利用時は正解ラベルが必須である: 推論対象の正解ラベルは通常まだ分かりません。
QUESTION 15入力がすべて0でも、ニューロンの判断境界の位置を調整できるパラメータはどれですか。
正解は「バイアス」です。講義で扱った定義と判断条件に一致します。正解以外の理由も比べ、計算や設計で使い分けられるようにしましょう。
バイアス: 正解は「バイアス」です。講義で扱った定義と判断条件に一致します。正解以外の理由も比べ、計算や設計で使い分けられるようにしましょう。
エポック: エポックは訓練データを一巡する単位です。
テストデータ: テストデータは最終評価に使うデータです。
正解率: 正解率は評価指標で、学習される位置調整項ではありません。
章末テスト
第4章・定着テスト
0/ 15