第6章|ディープラーニングの応用
DAY 28 ・ 約30分音声処理と深層強化学習
時系列を扱う認識・生成と、行動学習の応用を知る。
音声の標本化・スペクトログラム・音声認識・音声合成の流れと、DQNを例に深層学習と強化学習を組み合わせる理由を説明できる。
言葉を知る
用語を暗記するだけでなく、似た概念との違いと、何を判断するための言葉かまで整理します。
標本化
連続する音の波を一定時間ごとの数値へ変える処理です。1秒当たりの回数をサンプリング周波数で表します。
スペクトログラム
音声を短い時間窓へ分け、時間ごとの周波数成分の強さを二次元に並べた表現です。
自動音声認識(ASR)
音声波形から発話内容の文字列を推定する技術です。音響、言語、発音、復号などの要素が関係します。
音声合成(TTS)
文章や音素列から音声を生成する技術です。内容の正しさと、声質・韻律・話者らしさは別に評価します。
深層Qネットワーク(DQN)
状態から各行動のQ値をニューラルネットワークで近似する強化学習手法です。画像のような高次元入力も扱えます。
経験再生
過去の状態・行動・報酬・次状態を保存し、ランダムに取り出して学習する方法です。連続した経験の偏りを弱めます。
方策勾配
分布外状態を検知し、確信がないとき人へ戻す方策を用意します。
仕組みを理解する
1.音声は、時間とともに変わる空気の振動である
マイクは空気圧の変化を電気信号へ変え、一定間隔で数値として記録します。1秒に16,000回測るなら16kHzです。サンプリング周波数が高いほど高い周波数まで表せますが、データ量と計算も増えます。振幅の数値化精度は量子化ビット数で表します。 会話音声に必要な設定と音楽制作の設定は同じではありません。通話では通信の帯域や圧縮も影響します。モデルへ入れる前に、無音、雑音、音量、切れ、複数話者、録音機器を確認します。数字を増やせば、雑音や誤ったラベルまで自動で改善するわけではありません。
2.波形を時間と周波数へ分けて見る
生の波形は時間ごとの振幅ですが、どの高さの音が含まれるかを読み取りにくい場合があります。短時間フーリエ変換では、音声を短い窓へ分け、各窓に含まれる周波数成分を求めます。時間を横、周波数を縦、強さを色へしたものがスペクトログラムです。 窓を長くすると周波数を細かく見やすい一方、急な変化の時刻がぼやけます。短くするとその逆です。人の聴覚に近い尺度を使うメルスペクトログラムもあります。入力表現は音声の目的、必要な時間分解能、モデル構造と合わせます。
3.音声認識は、長さの違う音から文字列を作る
同じ「ありがとう」でも話す速さ、声、雑音で波形の長さが変わります。出力文字数とも一対一に対応しません。CTCは、各時点で文字や空白記号を予測し、繰り返しと空白をまとめることで、細かな位置ラベルなしに音声と文字列を対応付けます。 encoder-decoderやTransformerを使い、音声表現から直接文字列を生成する方法もあります。復号では音響上の可能性だけでなく、言葉として自然な並びも使います。自然な文章へ直し過ぎると、固有名詞や数字を誤って置き換えるため、原音と候補を残します。
4.誤り率は、置換・削除・挿入に分ける
音声認識では、正解の語を別の語にする置換、消す削除、余計な語を加える挿入を数え、正解語数で割るWERなどを使います。日本語では単語分割の方法で値が変わるため、文字誤り率を使う場合もあります。評価単位を明示します。 平均誤り率が同じでも、住所の一文字、薬の名前、金額の桁は影響が大きい誤りです。固有名詞・数値・否定語を別に測ります。騒音、話者、方言、マイク別の結果も出し、全体平均で苦手な人を隠しません。
5.音声合成は、内容と声の表現を段階的に作る
TTSでは文章を読み、読み方、アクセント、間、強さなどを決め、音響特徴または波形を生成します。ニューラル音声合成は自然さを高めましたが、漢字の読み、固有名詞、感情表現、長文の一貫性で誤ることがあります。 特定人物に似た声を少量データから作れる技術は、本人の同意、詐欺、なりすましの危険を持ちます。技術的に作れることと公開・利用してよいことを分けます。本人確認、生成表示、利用範囲、削除方法、悪用検知を設計します。
6.強化学習へ深層学習を組み合わせる理由
表形式のQ学習は、状態と行動の組ごとにQ値を保存します。ゲーム画面の全画素のように状態が非常に多い場合、表を作れません。DQNは画像をCNNへ入れ、各行動のQ値を出します。似た画面から似た価値を推定し、見ていない状態へ一般化できます。 ニューラルネットワークは近似誤差を持ち、学習目標自体も更新されるため不安定になります。高得点を出した一回だけでなく、複数乱数、未学習ステージ、失敗率で評価します。現実のロボットでは試行そのものが危険・高価なため、シミュレーションと安全制約が必要です。
7.経験再生は、過去の経験を混ぜて学ぶ
連続するゲーム画面は似ており、その順に学ぶとデータの偏りが強くなります。経験再生バッファへ遷移を保存し、ランダムな小集団を取り出せば、時間的な相関を弱め、同じ経験を複数回利用できます。 古い方策の経験も混ざるため、現在の行動分布と一致しない点を理解します。重要な経験を優先する方法もありますが、選び方の偏りを補正します。保存容量、個人情報、失敗データの保持も運用条件です。
8.ターゲットネットワークで、動く正解を少し安定させる
DQNの更新目標には、次状態で得られる最大Q値が含まれます。そのQ値を同じネットワークですぐ計算すると、予測を直すたびに目標も急に動きます。別のターゲットネットワークを一定間隔で更新し、短期間は目標を固定します。 これは正しい答えを外部から与える仕組みではなく、学習の振動を抑える工夫です。Q値を過大評価する問題に対してDouble DQNなどの改善があります。名称を増やす前に、予測側、目標側、更新時期を図で分けます。
9.報酬を満たすことと、望ましい行動は同じではない
エージェントは人の意図ではなく、与えた報酬を増やします。掃除ロボットへ拾ったごみの数だけを報酬にすると、ごみを分けて何度も拾うような近道を見つけるかもしれません。シミュレーションの隙を使う行動は、報酬ハッキングと呼ばれます。 安全制約、禁止行動、停止、監視、人の承認を報酬とは別に持ちます。訓練環境で高報酬でも、現実の未観測状態で安全とは限りません。分布外状態を検知し、確信がないとき人へ戻す方策を用意します。
10.DAY 28では、二種類の時系列処理を分ける
音声処理は、観測された時系列から内容や波形を推定する学習です。強化学習は、行動が次の観測へ影響する環境で、将来報酬を考えて行動を選びます。同じ「時系列」でも、データの作られ方と評価が違います。 音声認識は波形、特徴、文字列、誤り率を一列にし、DQNは状態、CNN、Q値、行動、報酬、次状態を円で描きます。入力と出力だけでなく、環境へ作用するかを確認すれば、音声モデルと行動学習を混同せず説明できます。
実例で理解する
具体例で考える
高齢者施設で、居室からの「水をください」「転びました」という呼びかけを検知し、職員へ通知する支援を考えます。目的は会話を完全自動化することではなく、緊急度の高い呼びかけを早く人へ届けることです。常時録音によるプライバシーと、聞き逃しの危険を最初に整理します。 端末上で短い音声区間を検出し、必要な部分だけ音声認識へ送る構成を検討します。録音のサンプリング周波数、マイク距離、テレビ音、複数話者を記録します。本人と職員へ利用目的、保存期間、停止方法を説明し、同意と施設規程を確認します。 訓練データは通常会話、咳、テレビ、緊急表現を含めます。若い話者だけでなく、高齢者の小声、発音の違い、方言を対象者の許可を得て集めます。同じ人の録音が訓練とテストへまたがらないよう話者単位で分割します。 音声をメルスペクトログラムへ変換し、encoderで特徴を作り、CTCまたは系列decoderで文字列を出します。認識後に緊急分類を行う方法と、音響から直接分類する方法を比較します。文字列方式は確認しやすい一方、認識誤りが後段へ伝わります。 WERだけでなく、「転びました」を「取りました」とする重大な置換、否定語の削除、部屋番号の誤りを別に測ります。緊急発話の再現率を重視しつつ、誤通知で職員が疲弊しない頻度も管理します。低い確率を自動で無視せず、ナースコールなど既存手段を残します。 応答音声を合成する場合は「職員へ通知しました」のように、実際の通知成功を確認してから読み上げます。自然な声でも通知が失敗していれば安心させてはいけません。故人や特定職員に似せた声は使わず、合成音声であることを説明します。 巡回ロボットへDQNを使う案が出ても、現場で無制限に探索させません。廊下のシミュレーションで状態を画像、行動を前後左右、報酬を安全な到着として学びます。衝突、立入禁止、利用者への接近は報酬とは別の強制制約にします。 経験再生とターゲットネットワークを使い、複数乱数で評価します。見たことのない荷物、車椅子、照明消灯で停止できるかを試します。高得点でも一度の衝突が重大なら採用しません。音声認識も移動も、AIが確信を持てない場合に人へ戻る経路を設けて初めて支援システムになります。 モデル更新前後では、同じ録音と同じシミュレーション初期状態を使い、改善と悪化を比較します。認識モデルの変更で通知件数が増えた場合、緊急発話の発見が増えたのか、テレビ音の誤通知が増えたのかを分けます。強化学習側では平均報酬だけでなく、最悪時の停止距離と衝突寸前の回数を残します。 職員が通知を無視した理由や、利用者が聞き返した場面も記録します。AIの指標だけでなく、現場の行動へどうつながったかを見直し、危険な例が一件でも見つかった場合は対象範囲を狭めます。音声と行動の二つのモデルを、一つの総合点だけで合格にしません。導入後も月ごとに条件別の失敗を確認し、録音環境や施設運用が変われば再試験します。連絡不能時の代替手段も訓練で確かめます。夜間と停電時にも人へ届くか確認します。
手を動かして理解する
- 提供ケース「同じ情報を文章・画像・音声で扱う架空例を比較する」または自分が説明できる身近な事例を一つ選び、DAY28「音声処理と深層強化学習」の判断観点で整理してください。提出物には、①対象と目的、②本文の用語を使った判断、③判断の根拠、④未確認事項または限界を記します。最後に学習目標「音声の標本化・スペクトログラム・音声認識・音声合成の流れと、DQNを例に深層学習と強化学習を組み合わせる理由を説明できる。」を満たす説明になっているか自己確認してください。紙または端末の標準メモだけで実施でき、外部サービスへの登録や有料契約は不要です。 実在人物の個人情報、機密情報、未公開資料は使わず、架空または匿名化した情報だけを使ってください。
04|今日の理解度を確認する
今日の理解度を確認する
スペクトログラムが表すものはどれですか。
正解は「時間ごとの周波数成分の強さ」です。講義で扱った仕組みと判断条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
時間ごとの周波数成分の強さ: 正解は「時間ごとの周波数成分の強さ」です。講義で扱った仕組みと判断条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
各単語の正解ラベルだけ: 音声の時間周波数表現で、単語ラベルそのものではありません。
将来報酬の合計だけ: これは強化学習の価値に近い説明です。
画像内の物体枠だけ: 物体検出の出力ではありません。
CTCを音声認識へ使う理由として適切なものはどれですか。
正解は「音声の各時点と文字の細かな対応ラベルがなくても系列を対応付けられる」です。講義で扱った仕組みと判断条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
音声の各時点と文字の細かな対応ラベルがなくても系列を対応付けられる: 正解は「音声の各時点と文字の細かな対応ラベルがなくても系列を対応付けられる」です。講義で扱った仕組みと判断条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
音声の長さと文字数を必ず同じにする: 空白と繰り返しをまとめ、異なる長さを扱います。
認識誤りを必ず0にする: 学習方式は完全精度を保証しません。
話者の同意を不要にする: データ利用の同意や権利は別に必要です。
音声認識のWERで数える代表的な誤りはどれですか。
正解は「置換・削除・挿入」です。講義で扱った仕組みと判断条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
置換・削除・挿入: 正解は「置換・削除・挿入」です。講義で扱った仕組みと判断条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
明度・彩度・色相: これは画像の色に関する要素です。
勾配・切片・決定係数だけ: 回帰評価の用語が混ざっています。
位置・幅・高さだけ: 物体枠の座標に関する要素です。
DQNで経験再生を使う主な理由はどれですか。
正解は「連続経験の相関を弱め、過去の遷移を再利用する」です。講義で扱った仕組みと判断条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
連続経験の相関を弱め、過去の遷移を再利用する: 正解は「連続経験の相関を弱め、過去の遷移を再利用する」です。講義で扱った仕組みと判断条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
未来の正解行動を自動で取得する: 未来の正解が保存されているわけではありません。
報酬設計を不要にする: 何を望ましいとするかは依然必要です。
ニューラルネットワークを削除する: DQNはニューラルネットワークでQ値を近似します。
DQNのターゲットネットワークの役割として適切なものはどれですか。
正解は「学習目標を短期間固定し、急に動き続けるのを抑える」です。講義で扱った仕組みと判断条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
学習目標を短期間固定し、急に動き続けるのを抑える: 正解は「学習目標を短期間固定し、急に動き続けるのを抑える」です。講義で扱った仕組みと判断条件に一致します。ほかの選択肢が当てはまらない理由まで確認しましょう。
現実の安全を必ず保証する: 学習安定化であり、安全保証そのものではありません。
経験再生をすべて削除する: 経験再生と組み合わせて使えます。
行動を一種類だけにする: 利用可能な行動数を一つへ固定しません。
04|今日の理解度を確認する
今日の理解度を確認する
今日の整理をする
この3点を持ち帰る
- ✓ 音声は標本化され、波形や時間周波数表現から文字・音声へ変換される
- ✓ 音声認識は平均誤り率だけでなく、数値・固有名詞・否定・話者条件を評価する
- ✓ DQNは高次元状態のQ値を近似し、経験再生とターゲットネットワークで学習を安定させる
講義本文 4,049字
PRIMARY SOURCES