1. 定義と概要
アップサンプリングとは、畳み込み層やプーリング層を通過して縮小された特徴マップの縦横サイズを、より大きな解像度へ引き上げる処理の総称です。代表的な使われ方は、個々の画素がどのカテゴリに属するかを判定するセマンティックセグメンテーションです。CNN(畳み込み層を中心に構成される画像認識向けのニューラルネットワーク)の後段において、特徴マップを入力画像と同じ解像度まで拡大し直す処理として利用されます。
CNNでは、畳み込み層とプーリング層を重ねるほど、特徴マップの解像度が段階的に縮小されていきます。画像分類のように1枚の画像に1つのラベルを出す用途では解像度が縮小されたままでも構いませんが、画素単位で判定を出すセマンティックセグメンテーションでは、出力を入力と同じ解像度へ戻す必要があります。
この解像度の復元を担うのがアップサンプリングであり、特徴を抽出して縮小する前半部分はエンコーダ、解像度を戻す後半部分はデコーダと呼ばれます。両者を組み合わせた構成はエンコーダ・デコーダ(特徴を抽出して縮小する前半部分と、元の解像度に戻す後半部分からなる構造)と呼ばれます。この構成は、FCN(全結合層を持たずすべて畳み込み層で構成したセグメンテーションの代表的なモデル)やSegNet(縮小時に記録した位置情報を使って解像度を戻すモデルの1つ)などで採用されています。
2. 試験対策ポイント
アップサンプリングの代表的な手法は4つあり、学習パラメータ(学習によって値が更新される重みなどの数値)を持つかどうかで大きく2つに分かれます。まずは4手法を並べて、拡大のしかたと学習パラメータの有無を対応づけて整理しておきたいところです。
| 手法 | 学習パラメータ | 特徴 |
|---|---|---|
| 最近傍補間(拡大後の各画素に、元の画像で最も近い位置の画素の値をそのままコピーする手法) | 持たない | 計算が単純で高速な一方、輪郭がブロック状のギザギザになりやすい |
| バイリニア補間(周囲の複数画素の値を距離に応じて加重平均する手法) | 持たない | 最近傍補間よりも滑らかな結果になる |
| 転置畳み込み(Transposed Convolution。重みを学習しながら特徴マップを拡大する処理) | 持つ | 逆畳み込みとも呼ばれるが、畳み込みの数学的な逆演算ではない |
| アンプーリング(縮小時に記録しておいた位置に値を戻して拡大する処理) | 持たない | 対応するダウンサンプリングと対になる |
最近傍補間とバイリニア補間は、いずれも学習パラメータを持たない固定的な計算処理です。同じ補間でも、最も近い画素の値をそのまま複製するか、周囲の画素から中間の値を計算するかで、拡大後の輪郭の滑らかさが変わってきます。
学習可能な手法である転置畳み込みは、逆畳み込みと呼ばれることもありますが、畳み込み演算を数学的に正確に逆算する処理ではありません。畳み込み前の値を完全に復元できる保証はなく、出力に格子状のノイズであるチェッカーボードアーティファクト(拡大処理の結果に現れる格子状のノイズ模様)が生じやすいという弱点も、あわせて理解しておきたい点です。
アンプーリングを採用するモデルの代表がSegNet(アンプーリングという手法を採用するセグメンテーション向けモデルの1つ)です。プーリングの際にどの位置の値を採用したかという位置情報をあらかじめ記録しておき、アップサンプリングの段階でその位置へ値を戻す仕組みで、対応するダウンサンプリングの処理内容と対で理解する関係にあります。最近傍補間・バイリニア補間・転置畳み込み・アンプーリングという4手法の違いは、セットで整理しておきたい知識です。
3. 関連概念との比較・相違点
ダウンサンプリングとの最大の違いは、処理の方向にあります。ダウンサンプリングは計算量を抑えながら重要な特徴を集約し、解像度を縮める方向に働くのに対し、アップサンプリングは縮小された特徴マップを元の解像度へ拡大し、画素単位の出力を復元する方向に働きます。両者はエンコーダ・デコーダの前半と後半として対になる関係にあり、片方だけを理解しても全体像はつかめません。
転置畳み込みとの違いは、包含関係にあります。アップサンプリングは解像度を拡大する処理全般を指す総称であり、転置畳み込みはその実現手段の1つで、フィルタの重みを学習しながら拡大する点に特徴があります。これに対し最近傍補間やバイリニア補間は、学習パラメータを持たない別の実現手段です。
アップサンプリングという総称と、転置畳み込みという個別の実現手段の違いは、取り違えやすい点です。同じ拡大処理という括りの中でも、学習の有無という軸で手法が分かれる点は、整理しておきたい論点です。
4. ビジネス・実務での活用シナリオ
医療画像診断の分野では、CT・MRI画像から病変領域を画素単位で特定するセグメンテーションモデルの出力層でアップサンプリングが使われます。縮小された特徴マップを入力画像と同じ解像度まで拡大し直すことで、医師が診断に使える精細な病変の輪郭を得られます。
自動運転では、走行可能な路面や歩行者・車両の領域を画素単位で認識するセマンティックセグメンテーションの出力段で、アップサンプリングにより解像度を戻します。周囲の物体の輪郭を正確に把握したうえで走行判断につなげる仕組みであり、解像度の粗い出力のままでは障害物との距離を見誤りかねません。
衛星画像やリモートセンシング(人工衛星などを使って地表の情報を離れた場所から観測する技術)の分野でも、農地や建物の領域を画素単位で分類するモデルにアップサンプリングが使われます。縮小された特徴マップを元の解像度へ戻すことで、地図データとして扱える精度の分類結果が得られます。
5. 要点まとめ
- アップサンプリングは畳み込み・プーリングで縮小された特徴マップの解像度を元のサイズへ引き上げる処理の総称で、セマンティックセグメンテーションの出力層で使われます。
- 代表的な手法には学習パラメータを持たない最近傍補間・バイリニア補間と、学習パラメータを持つ転置畳み込み、プーリング時の位置情報を使うアンプーリングがあります。
- ダウンサンプリング(プーリング)とアップサンプリングは処理の方向が逆で、エンコーダ・デコーダ構造の前半・後半として対になる関係にあります。
6. 確認問題
問1アップサンプリングは、畳み込み層やプーリング層で縮小された特徴マップの解像度を元のサイズへ引き上げる処理の総称であり、セマンティックセグメンテーションの出力層で使われる。
解答・解説をみる
○ 正しい
セマンティックセグメンテーションは画素単位で判定を出すため、縮小された特徴マップを入力と同じ解像度へ戻すアップサンプリングが不可欠です。最近傍補間・バイリニア補間・転置畳み込み・アンプーリングは、この処理を実現する代表的な手法にあたります。
問2アンプーリングは、プーリング処理を行った際にどの位置の値を採用したかという位置情報を記録しておき、アップサンプリング時にその位置へ値を戻す手法である。
解答・解説をみる
○ 正しい
アンプーリングは、SegNetモデルの構成で採用される手法で、プーリング時の位置インデックスを使って値を元の位置に展開します。学習パラメータを持たない点も特徴です。
問3転置畳み込みは、畳み込み演算を数学的に正確に逆算する処理であり、常に畳み込み前の値を完全に復元できる。
解答・解説をみる
× 誤り
転置畳み込みは逆畳み込みと呼ばれることもありますが、畳み込みの数学的な逆演算ではなく、学習可能なフィルタで特徴マップを拡大する処理です。正しくは、畳み込み前の値を完全に復元することは保証されておらず、出力に格子状のノイズが生じることもある処理です。

