線形回帰層 (G検定)

2026年8月12日2026年9月2日

G検定

1. 定義と概要

線形回帰層とは、ディープラーニングにおいて回帰問題に対応する出力層（ネットワークの最終層で、タスクに応じた形式で結果を出す層）のことです。回帰問題とは、連続値（家賃や気温のように切れ目なく続く数値データ）を予測するタスクを指します。

積層オートエンコーダや深層信念ネットワーク（DBN）のように、隠れ層を1層ずつ積み上げる事前学習を行うモデルがあります。事前学習は、教師なし学習（正解データを与えず、データ自体の構造から特徴を学習させる方法）によって、隠れ層を1層ずつ順に学習させる工程です。深層信念ネットワーク（DBN）は、制限付きボルツマンマシン（可視層と隠れ層の2層からなり、データの特徴を教師なしで学習する確率的なネットワーク）を層ごとに積み重ねた構造です。

こうしたモデルでは、事前学習だけでは特徴の抽出はできても、具体的な数値の予測まではできません。そこで、事前学習を終えたネットワークの終端にタスクに応じた出力層を追加し、ネットワーク全体の重みを教師あり学習（入力と正解のペアをもとにモデルを調整する学習方法）で調整し直します。この再調整の工程を、ファインチューニングと呼びます。

この追加する出力層のうち、回帰問題に対応する出力層が線形回帰層で、分類問題に対応する出力層がロジスティック回帰層（分類問題向けの出力層で、確率に変換したうえでクラスを判定する層）です。

通常のディープニューラルネットワークは、全層をまとめて誤差逆伝播（出力の誤差を出力側から入力側へ順に伝えて、各層の重みを調整する学習の仕組み）で学習します。しかし層が深くなるほど、入力側の層まで勾配が伝わりにくくなる勾配消失問題（ネットワークが深くなるほど誤差逆伝播で伝わる勾配が小さくなり、入力側の層の学習が進みにくくなる現象）が生じやすくなります。

この課題への対応として登場したのが、隠れ層を1層ずつ教師なし学習で順番に積み上げていく事前学習という手法で、積層オートエンコーダや深層信念ネットワークに用いられました。事前学習で得られた特徴表現をもとに実際のタスクの答えを出すため、終端に線形回帰層やロジスティック回帰層を追加してネットワーク全体を再調整するファインチューニングが行われるという流れです。

2. 試験対策ポイント

線形回帰層とロジスティック回帰層の対応関係が、まず押さえておきたい柱になります。線形回帰層は回帰問題（連続値の予測）向けの出力層であるのに対し、ロジスティック回帰層は分類問題向けの出力層です。

ロジスティック回帰層は、2値分類ならシグモイド関数（入力された値を0から1の間になめらかなS字カーブで変換する関数）を用いて確率に変換します。3クラス以上の多クラス分類では、ソフトマックス関数（複数の選択肢それぞれの確率を計算し、合計がちょうど1になるよう変換する関数）を使います。

積層オートエンコーダや深層信念ネットワークは、事前学習とファインチューニングという2段階の構成をとるモデルです。事前学習は重みの初期値を決める工程、ファインチューニングは出力層を追加してネットワーク全体を教師あり学習で調整し直す工程です。線形回帰層・ロジスティック回帰層は、このファインチューニング段階で追加される出力層という位置づけになります。

深層信念ネットワークは制限付きボルツマンマシンを層ごとに積み重ねた構造であるのに対し、積層オートエンコーダはオートエンコーダを層ごとに積み重ねた構造という違いがあります。いずれも事前学習のあとにタスク別の出力層を追加する点は共通しており、混同しやすい組み合わせです。また、事前学習という発想の背景には勾配消失問題があり、この課題との関係も本節の要点にあたります。

3. 関連概念との比較・相違点

ロジスティック回帰層との最大の違いは、対応するタスクと出力の作り方にあります。2つの層を並べると、次のように整理できます。

観点	線形回帰層	ロジスティック回帰層
担当するタスク	連続値を予測する回帰問題	確率をもとにクラスを判定する分類問題
出力の作り方	線形結合（入力と重みを掛け合わせて足し合わせた値）をそのまま出力する	シグモイド関数やソフトマックス関数を通して0から1の確率に変換する

答えの形が数値か確率かで、役割が分かれる関係です。ロジスティック回帰層そのものの仕組みは、別のテーマとして扱う位置づけです。

線形回帰分析との違いは、指すものの範囲にあります。線形回帰分析は、説明変数（予測に使う入力側のデータ）から目的変数（予測したい対象のデータ）を予測する統計的な回帰分析の手法そのものを指します。一方、線形回帰層はその考え方をディープラーニングのネットワークの出力層として組み込んだ構成要素です。単体の分析手法か、ネットワークの一部品かという違いにあたります。

4. ビジネス・実務での活用シナリオ

製造業の設備保全では、設備センサーの時系列データから積層オートエンコーダで特徴を事前学習し、終端に線形回帰層を追加してファインチューニングするという活用例です。こうして構築したモデルは、部品の残り寿命という連続値を予測する予知保全に用いられ、故障の予兆をとらえて計画的な部品交換につなげる効果が期待できます。

不動産・金融の分野でも、物件情報や財務指標といった大量データから特徴表現を事前学習したうえで、線形回帰層を出力層としてファインチューニングし、価格や指標といった連続値を予測するモデルへ仕上げるという流れです。統計モデルだけでは捉えにくい非線形な関係性を事前学習で吸収できる点が、精度向上につながる意義です。

医療の現場では、検査データから特徴を事前学習したモデルに対し、疾患の有無を判定する分類タスクならロジスティック回帰層、重症度スコアのような数値を予測するタスクなら線形回帰層と、目的に応じて出力層を使い分けます。同じ事前学習済みモデルを土台にしながら出力層だけを差し替えられる柔軟さが、開発効率を高める意義を持ちます。

5. 要点まとめ

線形回帰層は回帰問題向けの出力層で、積層オートエンコーダや深層信念ネットワークの事前学習のあと、ファインチューニングの段階で追加されます。
分類問題向けにはロジスティック回帰層が対になり、2値分類にはシグモイド関数、多クラス分類にはソフトマックス関数を使って確率に変換します。
隠れ層を1層ずつ教師なし学習で積み上げる事前学習と、出力層を追加して全体を教師あり学習で調整し直すファインチューニングという2段階の流れの中に位置づけられます。