非線形分類 (G検定)

1. 定義と概要

非線形分類とは、特徴空間（データの特徴を軸にとった座標空間）上でクラスとクラスの境目にあたる決定境界が、直線や平面では表現できず曲線や曲面になる分類問題、およびそれを解くための手法の総称です。

代表例はXOR問題（排他的論理和。入力の2値が異なるときだけ1を返す論理演算）で、2つの入力の組み合わせを平面上にプロットすると、1本の直線ではどう引いても正しく2つのクラスに分けられません。分けるには、境界そのものを曲げる必要があるというわけです。

非線形分類が重要なテーマとして扱われる背景には、ニューラルネットワーク研究の歴史があります。関わりの深い出来事を年代順に並べると、次のようになります。

年	人物	出来事
1958年	ローゼンブラット	単純パーセプトロンを考案
1969年	ミンスキーとパパート	著書『パーセプトロンズ』でXORを例に単純パーセプトロンの限界を指摘
1986年	ラメルハートら	誤差逆伝播法を確立

ローゼンブラットが考案した単純パーセプトロン（入力を重み付きで足し合わせて1つの出力を返す、最も基本的なニューラルネットワークの計算単位）は、直線1本で分けられる線形分離可能な問題しか解けませんでした。ミンスキーとパパートによる限界の指摘は、人工知能研究への期待と投資が高まった第1次AIブーム（AI研究が最初に注目を集めた時期）の終焉の一因になっています。

その後、誤差逆伝播法（出力の誤差を逆向きに伝えてネットワークの重みを調整する学習アルゴリズム）が確立されたことで、多層パーセプトロン（入力層と出力層の間に隠れ層を持つニューラルネットワーク）の学習は現実的になりました。この技術的な進展によって、非線形分類が実用の範囲に入りました。

2. 試験対策ポイント

重要な論点のひとつが、XOR問題が単純パーセプトロンでは解けない代表例として扱われる点です。1969年のミンスキーとパパートによる指摘と、1986年の誤差逆伝播法の確立による多層パーセプトロンでの解決という歴史的な流れは、年号と人物名、そして何が限界で何を解決したのかという結びつきとあわせて押さえておきたいポイントです。

非線形分類を実現する方法は大きく2つに整理されます。ひとつは多層パーセプトロンの隠れ層と活性化関数（各ニューロンの出力を変換する関数。シグモイド関数やReLU関数など）を組み合わせ、非線形な変換を段階的に重ねていく方法です。

もうひとつは、サポートベクターマシン（SVM。マージンと呼ばれる余白を最大化する境界を見つける分類手法）のカーネル法（カーネルトリック。データを高次元の空間へ写像し、元の空間では引けなかった境界を引けるようにする手法）による方法です。この2つのアプローチの対比は、非線形分類の実現方法を理解するうえでの中心的な論点です。

活性化関数に線形関数を用いると、隠れ層を何層重ねても全体としては1つの線形変換にしかならず、非線形分類はできません。非線形の活性化関数を用いる必要があるという関係にあります。

あわせて、線形分類で対応できる手法（単純パーセプトロン、線形回帰による境界、線形カーネルのSVM）と、非線形分類が必要になる場面の区別も重要な論点です。非線形分類が必要になる場面には、多層パーセプトロン、非線形カーネルのSVM、決定木（データをYes・Noの条件分岐で繰り返し分けていく分類手法）、k近傍法（近くにあるデータの多数決でクラスを決める分類手法）などが含まれます。

3. 関連概念との比較・相違点

線形分類との最大の違いは、決定境界の形状と、XORのような線形分離不可能な問題を解けるかどうかにあります。両者の対比を整理すると、次のようになります。

観点	線形分類	非線形分類
決定境界の形	直線や平面	曲線や曲面
対象となる問題	直線や平面1本で2つのクラスに分けられる問題	XORのように直線1本では正しく分けられない問題
該当する手法	単純パーセプトロン、線形回帰による境界、線形カーネルのSVM	多層パーセプトロン、非線形カーネルのSVM、決定木、k近傍法

この境界の形状の違いが、線形分類と非線形分類を区別する分かれ目です。手法の名前を丸暗記するよりも、その手法が引ける境界の形から考えると見分けがつきやすくなります。

非線形分類を実現する2つの代表的なアプローチの間にも位置づけの違いがあります。ニューラルネットワークは隠れ層を重ねることで非線形な変換を段階的に作り出すのに対し、SVMのカーネル法はデータを高次元空間へ写像することで、元の空間では線形分離できなかったデータを線形分離可能な状態に変える方法です。

同じ非線形分類という目的に対して、変換を重ねるか、空間そのものを変えるかという発想の違いがあります。目的が同じでも到達の道筋が異なる点は、両者を見分ける手がかりになります。

4. ビジネス・実務での活用シナリオ

画像認識の分野では、画像に写る対象を分類するタスクにおいて、ピクセルの特徴の組み合わせが単純な直線では区切れない複雑なパターンになります。そのため隠れ層を重ねた非線形分類が用いられ、猫と犬のような似た形状を区別する判定を可能にしています。単純な線形の境界だけでは、こうした微妙な特徴の違いを捉えきれません。

金融の不正検知や与信審査の場面では、正常な取引と不正な取引、あるいは返済能力の高低が複数の指標の絡み合った非線形なパターンとして現れることが少なくありません。SVMのカーネル法や決定木による非線形分類を使うと、単純な線形モデルでは見逃してしまう不正取引の兆候や返済能力のパターンを捉えられるようになります。

医療診断支援の分野では、複数の検査値の組み合わせパターンから疾患の有無を判定します。症状と検査値の関係は直線的でないことが多く、決定木やニューラルネットワークによる非線形分類が判定モデルに組み込まれています。複数の指標を同時に読み解く必要がある場面で、非線形分類は疾患の兆候をより早い段階で捉える判断材料になります。

5. 要点まとめ

• 非線形分類は決定境界が曲線・曲面になる分類問題および手法で、直線1本では分けられないXORが代表例です。
• 実現方法は大きく2つあり、多層パーセプトロンの隠れ層と活性化関数による非線形変換の重ね合わせと、SVMのカーネル法によるデータの高次元空間への写像があります。
• 1969年のミンスキーとパパートによる指摘で単純パーセプトロンの限界が明らかになり、1986年の誤差逆伝播法の確立で多層パーセプトロンによる非線形分類が可能になったという歴史的な経緯があります。

6. 確認問題