1. 定義と概要
停留点とは、関数の勾配がゼロになる点の総称です。1変数関数ではグラフの接線(曲線上のある1点だけに触れる直線)の傾きがゼロになる点(接線が水平になる点)、多変数関数ではすべての偏微分(複数ある変数のうち一つだけに注目して傾きを求める計算)の値がゼロになる点を指します。
たとえばy=x²という関数ではx=0が停留点にあたり、同時に極小点(周辺の範囲の中で関数の値が最も小さくなる点)でもあります。一方でy=x³のx=0も停留点ではあるものの、山にも谷にもならず傾きだけがゼロになる、値の大小が入れ替わる境目にすぎません。
「傾きがゼロになる点は山の頂上か谷の底のどちらか」というイメージを持たれやすいものの、停留点は必ずしも山や谷、つまり極値になるとは限らないという点が、本記事で整理したい中心的なテーマです。1変数では傾きがゼロの点が、極大点(周辺の範囲の中で関数の値が最も大きくなる点)や極小点になるほか、山谷にならない点にもなり得ます。
変数が2つ以上に増えると、各方向の傾きを並べたベクトルがすべてゼロになる点として定義が広がり、極大点・極小点に加えて鞍点という3つ目の分類が現れます。鞍点という呼び名は、馬の鞍のような形をしていることに由来します。たとえば2変数関数z=x²-y²では、原点がこの鞍点にあたる停留点です。
機械学習の文脈では、学習によって少しずつ調整される数値をパラメータ(モデル内部の重みなどの調整値)と呼びます。勾配降下法(勾配を頼りに、値が小さくなる方向へパラメータを少しずつ更新していく最適化の手法)はこのパラメータを勾配に基づいて動かすため、勾配がゼロになる停留点でアルゴリズムの歩みが止まるという関係が生まれます。
2. 試験対策ポイント
試験で重要な論点となるのは、勾配降下法が停留点で更新を止めてしまうという関係です。勾配降下法は勾配がゼロになった時点でパラメータの更新を止めるため、その地点が本当に求めたい解なのか、それとも鞍点や極大点にすぎないのかを見分ける必要がある、という関係にあります。
停留点の種類を見分ける考え方も、あわせて押さえておきたいテーマです。判別の手がかりになるのは、1変数関数なら二階微分(傾きがどのように変化しているかを表す値)の符号、多変数関数ならヘッセ行列(二階の傾きの変化の仕方を並べた表のようなもの)の符号のパターンです。対応関係を整理すると、次のようになります。
| 関数の種類 | 判別に使うもの | 判定の目安 |
|---|---|---|
| 1変数関数 | 二階微分の符号 | 正なら極小、負なら極大、ゼロなら判定できない |
| 多変数関数 | ヘッセ行列の符号のパターン | パターンから極大点・極小点・鞍点を見分ける |
行列の計算そのものに踏み込まなくても、符号のパターンで極大点・極小点・鞍点を見分けるという発想が、試験の論点になります。
停留点は極大点・極小点・鞍点という3種類に分類される上位概念であり、それぞれの詳細な性質や機械学習での意味合いは、鞍点・局所最適解・大域最適解を扱う別記事に譲ります。
あわせて整理しておきたい対応関係として、極小点は局所最適解(限られた範囲の中では最も良いとされる解)に対応し、その中で目的関数全体の最小値をとるものが大域最適解(探索した範囲全体の中で最も良い解)にあたります。極小点と局所最適解、大域最適解の対応関係を整理しておくと、この分野の理解全体の見通しがよくなります。
3. 関連概念との比較・相違点
鞍点との最大の違いは、停留点が極大点・極小点・鞍点を包含する上位概念であるのに対し、鞍点はそのうちの1分類にすぎないという点です。ある方向から見ると極大、別の方向から見ると極小に見える鞍点自体の性質や、深層学習での扱いについては別記事に譲ります。
局所最適解・大域最適解との関係も、同じ枠組みで整理できます。停留点のうち極小点にあたるものが局所最適解に相当し、その中で目的関数全体の最小値をとるものが大域最適解にあたります。両者の定義の詳細や探索アルゴリズムとの関係は、既存の個別記事で扱っています。
プラトー(勾配がほぼゼロに近い状態が広い範囲で続く、学習が足踏みする領域)との最大の違いは、「点」と「領域」という捉え方の違いにあります。停留点は勾配がちょうどゼロになる一点を指すのに対し、プラトーは勾配がほぼゼロの状態が広い範囲にわたって続く領域を指します。停留点とプラトーは同じ意味の言葉ではなく、点か領域かという別の軸で区別される概念です。詳細は既存記事に譲ります。
4. ビジネス・実務での活用シナリオ
AIモデル開発の現場では、深層学習の学習曲線が横ばいになり続けた際、鞍点(停留点の一種)の周辺で勾配がほぼゼロの状態が広い範囲にわたって続くプラトーに入り込んだと判断されます。
具体的には、モーメンタム(それまでの更新の勢いを保つことで、停留点や谷間で更新が止まりにくくする工夫)を持つ最適化アルゴリズムを使う対応がとられます。あわせて、学習率(パラメータ更新1回あたりの歩幅を決める値)を調整することで、停滞した状態から抜け出す工夫もとられます。勾配の大きさだけを手がかりに停滞を見抜けるという関係が、実務でのチューニングを支えています。
製造業の工程最適化では、複数の設定パラメータを持つ製造条件を数理的に最適化する場面で、探索が局所的な停留点に収束すると、真に良い条件である大域最適解を見逃す事態が起こります。そこで、複数の初期条件から並行して探索を始め、それぞれの探索が行き着いた停留点を比較したうえで最も良い条件を選ぶという工夫がとられます。単一の初期値だけに頼らない探索の設計が、製品品質の改善幅を左右します。
物流・配送計画の分野でも、停留点は無視できない存在です。配送ルートやリソース配分を数理的に最適化する目的関数は複雑な形状を持つことが多く、勾配だけを頼りにする手法では途中の停留点で探索が止まってしまいます。そのため、勾配に頼らない別の探索手法を併用し、大域的な改善を目指す対応がとられます。停留点への収束が、必ずしも最良の配送計画を意味しない点は、実務担当者の間でも共有されている前提です。
5. 要点まとめ
- 停留点とは勾配(微分)がゼロになる点の総称であり、極大点・極小点・鞍点のいずれかに分類されます。
- 勾配降下法は停留点で更新が止まるため、そこが本当に求める解(局所/大域最適解)か、それとも鞍点や極大点かを見分ける関係にあります。
- 種類の判別は1変数では二階微分、多変数ではヘッセ行列の符号パターンで行われ、鞍点・局所/大域最適解・プラトーの詳細は個別記事で扱います。
6. 確認問題
問1停留点とは、関数の勾配がゼロになる点の総称であり、極大点・極小点・鞍点のいずれかに分類される。
解答・解説をみる
○ 正しい
停留点は勾配がゼロになる点全体を指す上位概念で、その内訳が極大点・極小点・鞍点の3種になります。この包含関係は取り違えやすい点でもあります。
問2停留点は必ず関数の極大値または極小値になり、鞍点になることはない。
解答・解説をみる
× 誤り
鞍点も停留点の一種であり、ある方向から見ると極大、別の方向から見ると極小に見える点として存在します。正しくは、停留点は極大点・極小点・鞍点のいずれかに分類され、鞍点になるケースも含まれます。停留点イコール極値と決めつける誤解の典型です。
問3停留点の種類は、1変数関数では二階微分の符号、多変数関数ではヘッセ行列の符号のパターンから判別できる。
解答・解説をみる
○ 正しい
1変数関数では二階微分の符号(正なら極小、負なら極大)、多変数関数ではヘッセ行列の符号のパターンから、極大点・極小点・鞍点を判別します。

