極小値探索概論

ほとんどのメソッドの本質は,次のステップを決定するために使われる下の式

で採用される局所的な二次モデルにある.MathematicaFindMinimum関数では本質的に異なる5種類のモデルが選べ,これらはメソッドオプションで制御される.FindMaximumFindFitでも同様にこれらのメソッドが使われている.

"Newton"記号的な導関数が計算できないときには,厳密なヘッセ行列あるいは有限差分近似を用いる
"QuasiNewton"過去のステップによる更新で構築されたヘッセ行列に準ニュートンBFGS近似を用いる
"LevenbergMarquardt"最小2乗問題についてのガウス・ニュートン法である.ヘッセ行列は で近似される.ここで は剰余関数のヤコビ行列である
"ConjugateGradient"線形系を解くための共役勾配法の非線形版である.モデルのヘッセ行列は明示的には形成されない
"PrincipalAxis"これは勾配にさえ導関数を使わず,過去のステップからの値を保つことで作用する.各変数にそれぞれ2つの初期条件が必要である

FindMinimumで選択可能な基本的メソッド

Method->Automaticとすると,問題が構造的に平方和になっていない限り,Mathematica「準ニュートン」法を使う.平方和になっている場合は「ガウス・ニュートン」法のLevenberg-Marquardt法が使われる.各変数に2つの初期条件が与えられると「主軸」法が用いられる.

New to Mathematica? Find your learning path »
Have a question? Ask support »