非线性方程组求解介绍

寻找 局部极小值 和求解非线性方程组之间有一些密切的联系. 给定一个有 个未知变量和 个方程的方程组，寻求 解 就等于极小化平方和 ，而此时在最小值处的残差为零，因此这和 高斯-牛顿 方法有很密切的联系. 事实上，用于局部极小化的高斯-牛顿步骤和用于非线性方程组的 牛顿法 步骤是完全相同的. 此外，对于一个平滑函数，关于局部极小化的 牛顿法 和关于非线性方程组 的牛顿法是一样的. 毫不奇怪，这些算法的许多方面是相似的；然而，它们也有许多重要的差别.

与极小化算法具有的另一个共同点是这里我们也需要某种形式的 步控制. 通常情况下，步控制是基于和极小化相同的方法的，只是它是应用于一个优值函数的，而经常这个优值函数是光滑的 2-范数平方，即 .

"Newton"	使用精确雅可比或者是有限差分近似在一个局部线性模型基础上求解步骤
"Secant"	通过利用过去的 个步骤建立一个雅可比的割线近似工作，而不需要导数； 需要在每个维度上都有两个初始条件
"Brent"	这是在一个保持对根的包围的维度方向上的方法; 需要两个初始条件来包围一个根

FindRoot 的基本方法选项.