WorkingPrecision

WorkingPrecision
さまざまな数値的演算に与えるオプションで,内部計算で維持する精度の桁数を指定する.

詳細詳細

  • WorkingPrecisionは,NIntegrateFindRootのような関数に与えるオプションである.
  • WorkingPrecision->n と設定することで,内部計算が最大 n 桁の精度で行われるようになる.
  • WorkingPrecision->MachinePrecisionと設定することで,すべての内部計算が機械数で行われるようになる.
  • 内部計算が n 桁の精度で行われる場合でも,最終的な結果の精度はこれより劣ることがある.
1988年に導入
(1.0)
| 2003年に修正
(5.0)