Mathematica 9 is now available
THIS IS DOCUMENTATION FOR AN OBSOLETE PRODUCT.
SEE THE DOCUMENTATION CENTER FOR THE LATEST INFORMATION.
Mathematica > 数学とアルゴリズム > 数値的評価と精度 > 精度と確度の制御 >

WorkingPrecision

WorkingPrecision
さまざまな数値的演算に与えるオプションで,内部計算で維持する精度の桁数を指定する.
  • WorkingPrecision->n と設定することで,内部計算が最大 n 桁の精度で行われるようになる.
  • 内部計算が n 桁の精度で行われる場合でも,最終的な結果の精度はこれより劣ることがある.
バージョン 1 の新機能 | バージョン 5 での修正機能
Ask a question about this page  |  Suggest an improvement  |  Leave a message for the team