Mathematica 9 is now available
THIS IS DOCUMENTATION FOR AN OBSOLETE PRODUCT.
SEE THE DOCUMENTATION CENTER FOR THE LATEST INFORMATION.
Mathematica > 精度と確度の制御 >

WorkingPrecision

WorkingPrecision
さまざまな数値的演算に与えるオプションで,内部計算で維持する精度の桁数を指定する.
  • WorkingPrecision->n と設定することで,内部計算が最大 n 桁の精度で行われるようになる.
  • WorkingPrecision->MachinePrecisionと設定することで,すべての内部計算が機械数で行われるようになる.
  • 内部計算が n 桁の精度で行われる場合でも,最終的な結果の精度はこれより劣ることがある.
バージョン 1 の新機能 | バージョン 5 での修正機能
© 2013 Wolfram Research, Inc. English
Ask a question about this page  |  Suggest an improvement  |  Leave a message for the team