Mathematica > 精度と確度の制御 >

WorkingPrecision

WorkingPrecision
さまざまな数値的演算に与えるオプションで,内部計算で維持する精度の桁数を指定する.
  • WorkingPrecision->n と設定することで,内部計算が最大 n 桁の精度で行われるようになる.
  • WorkingPrecision->MachinePrecisionと設定することで,すべての内部計算が機械数で行われるようになる.
  • 内部計算が n 桁の精度で行われる場合でも,最終的な結果の精度はこれより劣ることがある.
バージョン 1 の新機能 | バージョン 5 での修正機能
© 2008 Wolfram Research, Inc. japanese.gif
Ask a question about this page  |  Suggest an improvement  |  Leave a message for the team