$MaxExtraPrecision

$MaxExtraPrecision
N等の関数内部で精度保持に使われる補助的な桁数の最大値を示す.

詳細詳細

  • $MaxExtraPrecisionのデフォルト値は50である.
  • Block[{$MaxExtraPrecision=n},expr]を使い,式 の評価中に$MaxExtraPrecisionの値を一時的に変更することができる.
  • 等号関係の判定や式の比較を行う厳密な数値計算や,関数RoundSign等を使った各種の厳密な数値計算では,$MaxExtraPrecisionが陰的に使われる.
1996年に導入
(3.0)