Precision

Precision[x]
x における精度の有効桁数を与える.

詳細詳細

  • Precision[x]x の値における相対的な不確定性の尺度を与える.
  • 絶対的な不確定性では,Precision[x]-Log[10,dx/x]である.
  • Precision[x]は,整数のような厳密な数に対してはInfinityを与える.
  • Precision[x]は通常整数を結果としては返さない.
  • 任意の近似数 x について,Precision[x]RealExponent[x]+Accuracy[x]と等しい.
  • Precision[x]は,機械精度の数に対してはMachinePrecisionを与える.
  • の形式で入力された数は精度であるとみなされる.
  • のように全体のスケールが決定できない数は精度が零であるとみなされる.
  • 精度が零の数はStandardFormではと出力される.ただしは確度である.
  • x が数でない場合,Precision[x]x に現れるすべての数のPrecisionの最小値を与える.MachinePrecisionは,明示的な精度のどれよりも小さいものとみなされる.
1988年に導入
(1.0)
| 2003年に修正
(5.0)