MATHEMATICA 組込みシンボル

Precision

Precision[x]
x における精度の有効桁数を与える．

詳細 詳細

Precision[x]は x の値における相対的な不確定性の尺度を与える．
絶対的な不確定性では，Precision[x]は-Log[10, dx/x]である．
Precision[x]は，整数のような厳密な数に対してはInfinityを与える．
Precision[x]は通常整数を結果としては返さない．
任意の近似数 x について，Precision[x]はRealExponent[x]+Accuracy[x]と等しい．
Precision[x]は，機械精度の数に対してはMachinePrecisionを与える．
の形式で入力された数は精度であるとみなされる．
のように全体のスケールが決定できない数は精度が零であるとみなされる．
精度が零の数はStandardFormではと出力される．ただしは確度である．
x が数でない場合，Precision[x]は x に現れるすべての数のPrecisionの最小値を与える．MachinePrecisionは，明示的な精度のどれよりも小さいものとみなされる．