MATHEMATICA 組込みシンボル

Precision

Precision[x]

における精度の有効桁数を与える．

詳細

Precision[x]はの値における相対的な不確定性の尺度を与える．

絶対的な不確定性では，Precision[x]は-Log[10, dx/x]である．

Precision[x]は，整数のような厳密な数に対してはInfinityを与える．

Precision[x]は通常整数を結果としては返さない．

任意の近似数 x について，Precision[x]はRealExponent[x]+Accuracy[x]と等しい．

Precision[x]は，機械精度の数に対してはMachinePrecisionを与える．

の形式で入力された数は精度であるとみなされる．

のように全体のスケールが決定できない数は精度が零であるとみなされる．

精度が零の数はStandardFormではと出力される．ただしは確度である．

が数でない場合，Precision[x]はに現れるすべての数のPrecisionの最小値を与える．MachinePrecisionは，明示的な精度のどれよりも小さいものとみなされる．

例題

すべて閉じる

例 (3)

機械精度数：

任意精度数：

厳密数：

機械精度数：

In[1]:=

Out[1]=

任意精度数：

In[1]:=

Out[1]=

厳密数：

In[1]:=

Out[1]=

スコープ (2)

零は確度20である：

精度は0.である：

の精度は

の確度に等しい：

Nは与えられた精度に見合う結果を返そうとする：

しかし，常に達することができる訳ではない：

これは，相対誤差が零と

では測れないからである：

一般化と拡張 (1)

記号式の精度はその数の最小精度である：

アプリケーション (2)

結果の質をチェックする：

計算の反復による精度の低下を追跡する：

特性と関係 (2)

すべての機械数がMachinePrecisionという同じ精度を持つ：

これは53ビット，およそ16桁である：

機械数以外の数の場合，Precision[x] == RealExponent[x] + Accuracy[x]である：

考えられる問題 (3)

MachinePrecisionは常にいかなる明示的な精度よりも小さいものとみなされる：

精度が極めて低い数は，0の仮数として表示される：

Precisionは相対誤差に基づくので，ゼロについては測ることができない：

Accuracyを使って誤差の絶対サイズを測ることができる：

結果が零近いと予想される場合は，確度をNの目標として指定することができる：

おもしろい例題 (1)

テント写像の反復におけるPrecisionとAccuracy：