Precision
Precision[x]
x における精度の有効桁数を与える.
詳細
- Precision[x]は x の値における相対的な不確定性の尺度を与える.
- 絶対的な不確定性 dx では,Precision[x]は-Log[10,dx/x]である.
- Precision[x]は,整数のような厳密な数に対してはInfinityを与える.
- Precision[x]は通常整数を結果としては返さない.
- 任意の近似数 x について,Precision[x]はRealExponent[x]+Accuracy[x]と等しい.
- Precision[x]は,機械精度の数に対してはMachinePrecisionを与える.
- digits`p の形式で入力された数は精度 p であるとみなされる.
- 0``a のように全体のスケールが決定できない数は精度が零であるとみなされる.
- 精度が零の数はStandardFormでは0.10-aと出力される.ただし a は確度である.
- Precision[x]は,x が数でなければ x に現れるすべての数のPrecisionの最小値を与える.MachinePrecisionは,明示的な精度のどれよりも小さいものとみなされる.
例題
すべて開くすべて閉じるスコープ (2)
Nは与えられた精度に見合う結果を返そうとする:
特性と関係 (3)
すべての機械数がMachinePrecisionという同じ精度を持つ:
しかし,それでも,実部と虚部の精度が異なることがあることには注意が必要である:
近似数についてはPrecision[x]==RealExponent[x]+Accuracy[x]である:
考えられる問題 (4)
MachinePrecisionは常にいかなる明示的な精度よりも小さいものとみなされる:
Precisionは相対誤差に基づくので,ゼロについては測ることができない:
Accuracyを使って誤差の絶対サイズを測ることができる:
結果が零近いと予想される場合は,確度をNの目標として指定することができる:
非正規機械数にはPrecision[x]==RealExponent[x]+Accuracy[x]という関係は当てはまらない:
その代り,非正規数すべてが$MinMachineNumberと同じ非確実性持つ:
テキスト
Wolfram Research (1988), Precision, Wolfram言語関数, https://reference.wolfram.com/language/ref/Precision.html (2003年に更新).
CMS
Wolfram Language. 1988. "Precision." Wolfram Language & System Documentation Center. Wolfram Research. Last Modified 2003. https://reference.wolfram.com/language/ref/Precision.html.
APA
Wolfram Language. (1988). Precision. Wolfram Language & System Documentation Center. Retrieved from https://reference.wolfram.com/language/ref/Precision.html