Mathematica 9 is now available

SEARCH MATHEMATICA 8 DOCUMENTATION

THIS IS DOCUMENTATION FOR AN OBSOLETE PRODUCT.
SEE THE DOCUMENTATION CENTER FOR THE LATEST INFORMATION.

Mathematica > 精度と確度の制御 >

Precision

Precision[x]
x における精度の有効桁数を与える．

Precision[x]は x の値における相対的な不確定性の尺度を与える．

絶対的な不確定性 dx では，Precision[x]は-Log[10, dx/x]である．

Precision[x]は，整数のような厳密な数に対してはInfinityを与える．

Precision[x]は通常整数を結果としては返さない．

任意の近似数 x について，Precision[x]はRealExponent[x]+Accuracy[x]と等しい．

Precision[x]は，機械精度の数に対してはMachinePrecisionを与える．

digits`p の形式で入力された数は精度 p であるとみなされる．

0``a のように全体のスケールが決定できない数は精度が零であるとみなされる．

精度が零の数はStandardFormでは0.10^-aと出力される．ここで a は確度である．

x が数でない場合，Precision[x]は x に現れるすべての数のPrecisionの最小値を与える．MachinePrecisionは，明示的な精度のどれよりも小さいものとみなされる．

すべて閉じる

機械精度数：

任意精度数：

厳密数：

スコープ (2)

一般化と拡張 (1)

アプリケーション (2)

特性と関係 (2)

考えられる問題 (3)

おもしろい例題 (1)

Accuracy RealExponent N Chop SetPrecision MachineNumberQ MachinePrecision PrecisionGoal WorkingPrecision ExactNumberQ NumberMarks

チュートリアル

数値の精度

数値解析の不確定性

式の原子要素

数値的評価と精度

精度と確度の制御

数の表現

バージョン 1 の新機能 | バージョン 5 での修正機能

© 2013 Wolfram Research, Inc.

Ask a question about this page | Suggest an improvement | Leave a message for the team