SetPrecision
SetPrecision[expr,p]
すべての数が p 桁の精度を持つように設定された形の expr を作成する.
詳細
- SetPrecisionが,数の精度を増加させるために使用された場合,その数はゼロで充填される.このゼロは二進法のゼロで与えられる.したがって,十進法にした場合,通常,追加された桁はゼロにならない.
- 要求された数の精度が$MachinePrecisionより劣る場合でも,SetPrecisionは任意の精度の数を返す.
- SetPrecision[expr,MachinePrecision]は expr 中の数を機械精度に変換する.
- 機械精度数で表すのには大きすぎる,または小さすぎる数がある場合,SetPrecision[expr,MachinePrecision]はそれらの数を精度を$MachinePrecisionとした任意精度数に変換する.
- expr が機械精度の数値を持つ場合,SetPrecision[expr,p]はコンピュータシステムによって異なる結果を与えることがある.
- SetPrecisionは,まず数値の内部のバイナリ表示で隠されている余分な桁を表し,それらを使い尽くしてはじめて,連なるゼロを追加する. »
- 0.004`25は,すべての連なるゼロと任意のコンピュータで精度25を持つ数値を作成する.
- SetPrecision[expr,p]自体は expr を変更しない.
例題
すべて開くすべて閉じるスコープ (5)
すべての桁を表示すると結果の末尾にはいくつかの零が付いている:
SetPrecisionは厳密なベキには影響しない:
InterpolatingFunctionオブジェクトに関しては,SetPrecisionは適切なデータのみを変更する:
特性と関係 (5)
Nが適応的に使われるとき,SetPrecisionは単に数の精度を設定する:
Nは適応的に使われるので,結果は要求された精度20になっている:
SetPrecisionを使う:
1000における正弦関数の条件付けにより,精度は20より小さくなっている:
SetPrecisionは実質的に引数1000のSinを精度20で評価する:
Nは一般に式の精度を上げないがSetPrecisionは上げる:
非零の数 について,SetPrecision[x,p]はSetAccuracy[x,p-e]に等しい:
はRealExponentで与えられる:
SetPrecision[x,∞]とRationalize[x,0]は実数の x についての有理近似を与える:
Rationalize[x,0]は x の精度まで x と等しい有理数を返す:
SetPrecision[x,∞]は x のビットによる表現から直接有理数を得る:
SetPrecision[x,∞]およびRootApproximant[x]は実数 x について厳密な近似値を与える:
RootApproximant[x]は x と等価である代数値を x の精度まで与える:
SetPrecision[x,∞]は x のビット単位の表現から直接有理数を得る:
考えられる問題 (1)
SetPrecision[z,prec]は近似ゼロ z について厳密なゼロを作る:
近似ゼロが必要であればSetAccuracyを使う:
これの唯一の例外は,prec がMachinePrecisionのときには機械ゼロになることである:
テキスト
Wolfram Research (1991), SetPrecision, Wolfram言語関数, https://reference.wolfram.com/language/ref/SetPrecision.html (2003年に更新).
CMS
Wolfram Language. 1991. "SetPrecision." Wolfram Language & System Documentation Center. Wolfram Research. Last Modified 2003. https://reference.wolfram.com/language/ref/SetPrecision.html.
APA
Wolfram Language. (1991). SetPrecision. Wolfram Language & System Documentation Center. Retrieved from https://reference.wolfram.com/language/ref/SetPrecision.html