 |
SetPrecision
SetPrecision[expr, p]
すべての数が p 桁の精度を持つように設定された形の 
を作成する．
詳細
- SetPrecisionが，数の精度を増加させるために使用された場合，その数はゼロで充填される．このゼロは二進法のゼロで与えられる．したがって，十進法にした場合，通常，追加された桁はゼロにならない．
- 要求された数の精度が$MachinePrecisionより劣る場合でも，SetPrecisionは任意の精度の数を返す．
- SetPrecision[expr, MachinePrecision]は expr 中の数を機械精度に変換する．
- 機械精度数で表すのには大きすぎる，または小さすぎる数がある場合，SetPrecision[expr, MachinePrecision]はそれらの数を精度を$MachinePrecisionとした任意精度数に変換する．
- expr が機械精度の数値を持つ場合，SetPrecision[expr, p]はコンピュータシステムによって異なる結果を与えることがある．
- SetPrecisionは，まず数値の内部のバイナリ表示で隠されている余分な桁を表し，それらを使い尽くしてはじめて，連なるゼロを追加する． »
は，すべての連なるゼロと任意のコンピュータで精度25を持つ数値を作成する．- SetPrecision[expr, p]自体は expr を変更しない．
バージョン 2 の新機能 | バージョン 5 での修正機能
