SetPrecision

SetPrecision[expr,p]
すべての数が p 桁の精度を持つように設定された形の を作成する.

詳細詳細

  • SetPrecisionが,数の精度を増加させるために使用された場合,その数はゼロで充填される.このゼロは二進法のゼロで与えられる.したがって,十進法にした場合,通常,追加された桁はゼロにならない.
  • 要求された数の精度が$MachinePrecisionより劣る場合でも,SetPrecisionは任意の精度の数を返す.
  • SetPrecision[expr,MachinePrecision]expr 中の数を機械精度に変換する.
  • 機械精度数で表すのには大きすぎる,または小さすぎる数がある場合,SetPrecision[expr,MachinePrecision]はそれらの数を精度を$MachinePrecisionとした任意精度数に変換する.
  • expr が機械精度の数値を持つ場合,SetPrecision[expr,p]はコンピュータシステムによって異なる結果を与えることがある.
  • SetPrecisionは,まず数値の内部のバイナリ表示で隠されている余分な桁を表し,それらを使い尽くしてはじめて,連なるゼロを追加する. »
  • は,すべての連なるゼロと任意のコンピュータで精度25を持つ数値を作成する.
  • SetPrecision[expr,p]自体は expr を変更しない.
1991年に導入
(2.0)
| 2003年に修正
(5.0)