SetPrecision

SetPrecision[expr, p]
すべての数が p 桁の精度を持つように設定された形の を作成する.

詳細詳細

  • SetPrecisionが,数の精度を増加させるために使用された場合,その数はゼロで充填される.このゼロは二進法のゼロで与えられる.したがって,十進法にした場合,通常,追加された桁はゼロにならない.
  • 要求された数の精度が$MachinePrecisionより劣る場合でも,SetPrecisionは任意の精度の数を返す.
  • SetPrecision[expr, MachinePrecision]expr 中の数を機械精度に変換する.
  • 機械精度数で表すのには大きすぎる,または小さすぎる数がある場合,SetPrecision[expr, MachinePrecision]はそれらの数を精度を$MachinePrecisionとした任意精度数に変換する.
  • expr が機械精度の数値を持つ場合,SetPrecision[expr, p]はコンピュータシステムによって異なる結果を与えることがある.
  • SetPrecisionは,まず数値の内部のバイナリ表示で隠されている余分な桁を表し,それらを使い尽くしてはじめて,連なるゼロを追加する. »
  • は,すべての連なるゼロと任意のコンピュータで精度25を持つ数値を作成する.
  • SetPrecision[expr, p]自体は expr を変更しない.

例題例題すべて開くすべて閉じる

例 (3)例 (3)

式中のすべての数を20桁精度に変換する:

In[1]:=
Click for copyable input
Out[1]=

すべての数を機械精度に変換する:

In[1]:=
Click for copyable input
Out[1]=

機械精度から任意精度に変換する:

In[1]:=
Click for copyable input
Out[1]=
バージョン 2 の新機能 | バージョン 5 での修正機能
New to Mathematica? Find your learning path »
Have a question? Ask support »