Mathematica 9 is now available
SEARCH MATHEMATICA 8 DOCUMENTATION
THIS IS DOCUMENTATION FOR AN OBSOLETE PRODUCT.
SEE THE DOCUMENTATION CENTER FOR THE LATEST INFORMATION.
Mathematica > 数学とアルゴリズム > 数値的評価と精度 > 精度と確度の制御 >
Mathematica 組込みシンボルチュートリアル »|関連項目 »|その他 »

SetPrecision

SetPrecision[expr, p]
すべての数が p 桁の精度を持つように設定された形の expr を作成する．
  • SetPrecisionが，数の精度を増加させるために使用された場合，その数はゼロで充填される．このゼロは2進のゼロで与えられる．したがって，10進にした場合，通常，追加された桁はゼロにならない．
  • expr が機械精度の数値を持つ場合，SetPrecision[expr, p]はコンピュータシステムによって異なる結果を与えることがある．
  • SetPrecisionは，まず数値の内部のバイナリ表示で隠されている余分な桁を表し，それらを使い尽くしてはじめて，連なるゼロを追加する． »
  • 0.004`25は，すべての連なるゼロと任意のコンピュータで精度25を持つ数値を作成する．
例題すべて閉じる
例   (3)
式中のすべての数を20桁精度に変換する：
In[1]:=
Click for copyable input
Out[1]=
 
すべての数を機械精度に変換する：
In[1]:=
Click for copyable input
Out[1]=
 
機械精度から任意精度に変換する：
In[1]:=
Click for copyable input
Out[1]=
バージョン 2 の新機能 | バージョン 5 での修正機能
Ask a question about this page  |  Suggest an improvement  |  Leave a message for the team