Mathematica 9 is now available

Documentation / Mathematica / 組込み関数 / 数値計算 / 数値精度 /

SetAccuracy

FilledSmallSquare SetAccuracy[expr, a]は,exprのすべての数をa桁の精度で与えられた形にする.

FilledSmallSquare SetAccuracyが数の精密さを増すことに使われた場合,この数はゼロでこの精密さまで桁を増やされる.この場合,2進でゼロが与えられる.したがって,10進に解釈すると,この追加分は通常,ゼロにならない.

FilledSmallSquare SetAccuracyは,$MachinePrecisionよりも小さい有効桁数が得られた場合でも,任意の精度数を返す.

FilledSmallSquare exprが任意の精度数を含む場合,SetAccuracy[expr, a]はコンピュータシステムによって異なる結果を与えることがある.

FilledSmallSquare SetAccuracyは,まず数値の内部のバイナリ表示で隠されている余分な桁を表し,それらを空にした後,連なるゼロを追加する.

FilledSmallSquare 0.004``25は,すべての連なるゼロと任意のコンピュータで精度25を持つ数値を作成する.

FilledSmallSquare SetAccuracy[expr, a]自体は,exprを変更することはない.

FilledSmallSquare 参照セクション:3.1.5.

FilledSmallSquare 次も参照:NAccuracySetPrecision

FilledSmallSquare バージョン2の新関数

他の例



Any questions about topics on this page? Click here to get an individual response.Buy NowMore Information
THIS IS DOCUMENTATION FOR AN OBSOLETE PRODUCT.
SEE THE DOCUMENTATION CENTER FOR THE LATEST INFORMATION.