|
SetAccuracy
SetAccuracy[expr, a]は,exprのすべての数をa桁の精度で与えられた形にする.
SetAccuracyが数の精密さを増すことに使われた場合,この数はゼロでこの精密さまで桁を増やされる.この場合,2進でゼロが与えられる.したがって,10進に解釈すると,この追加分は通常,ゼロにならない.
SetAccuracyは,$MachinePrecisionよりも小さい有効桁数が得られた場合でも,任意の精度数を返す.
exprが任意の精度数を含む場合,SetAccuracy[expr, a]はコンピュータシステムによって異なる結果を与えることがある.
SetAccuracyは,まず数値の内部のバイナリ表示で隠されている余分な桁を表し,それらを空にした後,連なるゼロを追加する.
0.004``25は,すべての連なるゼロと任意のコンピュータで精度25を持つ数値を作成する.
SetAccuracy[expr, a]自体は,exprを変更することはない.
参照セクション:3.1.5.
次も参照:N,Accuracy,SetPrecision.
バージョン2の新関数
他の例
|