MATHEMATICA 組込みシンボル

SetPrecision

すべての数が p 桁の精度を持つように設定された形の

を作成する．

詳細

SetPrecisionが，数の精度を増加させるために使用された場合，その数はゼロで充填される．このゼロは二進法のゼロで与えられる．したがって，十進法にした場合，通常，追加された桁はゼロにならない．

要求された数の精度が$MachinePrecisionより劣る場合でも，SetPrecisionは任意の精度の数を返す．

SetPrecision[expr, MachinePrecision]は expr 中の数を機械精度に変換する．

機械精度数で表すのには大きすぎる，または小さすぎる数がある場合，SetPrecision[expr, MachinePrecision]はそれらの数を精度を$MachinePrecisionとした任意精度数に変換する．

expr が機械精度の数値を持つ場合，SetPrecisionはコンピュータシステムによって異なる結果を与えることがある．

SetPrecisionは，まず数値の内部のバイナリ表示で隠されている余分な桁を表し，それらを使い尽くしてはじめて，連なるゼロを追加する． »

は，すべての連なるゼロと任意のコンピュータで精度25を持つ数値を作成する．

SetPrecision自体は expr を変更しない．

例題

すべて閉じる

例 (3)

式中のすべての数を20桁精度に変換する：

すべての数を機械精度に変換する：

機械精度から任意精度に変換する：

式中のすべての数を20桁精度に変換する：

In[1]:=

Out[1]=

すべての数を機械精度に変換する：

In[1]:=

Out[1]=

機械精度から任意精度に変換する：

In[1]:=

Out[1]=

スコープ (5)

複素数の精度を設定する：

近似数を厳密な有理数に変換する：

すべての桁を表示すると結果の末尾にはいくつかの零が付いている：

SetPrecisionは厳密なベキには影響しない：

次で，例えば多項式係数の精度を変えることができる：

非厳密なベキが修正された：

データオブジェクトには特別な規則が適用されることがある：

InterpolatingFunctionオブジェクトに関しては，SetPrecisionは適切なデータのみを変更する：

それでもこれは近似関数として作用するが，精度は新しいものが使われる：

アプリケーション (4)

機械数の式の評価における丸め誤差を求める：

増分が極めて小さいので丸め誤差が近似誤差を支配している：

機械数の表示誤差を求める：

これは

に最も近い機械数なので，誤差は小さい：

最も近い機械数との距離は2のベキ乗である：

微分方程式の係数の精度を上げて誤差をチェックする：

機械精度と精度32で計算した解を求める：

2つの解をプロットする．両者は

より偏位しており，これは重大な誤差を示唆している：

デフォルトの確度と精度モデルを無効にする：

これは，操作を独立のものとして扱うデフォルトのモデルよりも精度の低下が遅い：

それにもかかわらず，返されるすべての数が正しい：

写像が実質的に推移写像なので，反復ごとのビットのロスは許される：

特性と関係 (5)

Nが適応的に使われるとき，SetPrecisionは単に数の精度を設定する：

Nは適応的に使われるので，結果は要求された精度20になっている：

SetPrecisionを使う：

1000における正弦関数の条件付けにより，精度は20より小さくなっている：

SetPrecisionは実質的に引数1000のSinを精度20で評価する：

Nは一般に式の精度を上げないがSetPrecisionは上げる：

非零の数

について，SetPrecision

はSetAccuracy

に等しい：

はRealExponentで与えられる：

SetPrecision

とRationalize

は実数の x についての有理近似を与える：

Rationalize

は x の精度まで x と等しい有理数を返す：

SetPrecision

は x のビットによる表現から直接有理数を得る：

SetPrecision

およびRootApproximant[x]は実数 x について厳密な近似値を与える：

RootApproximant[x]は x と等価である代数値を x の精度までで与える：

SetPrecision

は x のビット単位の表現から直接有理数を得る：

考えられる問題 (1)

SetPrecision

は近似ゼロ z について厳密なゼロを作る：

近似ゼロが必要であればSetAccuracyを使う：

これの唯一の例外は，prec がMachinePrecisionのときには機械ゼロになることである：