Mathematica 9 is now available
THIS IS DOCUMENTATION FOR AN OBSOLETE PRODUCT.
SEE THE DOCUMENTATION CENTER FOR THE LATEST INFORMATION.
Mathematica > 数学和算法 > 数值计算和精度 > 精度和准确度控制 >

Precision

Precision[x]
给出数 x 的精度的有效数目。
  • Precision[x] 给出相对不精确的 x 值的方法。
  • 有绝对不精确的 dxPrecision[x]-Log[10, dx/x]
  • Precision[x] 通常不产生一个整数结果。
  • digits`p 形式输入的数有精度 p
  • 类似 0``a 等整个数值范围不能确定的数视为有零精度。
  • 零精度的数在 StandardForm 中输入为 0.Cross10-a,其中 a 是它们的准确度。
1 的新功能 | 5 中的修改功能
Ask a question about this page  |  Suggest an improvement  |  Leave a message for the team