问题:
应当用多少位来表示测量或计算数据?
答案:
我们可以显示和打印具有许多位的数值。我桌子上的计算器最多可以显示8位。在我的电脑中,Excel计算产生的非常大的整数最多可以显示15位,后面 跟着一串0(它无法显示美国国家债务的最后一美分)。虽然当今的工程师拥有强大的工具,但有时候,所有这些潜在的精度可能会被滥用。
1945年,作为伍斯特理工学院的一名新生,我购买了Keuffel & Esser Log-Log Duplex Decitrig计算尺,随后几年它一直陪伴着我。利用这把计算尺,我可以计算乘法、除法、幂、根、对数、指数和三角函数量,而且可以测量长度。虽然很低 级,但它是一台真正的机械式模拟计算机。
当然,它有一些很大的(有人会这么说)局限性。它不能用来进行加法和减法运算,也不能告诉我小数点的位置在哪里。这些局限性也有好的一面,那就是要求用户 熟悉数学函数,它不停地驱使着用户进行内在的合理性检查。在计算过程中,用户必须对每一步的结果有一个相当准确的估计,这有助于用户提高心算能力。
它的最高精度是1/1000,对于当时的许多应用而言已经足够精确,甚至现在也是如此。
这不是要否定兆兆位精密计算与从亚原子超微结构到星际超大结构的科技发现和利用的几率提高之间的有益关系。
但在出版物中,请考虑一下有效位。例如,给定的典型电路增益为5.15。而根据直流输入/输出图计算的增益为: (3.3 V – 1.65 V)/0.32 V = 5.15625。最后,其测量值为5.165。在同一实例中,给定的标称失调为1.65 V,但发表出来的测量值是1.641497 V!
若要使有效位保持一致,应比较标称增益5.15、计算增益5.16和测量增益5.17,以及标称失调1.65 V和测量失调1.64 V。有一个能以微伏精度测量1.6 V电压的电压表固然不错,但没必要如此夸耀!
将您的数据和计算公之于众时,必须注意这一问题。取多少有效位合适,应始终根据数据的性质及其目标用途来判断:不能太少以至于无法使用,也不能太多,以免 引起混淆和对数据精度的错误解释。如果你对这个话题不是十分清楚,请在你喜爱的搜索引擎中键入“有效位”,就可以找到大量帮助信息。