大学物理数据处理有关有效数字的问题对于课本上定义的有关乘除法-查字典问答网
分类选择

来自胡友强的问题

  大学物理数据处理有关有效数字的问题对于课本上定义的有关乘除法运算中,所得结果的有效数字的位数一般与诸因子中有效数字最少者相同.那么,我想问一下,有没有特殊的情况,因为我在数

  大学物理数据处理有关有效数字的问题

  对于课本上定义的有关乘除法运算中,所得结果的有效数字的位数一般与诸因子中有效数字最少者相同.

  那么,我想问一下,有没有特殊的情况,因为我在数据处理的时候,有时会发现,在这些因子中,仅仅存在一个含有小数位数的因子,其他的因子是2之类的整数,如果按照上面这个定义,那不是要按照“2”的标准,仅仅保留一位有效数字吗?那样不是会使得数据变得不精确了吗?因为上课时忘记问老师了,就是说有存在特殊情况吗?

2回答
2020-05-12 23:28
我要回答
请先登录
牛东

  整数因子和小数因子的乘积,其乘积小数点后保留位数同小数因子------因为所得结果的误差来自小数因子.我是这样理解的(当然,这里默认整数因子是常数,而不是一个带有估值意义的测量值)

2020-05-12 23:29:23
胡友强

  我突然想起来在计算诸如平均值时,就是将一系列数除以一个整数,此时看分子的有效数字的位数,所以解决了,谢谢。

2020-05-12 23:31:59

最新问答

推荐文章

猜你喜欢

附近的人在看

推荐阅读

拓展阅读

  • 大家都在看
  • 小编推荐
  • 猜你喜欢
  •