【有效数字运算规则】-查字典问答网
分类选择

来自刘海丽的问题

  【有效数字运算规则】

  有效数字运算规则

1回答
2020-04-16 23:54
我要回答
请先登录
杜召彬

  有效数字运算规则

  由于与误差传递有关,计算时加减法和乘除法的运算规则不太相同.

  1.加减法

  先按小数点后位数最少的数据保留其它各数的位数,再进行加减计算,计算结果也使小数点后保留相同的位数.

  例:计算50.1+1.45+0.5812=?

  修约为:50.1+1.4+0.6=52.1

  先修约,结果相同而计算简捷.

  例:计算12.43+5.765+132.812=?

  修约为:12.43+5.76+132.81=151.00

  注意:用计数器计算后,屏幕上显示的是151,但不能直接记录,否则会影响以后的修约;应在数值后添两个0,使小数点后有两位有效数字.

  2.乘除法

  先按有效数字最少的数据保留其它各数,再进行乘除运算,计算结果仍保留相同有效数字.

  例:计算0.0121×25.64×1.05782=?

  修约为:0.0121×25.6×1.06=?

  计算后结果为:0.3283456,结果仍保留为三位有效数字.

  记录为:0.0121×25.6×1.06=0.328

  注意:用计算器计算结果后,要按照运算规则对结果进行修约

  例:计算2.5046×2.005×1.52=?

  修约为:2.50×2.00×1.52=?

  计算器计算结果显示为7.6,只有两位有效数字,但我们抄写时应在数字后加一个0,保留三位有效数字.

  2.50×2.00×1.52=7.60

2020-04-16 23:54:31

最新问答

推荐文章

猜你喜欢

附近的人在看

推荐阅读

拓展阅读

  • 大家都在看
  • 小编推荐
  • 猜你喜欢
  •