数值分析有效数字的位数请问7×1.0为什么只有一位有效数字呢-查字典问答网
分类选择

来自胡行的问题

  数值分析有效数字的位数请问7×1.0为什么只有一位有效数字呢?怎么解释,谢谢

  数值分析有效数字的位数

  请问7×1.0为什么只有一位有效数字呢?怎么解释,谢谢

1回答
2020-02-06 12:55
我要回答
请先登录
潘存海

  答案错了.

  小数点后的0要算在有效数字里的.

  因为它的误差<1/2×10^(-1)=1/2乘10^(1-2)

  那个数=0.7乘10的1次方,这里m=1,n显然是2.

2020-02-06 12:58:55

最新问答

推荐文章

猜你喜欢

附近的人在看

推荐阅读

拓展阅读

  • 大家都在看
  • 小编推荐
  • 猜你喜欢
  •