来自胡行的问题
数值分析有效数字的位数请问7×1.0为什么只有一位有效数字呢?怎么解释,谢谢
数值分析有效数字的位数
请问7×1.0为什么只有一位有效数字呢?怎么解释,谢谢
1回答
2020-02-06 12:55
数值分析有效数字的位数请问7×1.0为什么只有一位有效数字呢?怎么解释,谢谢
数值分析有效数字的位数
请问7×1.0为什么只有一位有效数字呢?怎么解释,谢谢
答案错了.
小数点后的0要算在有效数字里的.
因为它的误差<1/2×10^(-1)=1/2乘10^(1-2)
那个数=0.7乘10的1次方,这里m=1,n显然是2.