来自郭浩志的问题
【关于有效数字计算1.当计算乘除法时只要保证结果拥有和算式中有效数字数目最少的那一项相等的有效字数就可以了是吧?2.计算1.307/2,结果根据1.中所述是否应该和2保持一致拥有一个有效数为】
关于有效数字计算
1.当计算乘除法时只要保证结果拥有和算式中有效数字数目最少的那一项相等的有效字数就可以了是吧?
2.计算1.307/2,结果根据1.中所述是否应该和2保持一致拥有一个有效数为也就是7呢?如果不是那到底怎么回事?
3.计算加减法时要求应该是结果拥有和算式中小数点后有效数字最少的那一项相同的小数位没错吧?
4.根据3.的说法,这个规定是否适用于科学计数法时?比如说2.11-1.1=1.0,那么(6.63*10^-34)-(5.78*10^-34)=8.50*10^-35是否成立?(这些计算全部要求有效数位正确)
3回答
2020-08-24 19:20