来自李坤的问题
长度测量的特殊方法的结果如何保留小数点
长度测量的特殊方法的结果如何保留小数点
1回答
2020-02-06 11:04
长度测量的特殊方法的结果如何保留小数点
长度测量的特殊方法的结果如何保留小数点
郭敦顒回答:
任何实际工作中的计算问题,都存在着其计算结果如何保留小数点后若干位的问题,当然首先有计算单位的选择与规定,如长度测量所用计算单位先要看是什么范围内的测量,在宇宙间长度测量计算单位一般用光年,地形长度测量计算单位常用米或千米,在机械、工程建设长度测量计算单位常用毫米、厘米,而在新材料领域里长度测量计算单位用纳米.
下面再说计算结果如何保留小数点后若干位的问题,这问题受制于以下诸因素与规定:
(1)测量用具仪器的精密程度.
(2)测量工作的状况,及所可能产生的误差大小.
(3)按需要与技术水平,对计算最后结果确定保留小数点后位数的规定.
(4)计算情况与保留小数点后若干位的关系与规则
A,保留小数点后的位数,以参与计算数据中精确度最低小数点后的位数为准而多保留1位(整数的精确度最高).
B,最后结果保留小数点后位数的进位规定:比如确定保留小数点后2位时,对于小数点后第3位及其后的数,当第3位数大于5时,进位;当第3位数小于5时,舍;当第3位数为5其后没有效数字时,视第2位数字而定.第2位数字为奇数时,第3位数的5进位;第2位数字为偶数时,第3位数的5舍去.