什么是舍入误差?怎样产生?其表示方法?怎样计算?例:将十进制-查字典问答网
分类选择

来自宁春梅的问题

  什么是舍入误差?怎样产生?其表示方法?怎样计算?例:将十进制数0.78转换为二进制数。舍入误差小于2-8≈4×10-3这题怎么思考?例:将十进制数0.78转换为二进制数。舍入误差小于2-8≈4×1

  什么是舍入误差?怎样产生?其表示方法?怎样计算?

  例:将十进制数0.78转换为二进制数。舍入误差小于2-8≈4×10-3

  这题怎么思考?

  例:将十进制数0.78转换为二进制数。舍入误差小于2-8≈4×10-3

  这题怎么思考?

  有哪位朋友能将具体的过程告诉我啊?

3回答
2020-10-23 22:02
我要回答
请先登录
沙赫德

  诱人啊!

2020-10-23 22:05:53
索继东

  在实际计算中遇到的数可能位数很多,甚至是无穷小数,如π,√3,1/3等,由于数值计算是按有限位进行的,例如用计算机做数值计算时,由于计算机位数是有限的,对超过位数的数字就要进行舍入.此外,在做乘法,除法时,得到的积和商都只能保留一定的位数,这也要舍入,这种由于在计算过程中对数进行舍入而引起的误差,称为舍入误差.例如,用3.1416作π的近似值产生的误差就是舍入误差.

  舍入误差小于2-8,是不是就是精确到第8位啊,所以

  0.78=0.1100011101...≈0.11000111

  可以吗?

2020-10-23 22:07:09
林光平

  舍入误差基本正确。

  补充一点:舍入误差小于2-8就是2的-8次方,等于0.00390625,约等于0.004。

  1、整数的二进制转换:

  —采用“基数除法”,具体步骤如下:

  (1)将给定的十进制整数除以基数2,余数便是等值的二进制的最低位。

  (2)将上一步的商再除以基数2,余数便是等值的二进制数的次低位。

  (3)重复步骤2,直到最后所得的商等于0为止。各次除得的余数,便是二进制各位的数。

  如十进制数267转换如下:

  (267)D=(100001011)B

  2、纯小数的二进制转换:

  —采用“基数乘法”,其具体步骤如下:

  (1)将给定的十进制纯小数乘以基数2,其积的整数部分便是等值二进制纯小数的最高位。

  (2)将上一步中乘积的小数部分再乘以基数2,所得乘积的整数部分便是次高位。

  (3)重复步骤2,直到乘积的小数部分为0,或者达到要求的精确度为止(舍入误差小于最低位对应的数值)。各次乘积的整数部分便是二进制纯小数的各位,最后一次乘积的整数部分是最低位.

  将十进制数0.78转换为二进制数。舍入误差小于2-8≈4×10-3

  (0.78)D=(0.11000111)B

  3、带小数的二进制转换:

  —将其整数部分和小数分开计算,即整数部分用基数除法,小数部分用基数乘法,最后合起来。

  例:(267.78)D=(100010011.11000111)B

  以上方法可归纳为:

  整数部分——除2取余;

  小数部分——乘2取整。

2020-10-23 22:11:39

最新问答

推荐文章

猜你喜欢

附近的人在看

推荐阅读

拓展阅读

  • 大家都在看
  • 小编推荐
  • 猜你喜欢
  •