32位计算机系统最大截断误差是多少

183次

问题描述:

32位计算机系统最大截断误差是多少

推荐答案

2023-10-25 14:40:10

32位计算机系统最大截断误差是123456792。

截断误差大的原因:

1. 据浮点数的定义,浮点数的值越大,在实数轴上越靠右,相邻的两个能表示的浮点数的间距也越大,这就造成截断误差越大。

2.浮点数进行加减法时需要对阶,而且是小阶码向大阶码对齐,尾数右移,移出的比特舍弃。这样两个加数的值相差的越多,较小的数的尾数舍弃的比特也就越多,造成的误差越大。所有这些作用在400w次加法上,也就造成了15475.21875的误差,所以一定要重视浮点数累加的精度问题。

知道问答相关问答

(c)2008-2025 自学教育网 All Rights Reserved