32位计算机系统最大截断误差是123456792。
截断误差大的原因:
1. 据浮点数的定义,浮点数的值越大,在实数轴上越靠右,相邻的两个能表示的浮点数的间距也越大,这就造成截断误差越大。
2.浮点数进行加减法时需要对阶,而且是小阶码向大阶码对齐,尾数右移,移出的比特舍弃。这样两个加数的值相差的越多,较小的数的尾数舍弃的比特也就越多,造成的误差越大。所有这些作用在400w次加法上,也就造成了15475.21875的误差,所以一定要重视浮点数累加的精度问题。
32位计算机系统最大截断误差是多少
32位计算机系统最大截断误差是123456792。
截断误差大的原因:
1. 据浮点数的定义,浮点数的值越大,在实数轴上越靠右,相邻的两个能表示的浮点数的间距也越大,这就造成截断误差越大。
2.浮点数进行加减法时需要对阶,而且是小阶码向大阶码对齐,尾数右移,移出的比特舍弃。这样两个加数的值相差的越多,较小的数的尾数舍弃的比特也就越多,造成的误差越大。所有这些作用在400w次加法上,也就造成了15475.21875的误差,所以一定要重视浮点数累加的精度问题。