问题详情
问题已解决
所属话题:
#实务#
老师 科学计算机简单的两数相加等于好多小数点
84784999 | 提问时间:2023 01/14 14:50
良老师1
金牌答疑老师
职称:计算机高级
当计算机对两个或多个数进行相加计算时,结果如果超出了十进制整数的表示范围,就会出现一个小数点,表明结果有小数位。比如,两个长整型或者八进制整数相加,它们的和超出了十进制整数8位的表示范围,则会出现小数点。 当计算机对多个数进行相加时,每一个数的小数位的位数不一样,计算机就会将位数不够的小数位补零以保证计算精度,在计算机处理小数精度问题上,一般会使用有限精度和无限精度两种方法,而无论是有限精度还是无限精度,最终的结果都会出现小数点。 拓展知识:计算机在处理小数精度的时候,可以采用舍入法来对小数结果进行处理,其中,四舍五入是最常见的处理方法,它可以将有效数字调整至相应位数的最接近值,而十舍六入法则是一种特殊的处理方法,它可以让有效数字在被调整至指定位数时,能够维持原有的数据规律特性,从而更加准确的处理小数精度问题。
2023 01/14 14:56
下载APP,拍照搜题秒出结果

您有一张限时会员卡待领取

00:10:00

免费领取