引用
引用第5樓panguancheng于2019-02-17 09:16發(fā)表的 :
有點(diǎn)懷疑我的老師了
以32位存儲空間為例,二進(jìn)制BIN有效位31位,浮點(diǎn)只有23位。并且二進(jìn)制BIN是整數,沒(méi)有誤差的概念,所以就不會(huì )有誤差,而浮點(diǎn)數本身就可能存在誤差。
以上面10/3為例,二進(jìn)制BIN計算的結果就是3余1,沒(méi)有誤差。而浮點(diǎn)數為3.333.....,由于位數不可能無(wú)限,所以就有誤差。
使用浮點(diǎn)數時(shí)必須考慮誤差,但通常實(shí)際工程中由于23位有效位足夠精確了,對工程計算結果沒(méi)多大影響。