在計(jì)算機(jī)處理數(shù)據(jù)時(shí)用二進(jìn)制表示,，但并不是所有小數(shù)都可以用「完整」的二進(jìn)制來表示的,，比如十進(jìn)制 0.1 在轉(zhuǎn)換成二進(jìn)制小數(shù)的時(shí)候，是一串無限循環(huán)的二進(jìn)制數(shù),，計(jì)算機(jī)是無法表達(dá)無限循環(huán)的二進(jìn)制數(shù)的,，畢竟計(jì)算機(jī)的資源是有限。因此,，計(jì)算機(jī)只能用「近似值」來表示該二進(jìn)制,，那么意味著計(jì)算機(jī)存放的小數(shù)可能不是一個(gè)真實(shí)值，現(xiàn)在基本都是用 IEEE 754 規(guī)范的單精度浮點(diǎn)類型或雙精度浮點(diǎn)類型來存儲(chǔ)小數(shù)的,，根據(jù)精度的不同,，近似值也會(huì)不同。

把 0.1 轉(zhuǎn)換成二進(jìn)制的結(jié)果是0.0001100110......而0.1 的二進(jìn)制浮點(diǎn)數(shù)轉(zhuǎn)換成十進(jìn)制的結(jié)果是 0.100000001490116119384765625

0.2 的二進(jìn)制浮點(diǎn)數(shù)轉(zhuǎn)換成十進(jìn)制的結(jié)果是 0.20000000298023223876953125

這兩個(gè)結(jié)果相加就是 0.300000004470348358154296875

這個(gè)應(yīng)該是doule類型精度決定的

這個(gè)是計(jì)算機(jī)中的基礎(chǔ)常識,，在計(jì)算機(jī)內(nèi)部,，小數(shù)（浮點(diǎn)）是用二進(jìn)制近似表示的，所以任何浮點(diǎn)的運(yùn)算是有誤差的,，具體你可以參閱有關(guān)《IEEE754》標(biāo)準(zhǔn)（它是有關(guān)浮點(diǎn)存儲(chǔ)及運(yùn)算過程的理論基礎(chǔ)）

Tags：上為

文章版權(quán)聲明：除非注明,，否則均為便查問答網(wǎng)原創(chuàng)文章，轉(zhuǎn)載或復(fù)制請以超鏈接形式并注明出處,。