Js和php遇到浮點(diǎn)數(shù)精度丟失問題的處理辦法
當(dāng)我們?cè)谶M(jìn)行一些大批量數(shù)據(jù)類型計(jì)算的時(shí)候經(jīng)常會(huì)遇到精度不純導(dǎo)致出現(xiàn)xx.566666667的情況，原因就是使用的是IEEE 754標(biāo)準(zhǔn)定義的64位浮點(diǎn)數(shù)格式，數(shù)字不能精確的轉(zhuǎn)換為十進(jìn)制導(dǎo)致。想要解決這
float精度丟失
在對(duì)兩個(gè)float類型的數(shù)據(jù)進(jìn)行四則運(yùn)算的時(shí)候，可能會(huì)導(dǎo)致出現(xiàn)xx.99999999或x.00000001等情況。 例 在上述例子中可以看到，0.55+0.02并不等于0.57，因?yàn)檫@個(gè)結(jié)果在內(nèi)存中其實(shí)是0.579999999或0.570000000001所以并不等于0.57。這個(gè)問題在底層為C的程序中基本都會(huì)出現(xiàn)，例如js，python等等Js例子Python例子這種...
2023-03-24
相關(guān)Tag
