欧美成人片一区二区三区,久久碰人妻一区二区三区,久久婷婷激情综合色综合俺也去,狂野欧美性猛交免费视频,久久夜色精品国产亚洲

24
2023/03

float精度丟失

發(fā)布時間:2023-03-24 09:35:48
發(fā)布者:神棍子
瀏覽量:
0

在對兩個float類型的數(shù)據(jù)進(jìn)行四則運算的時候,可能會導(dǎo)致出現(xiàn)xx.99999999x.00000001等情況。

    例

            php精度丟失實例

在上述例子中可以看到,0.55+0.02并不等于0.57,因為這個結(jié)果在內(nèi)存中其實是0.5799999990.570000000001所以并不等于0.57。這個問題在底層為C的程序中基本都會出現(xiàn),例如js,python等等

js精度丟失實例

Js例子

python精度丟失實例

Python例子

這種情況會直接影響到程序的準(zhǔn)確性,此問題在遇到統(tǒng)計計算、報表程序中尤為重要,解決辦法就是用內(nèi)置的四則云算函數(shù)來去計算,

    Php 使用bc函數(shù)庫bcadd bcsub bcmul bcdiv

    Js建議使用number.js

    Python使用decimal模塊來解決


關(guān)鍵詞:
返回列表