我在Java中有一個非常簡單的劃分（它是每小時的產品數量/產量），但是每當我進行這個劃分時，我都會遇到奇怪的錯誤：float res = quantity / standard;我已經嘗試了上面的幾個值的分區，但我總是得到錯誤，但是我在其他地方嘗試并且正確的那個是這樣的：世界各地：13.6 = 6800 / 500;Java的：13.0 = 6800 / 500;我已經研究過BigDecimal和BigInteger，但是我還沒有找到一種方法來創建這個除法，有沒有其他方法在Java中進行這種劃分而沒有精度錯誤？任何幫助將不勝感激。
3 回答
揚帆大魚
TA貢獻1799條經驗 獲得超9個贊
你正在劃分整數，這意味著你正在使用整數除法。
在整數除法中，結果的小數部分被丟棄。
請嘗試以下方法：
float res = (float) quantity / standard;
^^^^^^^
上面強制將分子視為一個float反過來促進分母浮動的分子，并且執行浮點除法而不是整數除法。
請注意，如果您正在處理文字，則可以更改
float f = 6800 / 500;
包含f后綴以使分母成為浮點數：
float f = 6800f / 500;
瀟瀟雨雨
TA貢獻1833條經驗 獲得超4個贊
如果你擔心精度，我會建議使用double精度數位的兩倍以上。然而，浮點僅精確地表示為0.5的冪或冪的分數。這意味著0.6僅近似表示。這不一定是適當舍入的問題。
double d = (double) 6800 / 500;
要么
double d = 6800.0 / 500;
慕萊塢森
TA貢獻1810條經驗 獲得超4個贊
就我而言，我這樣做：
double a = (double) (MAX_BANDWIDTH_SHARED_MB/(qCount+1));
而不是“正確”：
double a = (double)MAX_BANDWIDTH_SHARED_MB/(qCount+1);
添加回答
舉報
0/150
提交
取消