float類型的小數點6位后數字并不是單純的四舍五入，例如3.1415924444會變成3.1415925 3.141592222會變成3.1415923
這里面的邏輯是什么？
慕設計532529
2022-05-03
1 回答
舉報
0/150
提交
取消
2024-05-12
說小數點后6位會被自動舍去其實是不對的。因為這個限制不來源于算法，而來源于32位浮點精度的計算機限制。float大概可以精確7位數字（小數點前的位數+小數點后的位數），后面的數字是不精確的，而且是按照二進制舍入的，不是按照十進制。
如果你做科學計算，最好直接用double，我之前用float就造成了微小誤差的累積