Ruby中怎么解決Float型十進制小數運算問題
1 回答

慕的地10843
TA貢獻1785條經驗 獲得超8個贊
在計算機幾內部,小數不是按照四舍五入的方法的。因為計算機只有0和1,沒有4和5,所以不能四舍五入的。 不管是float還是double,在處理末位時都是直接丟棄的。比如一個小數,應該是用33位二進制碼才能完全表示的,但是float只有32位
- 1 回答
- 0 關注
- 1030 瀏覽
添加回答
舉報
0/150
提交
取消