亚洲在线久爱草,狠狠天天香蕉网,天天搞日日干久草,伊人亚洲日本欧美

為了賬號安全,請及時綁定郵箱和手機立即綁定
已解決430363個問題,去搜搜看,總會有你想問的

將 float 轉換為 int 時的 Golang 奇怪行為

將 float 轉換為 int 時的 Golang 奇怪行為

Go
當年話下 2022-07-25 10:18:14
我在golang中有以下代碼:var fnum float32 = 99999999;var inum int32 = int32(fnum);fmt.Println(inum); // This prints out 100000000為什么 99999999 變成了 100000000?我認為我沒有超過 float32 和 int32 的限制,所以不知道為什么會這樣。
查看完整描述

1 回答

?
夢里花落0921

TA貢獻1772條經驗 獲得超6個贊

(IEEE 754) 32 位浮點數表示形式為實數值

value = (?1)^sign × 2^e × (1 + 2^?1 b[22] + 2^?2 b[21] + ... + 2^?23 b[0])

其中“e”是介于 -126 到 +127 之間的整數指數,“b[22], ..., b[0]” 構成有效位。

顯然,這種表示是有限的,并不是所有的實數都可以準確地表示。對于整數,不能精確表示為 float32 的最小整數是 2^24 + 1 = 16777217。特別是此時的指數因子是 2^24,但最小有效數項是 2^?23 b[ 0],奇數(值%2)≠2^24以上的0不能精確表示。

類似地,對于值 99999999,指數因子為 2^26,并且大于 2^26 且 (值 % 8) ≠ 0 的整數無法精確表示。最接近 99999999 的可表示 float32 值是 99999992 和 100000000。


查看完整回答
反對 回復 2022-07-25
  • 1 回答
  • 0 關注
  • 78 瀏覽
慕課專欄
更多

添加回答

舉報

0/150
提交
取消
微信客服

購課補貼
聯系客服咨詢優惠詳情

幫助反饋 APP下載

慕課網APP
您的移動學習伙伴

公眾號

掃描二維碼
關注慕課網微信公眾號