亚洲在线久爱草,狠狠天天香蕉网,天天搞日日干久草,伊人亚洲日本欧美

為了賬號安全,請及時綁定郵箱和手機立即綁定
已解決430363個問題,去搜搜看,總會有你想問的

如何計算golang溢出?

如何計算golang溢出?

Go
暮色呼如 2023-06-01 14:59:59
我是 Golang 的新手package mainimport "fmt"func main() {    var u uint8 = 255    var m uint16 = 255    fmt.Println(u, u-1, u*(u-1))    fmt.Println(m, m+1, m*m)}輸出./g2255 254 2255 256 65025我知道我在第一種情況下溢出了。但是為什么我得到的結果是2呢?
查看完整描述

1 回答

?
犯罪嫌疑人X

TA貢獻2080條經驗 獲得超4個贊

你已經暗示過溢出,事實上這正是這里發生的事情。您已經知道 和u是什么u-1(分別是 255 和 254),所以讓我們將它們相乘。這給了我們 64770,或二進制:


64770       = 1111 1101 0000 0010

這個結果是 16 位寬,但我們將它存儲在uint8只有 8 位寬的 a 中。因此它被截斷為 8 個最低有效位。從數學上講,這相當于執行64770 mod 2^8或64770 mod 256。在編程上,它等同于執行64770 & (1 << 7)or 64770 & 256:


64770       = 1111 1101 0000 0010

256         =           1111 1111

64770 & 256 = 0000 0000 0000 0010 = 2

無論您選擇如何想象這個操作,結果都是 2。


查看完整回答
反對 回復 2023-06-01
  • 1 回答
  • 0 關注
  • 140 瀏覽
慕課專欄
更多

添加回答

舉報

0/150
提交
取消
微信客服

購課補貼
聯系客服咨詢優惠詳情

幫助反饋 APP下載

慕課網APP
您的移動學習伙伴

公眾號

掃描二維碼
關注慕課網微信公眾號