亚洲在线久爱草,狠狠天天香蕉网,天天搞日日干久草,伊人亚洲日本欧美

為了賬號安全,請及時綁定郵箱和手機立即綁定
已解決430363個問題,去搜搜看,總會有你想問的

小數點后 1 位和 2 位之間的舍入差

小數點后 1 位和 2 位之間的舍入差

Go
呼喚遠方 2022-08-15 10:05:38
我有一個浮點值,如果超過100,我想舍入到1位小數,如果超過1000,則不舍入小數,否則舍入到2位小數。這有效:func r(f float64) float64 {    if f >= 999.5 {        return math.Round(f)    }    if f >= 99.95 {        return math.Round(f*10) / 10    }    return math.Round(f*100) / 100}但我想知道這是否會更好:func r(f float64) float64 {    if f >= 999.5 {        return math.Round(f)    }    if f*10 >= 999.5 {  // **** only changed line ****        return math.Round(f*10) / 10    }    return math.Round(f*100) / 100}這更安全,因為99.95不能完全使用具有二進制指數的浮點來表示。(我相信Go語言需要使用具有二進制指數的IEEE fp格式。999.5 完全可以表示為 fp 值。但是,我的測試(使用)表明,第一個解決方案對于從99.94999999到99.95000001的所有值都非常有效。第一個問題:我擔心得不恰當。math.NextAfter()第二種解決方案的問題在于,我擔心可能會對其進行兩次評估。第二個問題:是否有任何保證優化器將確保它只完成一次。f*10
查看完整描述

1 回答

?
catspeake

TA貢獻1111條經驗 獲得超0個贊

如果您擔心額外的乘法,而不是依賴優化器,則可以通過以下方式將其拉出:


func r(f float64) float64 {

    if f >= 999.5 {

        return math.Round(f)

    }

    

    f *= 10

    if f >= 999.5 {

        return math.Round(f) / 10

    }

    

    f *= 10

    return math.Round(f) / 100

}


查看完整回答
反對 回復 2022-08-15
  • 1 回答
  • 0 關注
  • 131 瀏覽
慕課專欄
更多

添加回答

舉報

0/150
提交
取消
微信客服

購課補貼
聯系客服咨詢優惠詳情

幫助反饋 APP下載

慕課網APP
您的移動學習伙伴

公眾號

掃描二維碼
關注慕課網微信公眾號