亚洲在线久爱草,狠狠天天香蕉网,天天搞日日干久草,伊人亚洲日本欧美

為了賬號安全,請及時綁定郵箱和手機立即綁定
已解決430363個問題,去搜搜看,總會有你想問的

一個浮點數精度問題,呼喚達人

一個浮點數精度問題,呼喚達人

海綿寶寶撒 2018-09-14 08:06:14
誰能解釋一下下面這個現象:(double)(float)0.60.60000002384185791(double)0.6f0.60000002384185791(double)(6/10f)0.6(double)(float)(6/10f)0.66/10f 明明是個float,為什么轉換成double后和0.6f轉成double的結果不一樣?
查看完整描述

2 回答

?
慕沐林林

TA貢獻2016條經驗 獲得超9個贊

樓主是否可以把源碼帖出,我測試了一下:

   class Program
    {
        static void Main(string[] args)
        {
            Console.WriteLine((double)(float)(6/10f));
        }
    }

運行結果為:0.600000023841858。你需要查一下double精度的有效位。


查看完整回答
反對 回復 2018-09-19
  • 2 回答
  • 0 關注
  • 574 瀏覽

添加回答

舉報

0/150
提交
取消
微信客服

購課補貼
聯系客服咨詢優惠詳情

幫助反饋 APP下載

慕課網APP
您的移動學習伙伴

公眾號

掃描二維碼
關注慕課網微信公眾號