3 回答
TA貢獻1752條經驗 獲得超4個贊
2^E <= abs(X) < 2^(E+1)
epsilon = 2^(E-52) % For a 64-bit float (double precision) epsilon = 2^(E-23) % For a 32-bit float (single precision) epsilon = 2^(E-10) % For a 16-bit float (half precision)
為 半精度 ...如果您希望獲得+/-0.5(或2^-1)的精度,則該數字的最大大小為2^10。任何大于此的值,浮點數之間的距離都大于0.5。 如果您想要一個+/-0.0005的精度(大約2^-11),那么這個數字的最大大小是1,任何大于這個值的值,浮點數之間的距離都大于0.0005。 為 單精度 ...如果希望精度為+/-0.5(或2^-1),則該數字的最大大小為2^23。任何大于此和浮點數之間的距離都大于0.5。 如果您希望獲得+/-0.0005(約2^-11)的精度,則該數字的最大大小為2^13。任何大于此的值和浮點數之間的距離都大于0.0005。 為 雙精度 ...如果希望精度為+/-0.5(或2^-1),則該數字的最大大小為2^52。任何大于此和浮點數之間的距離都大于0.5。 如果要獲得+/-0.0005(約2^-11)的精度,則該數字的最大大小為2^42。任何大于此和浮點數之間的距離都大于0.0005。
TA貢獻1786條經驗 獲得超11個贊
2^53+2和2^54之間的第二個整數可以精確表示。 2^54+4和2^55之間的第四個整數可以精確地表示。 2^55+8和2^56之間的每8個整數都可以精確地表示。 2^56+16和2^57之間的每16個整數都可以精確地表示。 在2^57+32和2^58之間的每32個整數都可以精確地表示。 2^58+64和2^59之間的每64個整數都可以精確地表示。 2^59+128和2^60之間的每128個整數都可以精確表示。 在2^60+256和2^61之間的每256個整數都可以精確地表示。 2^61+512和2^62之間的每512個整數都可以精確表示。......
TA貢獻2039條經驗 獲得超8個贊
添加回答
舉報
