亚洲在线久爱草,狠狠天天香蕉网,天天搞日日干久草,伊人亚洲日本欧美

為了賬號安全,請及時綁定郵箱和手機立即綁定
已解決430363個問題,去搜搜看,總會有你想問的

為什么 SQL Server 返回 0.759999 之類的數字,而 MySQL 返回 0.76?

為什么 SQL Server 返回 0.759999 之類的數字,而 MySQL 返回 0.76?

LEATH 2022-06-22 16:28:15
我有一個包含三列的 SQL Server 數據庫表。例如,此列中的一個值可能是 0.76。這列名為“paramvalue”的數據定義為real。當我使用 pyodbc 模塊命令時fetchall(),我得到一個像 0.7599999904632568 而不是 0.76 的數字。我正在使用 Visual Studio 2017 和 Visual Studio 的 Python 工具。我也嘗試過 pypyodbc 模塊,但遇到了同樣的問題。該表有三列,定義如下;pconfig_id [int] IDENTITY(41,1) NOT NULL,paramname  [nvarchar](50)       NOT NULL,paramvalue [real]                   NULL我的 Python 代碼:import pyodbccnxn = pyodbc.connect('DRIVER={SQL Server};SERVER=SERVERNAME;DATABASE=DBNAME;UID=USER;PWD=PASSWORD;Connect Timeout=15')cursor = cnxn.cursor()dict = {}rows = cursor.execute("SELECT * FROM mytable")for row in cursor.fetchall() :    if not row[1] in dict.keys():        dict[row[1]] = {}        dict[row[1]][row[2]] = row[0]在上面的示例中,典型行的 row[2] 的值是 0.7599999904632568,而不是預期的 0.76。
查看完整描述

2 回答

?
海綿寶寶撒

TA貢獻1809條經驗 獲得超8個贊

我應該提到這個數據庫是從 MySQL 數據庫遷移而來的,在這種情況下,類型是浮點數。當我使用 MySQLdb 模塊從該 MySQL 表中獲取數據時,它按預期輸入為 0.76。


這不是由 pyodbc 引起的問題。MySQL 和 MSSQL 的區別在于浮點數的顯示方式。


0.76 不是一個可以精確表示為 32 位浮點(“單精度”)值的值。正如這個網站(和其他網站)會告訴你的那樣,這個數字的最準確表示是 7.599999904632568359375E-1,所以這就是兩個數據庫存儲的內容(內部表示為 0x3F428F5C)。


檢索值時,MSSQL 返回寫入數據庫的實際值。這就是為什么它返回為 0.7599999904632568。


另一方面,MySQL 返回表示浮點值的最短字符串,這將導致給定的存儲值。如文檔中所述:


F -> D 轉換以盡可能高的精度完成,將 D 作為最短字符串返回,當讀回并四舍五入到 IEEE 指定的本機二進制格式中的最接近值時產生 F。


因此,MySQL 往返 0.76,因為它恰好是對應于內部表示為 0x3F428F5C 的浮點值的最短值。這可以通過使用非常接近 0.76 但不完全相等的數字進行測試來說明:


is_mssql = (cnxn.getinfo(pyodbc.SQL_DRIVER_NAME) == 'msodbcsql17.dll')


crsr = cnxn.cursor()


test_value = '0.7599999905'

if is_mssql:

    crsr.execute("CREATE TABLE #foo (x real)")

    crsr.execute(f"INSERT INTO #foo (x) VALUES ('{test_value}')")

    result = crsr.execute("SELECT x FROM #foo").fetchval()

else:

    crsr.execute("CREATE TEMPORARY TABLE foo (x float(23))")

    crsr.execute(f"INSERT INTO foo (x) VALUES ('{test_value}')")

    result = crsr.execute("SELECT x FROM foo").fetchval()

print(f'{"MSSQL" if is_mssql else "MySQL"} returned {result}')

即使 0.7599999905 是“實際”值,MySQL 仍然返回 0.76,MSSQL 仍然返回 0.7599999904632568。


查看完整回答
反對 回復 2022-06-22
?
叮當貓咪

TA貢獻1776條經驗 獲得超12個贊

查看完整回答
反對 回復 2022-06-22
  • 2 回答
  • 0 關注
  • 132 瀏覽
慕課專欄
更多

添加回答

舉報

0/150
提交
取消
微信客服

購課補貼
聯系客服咨詢優惠詳情

幫助反饋 APP下載

慕課網APP
您的移動學習伙伴

公眾號

掃描二維碼
關注慕課網微信公眾號