淺談sqlserver下float的不確定性
很多時(shí)候,大家都知道,浮點(diǎn)型這個(gè)東西,本身存儲(chǔ)就是一個(gè)不確定的數(shù)值,你永遠(yuǎn)無法知道,它是 0 = 0.00000000000000123 還是 0 = 0.00000000000999這樣的東西。也許一開始使用的時(shí)候沒有問題,但是有時(shí)候做統(tǒng)計(jì)的時(shí)候,就會(huì)看出端倪
簡單的舉個(gè)例子,就知道統(tǒng)計(jì)的時(shí)候,有可能出現(xiàn)意外的效果,導(dǎo)致可能需要存儲(chǔ)過程或者接收程序的代碼左額外的取舍數(shù)位的處理,所以在此其實(shí)我是推薦使用Numeric來替代float進(jìn)行一個(gè)替代使用,避免一個(gè)sum ,然后明明明細(xì)看每一條數(shù)據(jù)都是正常的2,3位小數(shù),一匯總就變成了8,9位的樣子
CREATE TABLE #T (ID INT IDENTITY,Va FLOAT) CREATE TABLE #T1 (ID INT IDENTITY,Va NUMERIC(15,9)) --分開執(zhí)行------------------------------------------------- INSERT INTO #T ( Va ) VALUES ( 0.60000000) INSERT INTO #T1 ( Va ) VALUES ( 0.60000000) GO 100 SELECT SUM(Va) FROM #T SELECT SUM(Va) FROM #T1 ---------------------- 60.0000000000001 (1 行受影響) --------------------------------------- 60.000000000 (1 行受影響)
總結(jié)
以上就是本文關(guān)于淺談sqlserver下float的不確定性的全部內(nèi)容,希望對(duì)大家有所幫助。感興趣的朋友可以參閱本站:簡述Redis和MySQL的區(qū)別、ORACLE SQL語句優(yōu)化技術(shù)要點(diǎn)解析、MYSQL子查詢和嵌套查詢優(yōu)化實(shí)例解析等,有什么問題可以隨時(shí)留言,小編會(huì)及時(shí)回復(fù)大家。感謝各位對(duì)腳本之家的支持!
相關(guān)文章
淺析Sql server鎖,獨(dú)占鎖,共享鎖,更新鎖,樂觀鎖,悲觀鎖
以下是對(duì)Sql server鎖,獨(dú)占鎖,共享鎖,更新鎖,樂觀鎖,悲觀鎖進(jìn)行了詳細(xì)的介紹,需要的朋友可以過來參考下2013-08-08SQL中的開窗函數(shù)詳解可代替聚合函數(shù)使用
這篇文章主要介紹了SQL中的開窗函數(shù)詳解可代替聚合函數(shù)使用,本文通過實(shí)例代碼給大家介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2020-03-03查詢SQLServer啟動(dòng)時(shí)間的三種方法
這篇文章主要介紹了查詢SQLServer啟動(dòng)時(shí)間的三種方法,本文直接給出查詢示例,需要的朋友可以參考下2015-07-07SQL Server 中的數(shù)據(jù)類型隱式轉(zhuǎn)換問題
這篇文章主要介紹了SQL Server 中的數(shù)據(jù)類型隱式轉(zhuǎn)換問題,本文給大家介紹的非常不錯(cuò),具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2019-08-08