n的范圍 | 精度 | 存儲大小 |
1-24(都視為24) | 7位小數 | 4bytes |
25-53(都視為53) | 15位小數 | 8bytes |
使用近似數值要格外注意盡量避免相等比較,因為比如1可以被存儲為1.000000056,也可以被存儲為1.00000000672,進行相等比較會得到意料之外的結果。
decimal(精確數值類型)
decimal表示的是精確數值類型。不存在精度損失,別名是numeric。
decimal(p, s)
-- 等價于
numeric(p, s)
精確數值類型需要分別指定小數的最大位數(p)和小數位的數量(s):
p的大小也同時決定了存儲位數的大?。?/p>
精度大小 | 存儲位數 |
1-9 | 5 |
10-19 | 9 |
20-28 | 13 |
29-38 | 17 |
因為p和s必須遵守規則:0 = s = p = 38,所以decimal(p, s)實際上能夠表示的有效值是從-10^38+1到10^38-1。這就意味著,decimal數據類型的最大精度是38,即最多可以存儲38位數字,所有這些數字均可位于小數點后面。decimal數據類型存儲精確的數字表示形式,沒有近似值。
小數的除法
小數的除法實際上是近似運算,因此在使用除法的時候SQL Server會自動將小數的類型提升為float類型(隱式數據類型升級)。
小數常量的默認數據類型是decimal,但是float類型的優先級比decimal類型要高。在默認的情況下,SQL Server會將小數數值的常量自動轉換為decimal數據類型(常態下),而在進行小數的除法運算的時候,則會就近進行數據類型的升級,轉換為float(24)或float(53)數據類型(運算時)。
簡單舉個例子,常量12.345在常態下會被解析并轉換為numeric(5, 3)的數值類型,即使用最小精度5和最小小數位數3;而在運算除法時,比如12.345/2則會被解析并轉換為float(24),即最小精度的近似數值類型。
小數轉為字符串
相比cast(float_expression as float(24/53)),使用str()函數更能夠有效控制近似數值的小數位數,因為str()函數獲取的是近似數值。
str(float_expression [ , length [ , decimal ] ])
str()函數可以接受length、decimal兩個參數,皆是可選的。
將decimal常量轉換為varchar類型:
select str(123.45, 10, 2); -- 123.45
將float表達式的值轉換為varchar類型(位數不足自動補0):
select str(1.0/3, 10, 8); -- 0.33333300
對小數常量轉換為varchar類型,減少小數位的數量,由2位減少為1位(會自動進行四舍五入運算):
select str(123.45, 6, 1); -- 123.5
使用函數str或cast將float和decimal強制轉換為varchar類型時,返回的數值可能是不相同的:
select str(56.64564684439527, 38, 20); -- 56.64564684438742000000 select cast(56.64564684439527 as varchar(100)); -- 56.64564684439527
這是因為兩種函數的處理方式的不同導致的:str()函數會對小數數值先取近似值;而cast()函數則是返回與原始值數據類型相同的值(decimal返回精確值,float返回近似值)。
以上就是詳細分析sqlserver中的小數類型(float和decimal)的詳細內容,更多關于sqlserver 小數類型的資料請關注腳本之家其它相關文章!