有一個需求是要在一個云監控的狀態值中存儲多個狀態(包括可同時存在的各種異常、警告狀態)使用了位運算機制在一個int型中存儲。
現在監控日志數據量非常大(億級別)需要對數據按每小時、每天進行聚合,供在線報表使用。
狀態分了3個級別:正常(0)、警告(1)、異常(2),聚合時需要使用max選擇最差的狀態,就需要對狀態值進行處理加上級別和狀態位個數,就要借助bigint型來做運算了,
問題是再將bigint 轉為 int時獲取原始狀態值時,SQLServer報錯了:
消息 8115,級別 16,狀態 2,第 1 行
將 expression 轉換為數據類型 int 時出現算術溢出錯誤。
因為狀態碼中已經用到了 0x80000000, 出現了符號位的問題。
寫了一個轉換函數解決了。
CREATE FUNCTION [dbo].[BigintToInt]
(
@Value bigint
)
RETURNS int
AS
BEGIN
-- 是否有int符號位
IF @Value 0x80000000 > 0 RETURN @Value 0xFFFFFFFF | 0xFFFFFFFF00000000
-- 無符號位
RETURN @Value 0xFFFFFFFF
END
您可能感興趣的文章:- linux mysql 報錯:MYSQL:The server quit without updating PID file
- mysql報錯:MySQL server version for the right syntax to use near type=InnoDB的解決方法
- SQL Server附加數據庫報錯無法打開物理文件,操作系統錯誤5的圖文解決教程
- mysql啟動報錯MySQL server PID file could not be found
- SQL Server 2005/2008 導入導出數據常見報錯解決方法
- 一個函數解決SQLServer中bigint 轉 int帶符號時報錯問題
- SQL Server2005打開數據表中的XML內容時報錯的解決辦法
- SQL Server作業報錯特殊案例分析
- sql server利用不同語種語言顯示報錯錯誤消息的方法示例