一个函数解决SQLServer中bigint 转 int带符号时报错问题


有一个需求是要在一个云监控的状态值中存储多个状态(包括可同时存在的各种异常、警告状态)使用了位运算机制在一个int型中存储。

现在监控日志数据量非常大(亿级别)需要对数据按每小时、每天进行聚合,供在线报表使用。
状态分了3个级别:正常(0)、警告(1)、异常(2),聚合时需要使用max选择最差的状态,就需要对状态值进行处理加上级别和状态位个数,就要借助bigint型来做运算了,

问题是再将bigint 转为 int时获取原始状态值时,SQLServer报错了:

消息 8115,级别 16,状态 2,第 1 行
将 expression 转换为数据类型 int 时出现算术溢出错误。

因为状态码中已经用到了 0x80000000, 出现了符号位的问题。
写了一个转换函数解决了。

CREATE FUNCTION [dbo].[BigintToInt]
(
   @Value bigint  
)
RETURNS int
AS
BEGIN
   -- 是否有int符号位
   IF @Value & 0x80000000 <> 0 RETURN @Value & 0xFFFFFFFF | 0xFFFFFFFF00000000
   -- 无符号位
   RETURN @Value & 0xFFFFFFFF
END



相关阅读:
浅析一个MYSQL语法(在查询中使用count)的兼容性问题
前端必备神器 Snap.svg 弹动效果
一篇文章掌握RequireJS常用知识
AngularJS实现textarea记录只能输入规定数量的字符并显示
iOS App开发中Objective-C使用正则表达式进行匹配的方法
详解C++编程中对二进制文件的读写操作
win10系统中怎么截图?
关于js里的this关键字的理解
php mysqli查询语句返回值类型实例分析
Win8/Win8.1系统经常蓝屏提示错误代码0x00000109的故障原因及解决方法
如何修复Win10 Mobile预览版10536侧载安卓APK应用?
使用maven+eclipse搭建struts2开发环境
快速查找数组中的某个元素并返回下标示例
Java函数式编程(八):字符串及方法引用
快速导航

Copyright © 2016 phpStudy |