/ 猿问

# T-SQL十进制分区准确度

2019-09-03 15:55:26

SELECT CONVERT(DECIMAL(30,15),146804871.212533)/CONVERT(DECIMAL (38,9),12499999.9999)

SELECT CONVERT(DECIMAL(30,15),146804871.212533)/CONVERT(DECIMAL (38,15),12499999.9999)

## 3 回答

--Precision = p1 - s1 + s2 + max(6, s1 + p2 + 1)

--Scale = max(6, s1 + p2 + 1)

--Scale = 15 + 38 + 1 = 54

--Precision = 30 - 15 + 9 + 54 = 72

--Max P = 38, P & S are linked, so (72,54) -> (38,20)

--So, we have 38,20 output (but we don use 20 d.p. for this sum) = 11.74438969709659

SELECT CONVERT(DECIMAL(30,15),146804871.212533)/CONVERT(DECIMAL (38,9),12499999.9999)

--Scale = 15 + 38 + 1 = 54

--Precision = 30 - 15 + 15 + 54 = 84

--Max P = 38, P & S are linked, so (84,54) -> (38,8)

--So, we have 38,8 output = 11.74438969

SELECT CONVERT(DECIMAL(30,15),146804871.212533)/CONVERT(DECIMAL (38,15),12499999.9999)

146804871.212533000000000和12499999.999900000

146804871.212533000000000和12499999.999900000000000

P＆S是相互关联的，因此：

1. （72,54） - >（38,29）

2. （84,54） - >（38,8）

1. 一世。72 - 38 = 34，ii。54 - 34 = 20

2. 一世。84 - 58 = 46，ii。54 - 46 = 8

II。那么输出比例减去我们要扔掉的东西给我们...输出比例中的剩余数字。

• 3 回答
• 0 关注
• 169 浏览

0/150