为了账号安全,请及时绑定邮箱和手机立即绑定

int64(math.Pow(2, 63) - 1) 结果为 -922337203685477580

int64(math.Pow(2, 63) - 1) 结果为 -922337203685477580

Go
不负相思意 2023-01-03 13:39:50
我正在尝试存储不同位的最大和最小有符号整数。该代码适用于 int64 以外的整数package mainimport (    "fmt"    "math")func main() {    var minInt8 int8 = -128    var maxInt8 int8 = 127    fmt.Println("int8\t->", minInt8, "to", maxInt8)    fmt.Println("int8\t->", math.MinInt8, "to", math.MaxInt8)    var minInt16 int16 = int16(math.Pow(-2, 15))    var maxInt16 int16 = int16(math.Pow(2, 15) - 1)    fmt.Println("int16\t->", minInt16, "to", maxInt16)    fmt.Println("int16\t->", math.MinInt16, "to", math.MaxInt16)    var minInt32 int32 = int32(math.Pow(-2, 31))    var maxInt32 int32 = int32(math.Pow(2, 31) - 1)    fmt.Println("int32\t->", minInt32, "to", maxInt32)    fmt.Println("int32\t->", math.MinInt32, "to", math.MaxInt32)    var minInt64 int64 = int64(math.Pow(-2, 63))    var maxInt64 int64 = int64(math.Pow(2, 63) - 1) // gives me the wrong output    fmt.Println("int64\t->", minInt64, "to", maxInt64)    fmt.Println("int64\t->", math.MinInt64, "to", math.MaxInt64)}输出:int8    -> -128 to 127int8    -> -128 to 127int16   -> -32768 to 32767int16   -> -32768 to 32767int32   -> -2147483648 to 2147483647int32   -> -2147483648 to 2147483647int64   -> -9223372036854775808 to -9223372036854775808int64   -> -9223372036854775808 to 9223372036854775807我不知道这种行为的原因,我们将不胜感激。
查看完整描述

1 回答

?
噜噜哒

TA贡献1784条经验 获得超7个赞

这里有多个问题:

math.Pow返回一个float64。此类型不能用于表示此处尝试计算所需的具有全精度的 64 位带符号整数。引用自双精度浮点格式

整数值的精度限制

  • 从 −2^53 到 2^53(−9,007,199,254,740,992 到 9,007,199,254,740,992)的整数可以精确表示

  • 2^53 和 2^54 之间的整数 = 18,014,398,509,481,984 四舍五入到 2 的倍数(偶数)

  • 2^54 和 2^55 之间的整数 = 36,028,797,018,963,968 舍入为 4 的倍数

即使精度足够(在 2^63 的特殊情况下也是如此),float64 的精度也不足以从 2^63 中减去 1。只需尝试以下操作(这里使用 uint64,因为 signed int64 是不够的):

uint64(math.Pow(2, 63))    // -> 9223372036854775808
uint64(math.Pow(2, 63)-1)  // -> 9223372036854775808

先将值转换为 uint64 然后再减去,但这只是因为 2^63 可以在 float64 中用完整的预定义表示,即使具有此大小的其他值不能:

uint64(math.Pow(2, 63))-1  // -> 9223372036854775807


查看完整回答
反对 回复 2023-01-03
  • 1 回答
  • 0 关注
  • 141 浏览
慕课专栏
更多

添加回答

举报

0/150
提交
取消
意见反馈 帮助中心 APP下载
官方微信